HPA와 VPA — 트래픽에 따라 Pod을 자동으로 늘리고 줄이는 전략

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web-app
  minReplicas: 2
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 70  # CPU 사용률 70% 목표

# 명령어로 간단히 생성
kubectl autoscale deployment web-app --min=2 --max=20 --cpu-percent=70

# Metrics Server 설치
kubectl apply -f https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml

# 동작 확인
kubectl top nodes
kubectl top pods

필요 replicas = ceil(현재 replicas × (현재 메트릭 / 목표 메트릭))

ceil(3 × (90 / 70)) = ceil(3.86) = 4

spec:
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 70
    - type: Resource
      resource:

        name: memory
        target:
          type: Utilization
          averageUtilization: 80
    - type: Pods
      pods:
        metric:
          name: http_requests_per_second
        target:
          type: AverageValue
          averageValue: "1000"

spec:
  behavior:
    scaleUp:
      stabilizationWindowSeconds: 0    # 즉시 스케일 업
      policies:
        - type: Percent
          value: 100                   # 현재 수의 100%까지 한 번에 증가 가능
          periodSeconds: 60
        - type: Pods
          value: 4                     # 또는 한 번에 최대 4개 추가
          periodSeconds: 60
      selectPolicy: Max                # 두 정책 중 큰 값 적용

    scaleDown:
      stabilizationWindowSeconds: 300  # 5분간 안정화 후 스케일 다운
      policies:
        - type: Percent
          value: 10                    # 한 번에 10%씩만 감소
          periodSeconds: 60

spec:
  metrics:
    - type: Object
      object:
        metric:
          name: requests_per_second
        describedObject:
          apiVersion: networking.k8s.io/v1
          kind: Ingress
          name: web-ingress
        target:
          type: Value
          value: "2000"

apiVersion: autoscaling.k8s.io/v1
kind: VerticalPodAutoscaler
metadata:
  name: web-vpa
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web-app
  updatePolicy:
    updateMode: "Auto"    # 자동 적용

  resourcePolicy:
    containerPolicies:
      - containerName: app
        minAllowed:
          cpu: 100m
          memory: 128Mi
        maxAllowed:
          cpu: 2
          memory: 4Gi
        controlledResources: ["cpu", "memory"]

# VPA 추천값 확인
kubectl describe vpa web-vpa
# Recommendation:
#   Container: app
#     Lower Bound:  Cpu: 100m, Memory: 256Mi
#     Target:       Cpu: 250m, Memory: 512Mi
#     Upper Bound:  Cpu: 500m, Memory: 1Gi

HPA: 커스텀 메트릭(RPS) 기반으로 Pod 수 조절
VPA: CPU/메모리 기반으로 리소스 크기 조절

apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
  name: kafka-consumer-scaler
spec:
  scaleTargetRef:
    name: kafka-consumer
  minReplicaCount: 0    # 이벤트 없으면 0으로 스케일 다운
  maxReplicaCount: 50
  triggers:
    - type: kafka
      metadata:
        bootstrapServers: kafka:9092
        consumerGroup: my-group
        topic: orders
        lagThreshold: "100"  # 컨슈머 랙 100 초과 시 스케일 업

# KEDA 설치
helm install keda kedacore/keda --namespace keda --create-namespace

트래픽 증가 → HPA가 Pod 수 증가 → 노드 리소스 부족 → Cluster Autoscaler가 노드 추가
트래픽 감소 → HPA가 Pod 수 감소 → 노드 유휴 → Cluster Autoscaler가 노드 제거

# HPA 상태 확인
kubectl get hpa web-hpa
# NAME      REFERENCE       TARGETS    MINPODS   MAXPODS   REPLICAS
# web-hpa   Deployment/web  45%/70%    2         20        3

# HPA 이벤트 확인
kubectl describe hpa web-hpa

# 메트릭 확인
kubectl top pods -l app=web