로드 밸런싱과 오토스케일링

로드 밸런서(Load Balancer)는 들어오는 요청을 여러 서버에 골고루 분배하는 장치입니다. 마치 고속도로 톨게이트에서 차량을 여러 차선으로 분산시키는 것과 같습니다.

서버 1대로 운영하다가 사용자가 폭증하면 서버가 다운됩니다. 이때 서버를 늘리고, 로드 밸런서를 앞에 두면 트래픽이 고르게 분산되어 안정적으로 서비스할 수 있습니다.

로드 밸런싱이 필요한 시점:

• 서버 CPU/메모리 사용률이 70% 이상 지속될 때
• 응답 시간이 눈에 띄게 느려질 때
• 서버 1대가 죽으면 전체 서비스가 중단될 때 (가용성)
• 사용자 수가 빠르게 증가하고 있을 때

알고리즘	설명	적합한 경우
라운드 로빈	순서대로 돌아가며 배분	서버 성능이 동일할 때
가중 라운드 로빈	성능 좋은 서버에 더 많이 배분	서버 사양이 다를 때
최소 연결	연결이 가장 적은 서버에 배분	요청 처리 시간이 다양할 때
IP 해시	같은 IP는 항상 같은 서버로	세션 고정이 필요할 때
응답 시간 기반	가장 빠른 서버에 배분	서버 상태가 자주 변할 때