[CS] Load Balancing (로드밸런싱)

💡 로드밸런싱은 서버에 가해지는 부하(=로드)를 분산(=밸런싱)해주는 장치 또는 기술을 통칭

→ 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 하는 것이 목적

☑️ 트래픽 대처방법

• Scale-up : 서버 자체의 성능을 확장
• Scale-out : 기존 서버와 동일하거나 낮은 성능의 서버를 두 대 이상 증설하여 운영하는 것

☑️ 로드밸런싱 알고리즘 (부하 분산 방식)

• 라운드로빈 방식 (Round Robin Method)
  • 서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식
  • 클라이언트의 요청을 순서대로 분배하기 때문에 여러 대의 서버가 동일한 스펙을 갖고 있음
  • 서버와의 연결(세션)이 오래 지속되지 않는 경우에 활용하기 적합
• 가중 라운드로빈 방식 (Weighted Round Robin Method)
  • 각각의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분
  • 주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 방식
• IP 해시 방식 (IP Hash Method)
  • 클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식
  • 사용자의 IP를 해싱해 로드를 분배하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장
  • ✅ 해싱(Hashing) : 임의의 길이를 지닌 데이터를 고정된 길이의 데이터로 매핑하는 것, 또는 그러한 함수
• 최소 연결 방식 (Least Connection Method)
  • 요청이 들어온 시점에 가장 적은 연결 상태를 보이는 서버에 우선적으로 트래픽을 배분
  • 자주 세션이 길어지거나, 서버에 분배된 트래픽들이 일정하지 않은 경우 적합
• 최소 리스폰타임 (Least Response Time Method)
  • 서버의 현재 연결 상태와 응답시간을 모두 고려하여 트래픽을 배분
  • 가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 배분하는 방식
  • ✅ 응답시간(Response Time) : 서버에 요청을 보내고 최초 응답을 받을 때까지 소요되는 시간

☑️ L4 로드밸런싱과 L7 로드밸런싱 ⇒ 가장 많이 활용!

✅ L4와 L7은 OSI 7계층에서 각각의 계층을 뜻함 상위 계층은 하위 계층의 장비가 갖고 있는 기능을 모두 가지고 있기 때문에 상위 계층으로 갈수록 더욱 정교한 로드 밸런싱이 가능함

• L4 로드밸런서부터 포트(Port)정보를 바탕으로 로드를 분산하는 것이 가능하기 때문에 한 대의 서버에 각기 다른 포트 번호를 부여하여 다수의 서버 프로그램을 운영하는 경우라면 최소 L4 로드밸런서 이상을 사용해야만 함.

 

	L4 로드밸런서	L7 로드밸런서
네트워크 계층	전송계층 (Transport Layer)	응용계층 (Application Layer)
특징	TCP/UDP 포트 정보를 바탕으로 함	TCP/UDP + HTTP의 URI, FTP의 파일명, 쿠키 정보 등을 바탕으로 함
장점	- 데이터 안을 들여다보지 않고 패킷 레벨에서만 로드를 분산하기 때문에 속도가 빠르고 효율이 높음 - 데이터의 내용을 복호화할 필요가 없기에 안전함 - L7 로드밸런서보다 가격이 저렴함	- 상위 계층에서 로드를 분산하기 때문에 훨씬 더 섬세한 라우팅이 가능함 - 캐싱 기능을 제공함 - 비정상적인 트래픽을 사전에 필터링할 수 있어 서비스 안정성이 높음
단점	- 패킷의 내용을 살펴볼 수 없기 때문에 섬세한 라우팅이 불가능함 - 사용자의 IP가 수시로 바뀌는 경우라면 연속적인 서비스를 제공하기 어려움	- 패킷의 내용을 복호화해야 하기에 더 높은 비용을 지불해야 함 - 클라이언트가 로드밸런서와 인증서를 공유해야하기 때문에 공격자가 로드밸런서를 통해서 클라이언트의 데이터에 접근할 보안 상의 위험성이 존재함