로드 밸런서(Load Balancer)란 (개념, 알고리즘 종류)

 

이미지 출처 : https://tecoble.techcourse.co.kr/post/2021-11-07-load-balancing/

1. 로드 밸런서란?

어플리케이션은 여러 사용자의 요청들을 동시에 처리하고 안정적인 서비스를 제공해주어야한다. 

물론 한 대의 서버로 성능을 계속 키워서 어느 정도는 커버(Scale-up)할 수 있겠지만, 이 방식은 얼마 안가서 한계를 만나게 된다.

따라서 여러 대의 서버를 둬서 요청 부하를 분산하도록 하는 것(Scale-out)이 로드 밸런싱이고 이 역할을 하는게 로드 밸런서이다.

 

로드 밸런서는 사용자와 서버 사이에 위치하며 모든 리소스 서버가 최적의 성능을 내도록 부하를 분산한다.

 

2. 로드 밸런싱 사용의 이점

가용성

서버 장애 또는 부하로 인한 딜레이를 로드 밸런싱을 통해 사전에 방지함으로써 어플리케이션의 가용성을 증가시킨다.

다음과 같은 작업을 간편하게 수행할 수 있다.

• 애플리케이션 가동 중지 없이 애플리케이션 서버 유지 관리 또는 업그레이드 실행
• 백업 사이트에 자동 재해 복구 제공
• 상태 확인을 수행하고 가동 중지를 유발할 수 있는 문제 방지

확장성

어플리케이션의 규모나 트래픽이 증가하더라도 로드 밸런싱을 통해 트래픽들을 지능적으로 여러 서버에 분산할 수 있다.

따라서 확장이 용이해진다.

• 한 서버에서 트래픽 병목 현상 방지
• 필요한 경우 다른 서버를 추가하거나 제거할 수 있도록 애플리케이션 트래픽을 예측
• 안심하고 조정할 수 있도록 시스템에 중복성을 추가

보안성

디도스같은 악성 트래픽 공격을 로드 밸런싱을 통해 피해를 최소화 할 수 있다.

악성 트래픽을 여러 서버로 분산시키거나 방화벽을 통해 사전 차단한다.

• 트래픽 모니터링 및 악성 콘텐츠 차단
• 공격 트래픽을 여러 백엔드 서버로 자동으로 리디렉션하여 영향 최소화
• 추가 보안을 위해 네트워크 방화벽 그룹을 통해 트래픽 라우팅

성능 향상

지능적인 부하 분산을 통해 어플리케이션 응답 성능을 향상시킨다.

• 서버 간에 로드를 균등하게 배포하여 애플리케이션 성능 향상
• 클라이언트 요청을 지리적으로 더 가까운 서버로 리디렉션하여 지연 시간 단축
• 물리적 및 가상 컴퓨팅 리소스의 신뢰성 및 성능 보장

참고 : https://aws.amazon.com/what-is/load-balancing/?nc1=h_ls

 

3. 로드 밸런서의 종류

 

부하 분산에는 L4 , L7 로드 밸런서가 가장 많이 사용된다.

여기서 L4는 OSI7 계층의 통신 계층, L7은 어플리케이션 계층이다.

따라서 다른 말로 네트워크 로드 밸런서 , 어플리케이션 로드 밸런서라고도 한다.

 

L4 로드 밸런서

전송 계층의 IP, PORT 같은 정보들을 사용하여 부하를 분산한다.

패킷이나 쿠키같은 데이터들을 분석할 필요없이 비교적 단순하게 작동하기 때문에 L7 로드 밸런서에 비해 빠르고 가볍다는 장점이 있다.

 

*Client IP와 서버사이에 서버로 들어오는 트래픽은 로드 밸런서를 통하고 나가는 트래픽은 Client IP와 직접 통신한다.

 

이미지 출처 : https://dev.classmethod.jp/articles/load-balancing-types-and-algorithm/

 

L7 로드 밸런서

애플리케이션 계층(HTTP, FTP, SMTP)에서 로드를 분산하기 때문에 HTTP 헤더, 쿠키 등과 같은 사용자의 요청을 기준으로 특정 서버에 트래픽을 분산하는 것이 가능하다. ex) 결제 서버, 회원 가입 서버

L7 로드 밸런서의 경우 특정한 패턴을 지닌 바이러스를 감지해 네트워크를 보호할 수 있으며, DoS/DDoS와 같은 비정상적인 트래픽을 필터링할 수 있다.

하지만 기능이 많은 대신 그만큼 자원 소모가 크다는 단점이 있다.

 

*Client IP와 서버사이에 들어오고 나가는 트래픽이 모두 로드 밸런서와 통신한다.

 

이미지 출처 : https://dev.classmethod.jp/articles/load-balancing-types-and-algorithm/

4. 로드 밸런서 알고리즘

대표적인 알고리즘 딱 3개개만!

 

라운드 로빈(Round Robin)

요청 받은 순서대로 로드 밸런싱 서버에 할당한다. 

서버들의 성능이 비슷하고 처리 시간이 짧은 경우 유리하다.

 

가중 라운드 로빈(Weighted Round Robin)

서버간 성능이 다른 경우 서버에 가중치를 부여하여서 부하를 분산한다.

 

최소 연결 방식(Least Connection)

연결 상태가 가장 적은 서버에 우선적으로 부하를 분산한다. 

세션이 자주 길어지거나 분배된 트래픽들이 일정하지 않을 경우 유리하다.

 

 

이미지 출처 https://careerly.co.kr/comments/77905

 

DNS 라운드 로빈

로드 밸런서를 활용하지 않고 로드 밸런싱을 하는 방법이다. 

DNS 라운드 로빈 방식을 사용하면 네임서버는 사용자가 입력한 도메인에 해당하는 여러 IP 정보들을 응답한다.

클라이언트는 여러 IP 정보중에서 하나를 선택할 수 있으며, 결론적으로 여러 IP로 트래픽이 분산된다.

이 방식은 웹 서버들이 지리적으로 분산되어 있어 부하 분산이 어렵거나 가벼운 구현 방식이 필요할 때 적합하다.

 

하지만 캐싱으로 인해서 특정 IP에 트래픽이 몰릴 수 있고, 헬스 체크를 하지 못해서 요청한 IP로 연결이 거부될 수 있다는 단점이 있다.