서버 부하 관리
서비스 특성상 동시에 발생하는 트래픽의 규모를 예측하기 쉽지 않습니다. 따라서 서버의 마비를 방지하기위해 트래픽을 감지하여 가변적으로 서버가 증설되어야 했습니다.
AWS의 Auto Scaling 을 통해 문제를 해결할 수 있었습니다.
기본적으로 저희는 상시 유지 1대 서버와 자동 증설 서버 1대 총 2대의 서버를 유지하고 있습니다.
동적 크기 조정 정책: 인스턴스를 생성할 조건을 적용합니다.
주로 사용되는 정책은 Auto Scaling group에 속한 인스턴스들의 평균 CPU 로드율로 조정하는 것과 로드밸런서를 통해 특정 대상 그룹에 들어가는 분당 요청수로 조정하는 것이 있습니다.
저희는 분당 요청수 대상 그룹의 분당 요청수가 4천으로 유지될 수 있도록 동적 크기 조정 정책을 설정했습니다.
기간 정책: 특정 기간에 동적 크기 조정 정책으로 생성될 수 있는 최소 최대 개수를 설정합니다.
가장 트래픽이 몰리는 당일에 자동적으로 최대 인스턴스 개수를 늘리고 서버 한 대를 증설하여 상시 유지 2대 동적 추가 2대로 설정했습니다.
보통 첫 날에 트래픽이 많이 몰리고 급격하게 줄어들기 때문에 2일 후 기본값으로 되돌아 가도록 설정했습니다.