대기열 시스템, 접속자 대기 시스템
- 처리율 제한 장치, 트래픽 유량 제어와 유사
- 스로틀링(Throttling)을 통해 차단만 하는 것이 아니라 입장까지 제어
단말이 직접 복수의 서버 중 서버 부하를 고려하여 하나의서버를선택하고,
선택된 서버를 통해 접속시간 순으로 자신의 접속대기자에 대한 접속처리를 수행하되,
서버마다 서로 다른 수의 접속대기 이탈자가 발생하는 환경에서도
모든 서버에 접속요청한 접속대기자들에 대한 접속처리를 보다 공정하게 수행할 수 있도록 해주는 기술
흔히 생각되는 티켓팅, 이벤트 사이트 혹은 수강신청 사이트 같이 순간적으로 트래픽이 몰릴 때 해당 트래픽을 제어하는 시스템
- 한 서버에 들어올 수 있는 동접 수의 제한이 있다.
- 서버를 늘리는 것은 시간과 자원이 필요하다.
- 필연적으로 서버에 접속할 수 없는 사용자가 발생한다.
- 넘치는 사용자를 단순히 튕겨내는 것보다는 뭔가 알려주면서, 사용자가 접속할 수 있을 때까지 기다리게 해야 한다.
- 기존 시스템에 부하를 주지 않고 사용자들을 기다릴 수 있게 해야함
- 기존 시스템보다 안정적이고 빨라야 함
- 오래 기다린 사람이 가급적이면 먼저 접속해야 함 (선입선출)
- 기다리는 동안 사용자에게 유용한 정보를 제공해야 함 (대기자 수, 예상 대기 시간)
- NDC2019 - 실버바인 대기열 서버 설계 리뷰
- G마켓 대기열 시스템
- 대기열 시스템 구현하기 with Spring, Redis, WebSocket
- 웹 서비스 대기열 서버 구현을 위한 고찰
- 데브와이 - 대기열 시스템 솔루션 판매
- How to Control The Flow of Waiting Lines Effectively
- 넷퍼넬
- 대학교에서 수강신청 사이트 트래픽 제어하는데 많이 사용 (ex. 성균관대학교, 고려대학교)