이벤트 루프, 어떤 구성이 최선일까? (4+1가지 아키텍처)

이벤트 루프는 적은 리소스로 높은 동시성(Concurrency)을 처리하기 위한 핵심 디자인 패턴입니다. 하지만 이벤트 루프라고 해서 모두 똑같은 방식으로 동작하는 것은 아닙니다. 애플리케이션의 요구사항에 따라 여러 방식으로 구성할 수 있으며, 각 방식은 뚜렷한 장단점을 가집니다.

1. 단일 스레드 + 입출력 다중화

가장 기본적인 이벤트 루프 모델입니다.

• 동작 방식: 하나의 스레드가 epoll, kqueue, select 등 커널이 제공하는 입출력 다중화 기능을 사용해 여러 개의 소켓(I/O)을 동시에 감시합니다. 이후 준비된(Ready) 소켓의 이벤트만 순서대로 처리하여, I/O 작업으로 인한 대기(Blocking)를 피합니다.

• 장점:

  • 컨텍스트 스위칭 비용이 없고 메모리 사용량이 매우 적습니다.
  • 스레드 동기화(Synchronization) 같은 복잡한 문제에서 자유롭습니다.

• 단점:

  • CPU를 많이 사용하는 작업(Heavy computation) 하나가 들어오면 전체 루프가 멈춥니다 (Head-of-Line Blocking).
  • 멀티코어 CPU의 이점을 활용하지 못합니다.

• 대표 사례: Redis, 초창기 Node.js

2. 단일 스레드 I/O + 워커 스레드

1번 모델의 단점을 보완하기 위한 임시방편적인(Ad-hoc) 방식입니다.

• 동작 방식: 평소에는 1번처럼 동작하다가, CPU 집약적인 작업이 발생하면 그때그때 새로운 스레드를 생성(spawn)해서 작업을 위임하고, 작업이 끝나면 스레드를 소멸시킵니다.

• 장점:

  • 가끔 발생하는 CPU 집약적 작업 때문에 이벤트 루프가 멈추는 것을 방지할 수 있습니다.

• 단점:

  • 스레드를 생성하고 소멸시키는 비용이 매우 큽니다. CPU 집약적인 작업이 빈번하다면 오히려 성능이 저하됩니다.

3. 단일 스레드 I/O + 스레드 풀

가장 널리 사용되는 현대적인 이벤트 루프 모델입니다.

• 동작 방식: 애플리케이션 시작 시 정해진 개수의 워커 스레드 풀(Thread Pool)을 미리 생성해 둡니다. 메인 스레드는 I/O 이벤트를 처리하다가 CPU 집약적인 작업이 생기면 작업 큐(Task Queue)를 통해 스레드 풀에 작업을 분배합니다.

• 장점:

  • 스레드를 재사용하므로 생성/소멸 비용이 없습니다.
  • I/O 작업과 CPU 작업을 명확히 분리하여 멀티코어 활용을 극대화합니다. 안정적이고 효율적입니다.

• 단점:

  • 작업 큐, 스레드 동기화 등 구현 복잡도가 증가합니다.

• 대표 사례: Node.js, Netty (Java)

4. 멀티 스레드 (연결당 스레드)

전통적인 서버에서 많이 사용하던 방식입니다.

• 동작 방식: 클라이언트의 연결(Connection)마다 스레드를 하나씩 할당합니다. 각 스레드는 할당된 연결의 작업을 동기적으로 처리합니다.

• 장점:

  • 개별 스레드는 동기 방식으로 코드를 작성하면 되므로 구현이 직관적이고 간단합니다.

• 단점:

  • 연결 수가 늘어날수록 스레드도 그만큼 늘어나 메모리 사용량이 막대해집니다.
  • 수많은 스레드로 인한 컨텍스트 스위칭 오버헤드가 심각해져 성능이 저하됩니다. (C10K 문제의 주된 원인)

• 대표 사례: Apache HTTP Server (prefork/worker MPM)

최종 진화: 3번 모델 + 멀티 프로세스

최고의 성능을 요구하는 서버는 위 모델들의 장점만을 결합한 하이브리드 아키텍처를 채택합니다.

• 동작 방식:

  1. 서버의 CPU 코어 수만큼 여러 개의 프로세스를 실행합니다.
  2. 각 프로세스는 독자적인 이벤트 루프(3번 모델: 단일 스레드 I/O + 스레드 풀)를 가집니다.
  3. 커널이 들어오는 요청(Connection)을 각 프로세스에 효율적으로 분배합니다.

• 장점 극대화:

  • 프로세스 단위의 병렬 처리: 멀티코어를 완벽하게 활용하며, 하나의 프로세스가 비정상 종료되어도 다른 프로세스에 영향을 주지 않아 안정성이 높습니다.
  • 프로세스 내부의 높은 효율: 각 프로세스는 검증된 3번 모델을 사용하여 수많은 I/O와 가끔 발생하는 CPU 집약적 작업을 효율적으로 동시에 처리합니다.

이 구조는 사실상 현대 고성능 서버 아키텍처의 표준으로, 처리 능력을 극한까지 끌어올리는 가장 효과적인 방법입니다.