Проблема C10K

Вызов поддержки 10 тыс. одновременных соединений на одном сервере; традиционный тред-на-соединение подход не масштабируется (нехватка памяти и context switch overhead); решение – неблокирующий I/O (epoll, event loop) и асинхронная модель, позволяющая одному потоку обслуживать тысячи сокетов; например, Nginx и Node.js работают с event loop, Java NIO; масштабирование достигается также горизонтально (несколько серверов за load balancer). Современный рубеж поднялся (C10M), но принципы те же.