Token Bucket и другие алгоритмы лимитирования
Уровень: Senior
Ответ
Token Bucket – каждому пользователю/клиенту выделяется "ведро" с токенами, которое пополняется со временем; каждый запрос "снимает" токен, запросы без токенов блокируются (или откладываются). Leaky Bucket – очередь фиксированного объема: запросы обрабатываются с постоянной скоростью, избыточные отбрасываются. Sliding Window – отслеживание N запросов за последний интервал времени. Эти алгоритмы управляют нагрузкой, сглаживают пики и применяются на шлюзах или в самом сервисе.