Алгоритмы RateLimiter

@PytDsSew12331 · Регистрация: 20.02.2022

Студворк — интернет-сервис помощи студентам

Не совсем понимаю принцип данного алгоритма а именно TokenBucket, я ведь правильно понимаю что алгоритм способен контролировать процесс получение доступа к общему ресурсу например к api, то есть если допустим api способен принимать 5 rps, то в клиенте который отправляет непосредственно запросы нужно будет реализовать данное ограничение в виде того же самого алгоритма TokenBucket? Поискал некоторые готовые решения, наткнулся на nuget пакет System.Threading.RateLimiting, создание экземпляра:

C#
1
2
3
4
5
6
7
8
9
            tokenBucketRateLimiter = new(
                new TokenBucketRateLimiterOptions
                {
                    TokenLimit = 5,
                    QueueProcessingOrder = QueueProcessingOrder.OldestFirst,
                    QueueLimit = 5,
                    ReplenishmentPeriod = TimeSpan.FromSeconds(1),
                    TokensPerPeriod = 5
                });

Больше всего интересует свойство QueueLimit, что если я не хочу чтобы было какой то ограничение на максимальную очередь ожидающих запросов, ибо как я понимаю те запросы которые не смогли получить токен и не попали в "ожидающую очередь" просто отбросятся без должной обработки? Есть какие либо идеи как реализовать данную обработку?

@belalugoci · 30.07.2024, 11:49

Это точно вопрос для начинающих?

@PytDsSew12331 · 30.07.2024, 15:24 **[ТС]**

Сообщение от belalugoci

Это точно вопрос для начинающих?

Не уверен но почему нет, может кто то был знаком с данной ситуацией

@Wolfdp · 03.08.2024, 09:40

Сообщение от PytDsSew12331

как я понимаю те запросы которые не смогли получить токен и не попали в "ожидающую очередь" просто отбросятся без должной обработки?

Не совсем. Либа RateLimiting -- очень базовая, которая предоставляет самые примитивные механизмы, которые позволяют ограничивать доступ в единицу времени. Все реализации наследуются от RateLimiter , у которого есть два определенных метода позволяющих реализовывать блокировки в своем коде:

AttemptAcquire -- сразу без задержек возращает объект RateLimitLease, позволяющий узнать, есть у нас право "на выполнение". Этот объект реализует IDisposeble, и в зависимости от стратегии RateLimiter его освобождение автоматические меняет счетчик доступных "токенов". Этот метод позволяет легко отсекать входящие запросы, если выбран лимит.

AcquireAsync -- ждет, пока не появится возможность "на выполнение". Т.е. возвращаемая задача завершится только когда RateLimiter получит новые токены, позволяющие выполнение. Этот метод позволяет распределить выполнение по времени, без отсекания.

Это прям вот самая база. Дальше нужно смотреть реализации RateLimiter, как они себя ведут, какие опции им можно задавать. Всякие asp.net core имеют либу, которые построены на RateLimiting и имеют уже готовую реализацию разграничения запросов по определенной стратегии:
- отсекание запросов (возвращает какой-нибудь http error)
- просто ставит запрос на ожидание, пока не истечет таймаут или не получится выполнить
- всё это относительно сессии, айпишника или иных критерий

Реализовывать ограничения можно только на сервере, и клиент будет либо автоматически "тупить", либо получать ошибки аля "слишком много запросов, идите курить". Можно ровно такое же организовать и на стороне клиента, тут хозяин-барин. Нужно только понимать что от условных ddos защитит только серверная часть. (на всякий, RateLimiting не предназначен для защиты от прям ddos-атак. Его задача -- ограничить количество тяжелых запросов, которыми может штудировать клиент)

Новые блоги и статьи Все статьи Все блоги /
PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .

@belalugoci 475 / 294 / 29 Регистрация: 01.06.2018 Сообщений: 3,676
	30.07.2024, 11:49
	Это точно вопрос для начинающих? 0

Алгоритмы RateLimiter

Решение