На какой вопрос отвечает калькулятор Erlang C
«Сколько операторов нужно на линии?» и «сколько серверов нужно к запуску?» — это один и тот же вопрос. Заявки приходят случайно, каждая на время занимает сервер, а тот, кто застал все серверы занятыми, встаёт в очередь. Калькулятор описывает это как очередь M/M/c и по формуле Erlang C, опубликованной датским инженером А. К. Эрлангом в 1917 году, находит вероятность ожидания, среднее время ожидания, длину очереди и долю заявок, обслуженных за целевое время.
Затем он решает обратную задачу: находит наименьшее число серверов, при котором выполняется цель по уровню обслуживания (и, если задано, предел среднего ожидания), и показывает небольшую таблицу вокруг этого числа, чтобы было видно, что даёт один сервер больше или меньше.
Как пользоваться
- Интенсивность поступления λ: звонки, чаты, обращения или запросы в секунду, минуту или час. Берите значение для самого загруженного интервала, а не среднее за сутки.
- Среднее время обслуживания: среднее время обработки одной заявки (разговор плюс поствызывная обработка в контакт-центре или время обработки запроса на сервере). Можно ввести и интенсивность обслуживания μ одного сервера.
- Число серверов c: операторы, воркеры, потоки или машины, работающие параллельно. Оставьте поле пустым, чтобы увидеть результаты для рекомендуемого числа.
- Цель по уровню обслуживания: доля заявок, которые должны ждать не дольше T. Значение по умолчанию «80% за 20 секунд» — распространённый пример, а не закон и не стандарт. Укажите свою цель.
Тот же инструмент подходит для планирования ИТ-мощностей: введите запросы в секунду и время обслуживания в миллисекундах, а «серверы» считайте параллельными воркерами.
Формулы
При интенсивности поступления λ и среднем времени обслуживания s (интенсивность обслуживания μ = 1/s) нагрузка равна A = λ/μ эрланг, а загрузка — ρ = A/c. Очередь устойчива только при A < c. Иначе она растёт без предела, и калькулятор прямо сообщает об этом вместо числа.
Вероятность того, что заявке придётся ждать, — это Erlang C, C(c, A). Калькулятор получает её через рекурсию Erlang B Bk = A·Bk−1 / (k + A·Bk−1) и C = c·B / (c − A(1 − B)). Факториалы здесь не нужны, поэтому точность сохраняется и для тысяч серверов. Из C следуют:
- среднее ожидание в очереди Wq = C / (cμ − λ) и среднее время в системе W = Wq + 1/μ;
- средняя длина очереди Lq = λWq и среднее число заявок в системе L = Lq + A;
- уровень обслуживания P(Wq ≤ T) = 1 − C·e−(cμ−λ)T (в порядке поступления).
Результаты подчиняются закону Литтла L = λW, который показан как проверка. Сверить его можно в калькуляторе пропускной способности (закон Литтла).
Пример расчёта
В службу поддержки поступает 120 звонков в час (2 в минуту), среднее время обработки 4 минуты, значит A = 2 × 4 = 8 эрланг. При 10 операторах загрузка 80%, ждут 40,9% звонящих, среднее ожидание около 49 секунд, и за 20 секунд отвечают лишь на 65,4% звонков. При 11 операторах вероятность ожидания падает до 24,5%, среднее ожидание до 19,6 секунды, а уровень обслуживания растёт до 80,9%. Значит, для цели «80% за 20 секунд» нужно 11 операторов. С 12 операторами было бы 90,0%.
Проверка по учебнику: в книге Iversen Teletraffic Engineering and Network Planning (пример 9.3.1) система с нагрузкой 20 эрланг, средним временем обслуживания 100 секунд и 32 каналами имеет среднее время ожидания 0,075 с. Калькулятор даёт 0,0747 с.
ИТ-пример: 5000 запросов в секунду по 120 мс — это A = 600 эрланг. Чтобы обработка 99% запросов начиналась в пределах 50 мс, нужно 610 параллельных воркеров. Загрузка при этом 98,4%, среднее ожидание в очереди около 7 мс.
Допущения и ограничения
- Заявки поступают случайно и независимо (пуассоновский поток), время обслуживания распределено экспоненциально.
- Одинаковые серверы обслуживают в порядке поступления, место в очереди не ограничено.
- Никто не уходит из очереди. На деле люди кладут трубку, и тогда Erlang C завышает ожидание и нужный штат. Модель Erlang A (M/M/N+M, Garnett, Mandelbaum и Reiman, 2002) учитывает уход абонентов.
- Результат — это операторы, реально готовые принимать звонки. Перерывы, обучение и отсутствие (shrinkage) добавьте сверху.
- Всплески нагрузки, повторные попытки и сильно меняющееся время обслуживания обычно делают очередь хуже модели. Считайте результат нижней границей и проверяйте на реальной нагрузке.
Пределы ускорения одной задачи при распараллеливании показывает калькулятор закона Амдала.