Как выбрать оборудование для вашего ИИ-сервера в 3CX V20 U10.

Производительность ИИ-сервера 3CX можно измерять по-разному. Однако двумя наиболее важными показателями являются:

  • Средний коэффициент скорости (Average Speed Factor): сколько минут записей может быть обработано за ОДНУ минуту машинного времени ИИ-сервера. Например, коэффициент скорости 10x означает, что сервер может обработать 10 часов записей за один час своей работы.
  • Среднее время обработки запроса (Average Round Trip Time): сколько секунд в среднем занимает путь записи с момента её поступления на ИИ-сервер до полного завершения задания (непосредственно перед отправкой результатов обратно на АТС).

С выпуском ИИ-сервера 3CX в Update 10 Alpha мы провели тесты, чтобы получить ориентиры по этим показателям.

Имейте в виду, что на среднее время обработки запроса напрямую влияет средняя продолжительность записей разговоров и голосовых сообщений. В наших тестах мы использовали усредненные показатели: средняя продолжительность записи разговора составляла около 140 секунд, а средняя продолжительность голосового сообщения — около 30 секунд. Именно такие цифры мы видим как наиболее типичные в целом.

Для определенных направлений бизнеса или других сценариев записи звонков эти данные могут отличаться. Например, если вы записываете звонки кандидатов на собеседования, средняя продолжительность может быть значительно больше, поэтому и цифры для вашего случая будут сильно отличаться.

Тем не менее, приведенный ниже рейтинг в зависимости от того, какая конфигурация оборудования медленнее/быстрее, в целом останется актуальным.

По коэффициенту скорости (в порядке возрастания скорости):

  • 18x — MacMini M4 Standard 24Gb
  • 32x — Google g2-standard-4_NVIDIA_L4
  • 43x — MacStudio M4 Max 14-core 36Gb
  • 44x — Single RTX4060Ti 16Gb
  • 111x — Single RTX4090 24Gb
  • 226x — Dual RTX4090 24Gb

По среднему времени обработки запроса (от медленных к быстрым):

  • 55 с — MacMini M4 Standard 24Gb
  • 31 с — Google g2-standard-4_NVIDIA_L4
  • 25 с — MacStudio M4 Max 14-core 36Gb
  • 18 с — Single RTX4060Ti 16Gb
  • 11 с — Dual RTX4090 24Gb
  • 9 с — Single RTX4090 24Gb

Пожалуйста, учитывайте, что это ранняя версия нового ИИ-сервера 3CX, и по мере внесения дальнейших корректировок эти цифры могут измениться.

Присоединяйтесь к обсуждению

Присоединяйтесь к обсуждению 3CX на наших форумах для партнеров или клиентов. Следите за новостями и релизами функций в X и LinkedIn.