Обновления призваны упростить развертывание, управление и масштабирование ИИ с 3CX в версии V20 Update 10.

С выпуском автономного ИИ-сервера 3CX в V20 Update 10 предстоящие изменения в 3CX призваны сделать локальный ИИ более доступным и простым в установке для всех.

Снижение сложности

Предстоящее обновление для ИИ-сервера 3CX упрощает следующие аспекты:

  • Настройка сетевого экрана
  • Закупка оборудования с GPU
  • Настройка FQDN и SSL для ИИ-сервера

Главное изменение — модель подключения

Наиболее важное предстоящее изменение является архитектурным, а не косметическим.

Connection Model

Вкратце, ИИ-сервер будет вести себя как клиент; он подключается к АТС, а не наоборот. Кроме того, это имеет несколько преимуществ, включая:

  • Не требуется SSL-сертификат
  • Нет требований к публичному FQDN
  • Отсутствует ручная настройка сетевого экрана
  • Прозрачный процесс установки, менее подверженный ошибкам

Однако эти изменения не влияют на безопасность ИИ-сервера, поскольку используется несколько уровней безопасности 3CX для обеспечения доверия.

MacOS как ИИ-сервер

Одним из самых полезных предстоящих обновлений станет поддержка macOS. Проще говоря, можно купить Mac Mini и использовать его в качестве ИИ- сервера.

Безусловно, это меняет правила игры, так как больше не требуется собирать ПК, выбирать GPU и так далее. Минимальный объем памяти для ИИ сервера на базе macOS составит 24 ГБ.

Более понятное название для локального ИИ

Локальный ИИ переименован с “Локальный сервер транскрипции 3CX” (3CX Transcription Engine (Installed Locally)) на “ИИ-сервер 3CX” (3CX AI Server). Это сделано потому, что ИИ-сервер 3CX — это не просто инструмент транскрипции; он размещает несколько различных ИИ моделей, а также выполняет задачи анализа вызовов, которые выходят далеко за рамки обычной транскрипции вызовов.

Transcription Engine

Обновления статуса и мониторинга

С добавлением реализации для macOS и архитектурными изменениями, также обновлены представления статуса и мониторинга для ИИ-серверов.

AI server status

Active Transcriptions

Кроме того, обновление показывает операционную систему сервера с целевым и упрощенным представлением мониторинга. На macOS, в частности, отображается использование как GPU, так и ANE (Apple Neural Engine), а для машин на базе NVIDIA отображается использование RAM и VRAM.

Отслеживая эти полезные статусы сервера Очередь, Конверсии, Максимальные конверсии (Queue, Conversions, Max Conversions), легко понять, работает ли ИИ сервер исправно, занят ли он, завис или ему не хватает ресурсов.

Множественные подключения

Multiple Connections

Гибкость новой архитектуры ИИ-сервера 3CX выходит за рамки установки одного ИИ-сервера. Благодаря обновленной модели подключения можно оптимизировать конвейер обработки ИИ путем:

  • Подключения нескольких ИИ-серверов к одной АТС
  • Совместного использования одного ИИ-сервера между несколькими АТС
  • Совместного использования нескольких ИИ-серверов между несколькими АТС в mesh-сети

Это гарантирует, что ваша конфигурация всегда будет адаптирована к вашим конкретным требованиям по рабочей нагрузке.

Один ИИ-сервер для всех

Новое обновление позволяет использовать один ИИ-сервер на нескольких АТС. Все верно — больше не требуется отдельный сервер для каждой АТС; можно настроить 1 сервер и использовать его совместно с несколькими АТС; и еще одно преимущество заключается в том, что это чрезвычайно просто сделать.

Рассмотрим этот пример:

  • Имеется АТС A и АТС B.
  • К АТС A подключен ИИ-сервер.
  • К АТС B не подключен.

Перейдите к АТС B, добавьте ИИ-сервер с помощью кнопки “+ Add AI Server“; скопируйте полученную команду установки:

Installation commands

Затем выполните ее на ИИ-сервере, который уже использует АТС A, и теперь обе АТС используют один и тот же ИИ-сервер 3CX для транскрипции.

Несколько ИИ-серверов для одной АТС

Ограничение на количество серверов, которые могут быть подключены к АТС, снято. Количество серверов для подключения не имеет практических ограничений, за исключением характеристик машины и сети, а также, конечно же, рабочей нагрузки.

NVIDIA или Apple

Новый ИИ-сервер 3CX может быть развернут на системах с NVIDIA GPU или на Apple MAC.

Архитектура MAC значительно снижает начальную цену на встроенный ИИ, в то время как NVIDIA GPU обеспечивают огромную емкость на одном сервере.

  • Для средних объемов, от 50 000 до 200 000 минут записей в месяц, MAC Mini M4 24 ГБ является очень экономичным.
  • Для более высоких объемов, примерно до 500 000 минут записей в месяц, лучше всего подойдет MacStudio M4 Max 36 ГБ.
  • А для объемов от 500 000 минут записей в месяц и выше, система на базе NVIDIA RTX 4090 полностью покроет потребности.

И, конечно же, можно воспользоваться опциями мультиплексирования ИИ-сервера 3CX, чтобы развернуть наилучшую комбинацию систем для конкретных нужд.

Новейшие ИИ-модели

В этом новом релизе использованы новейшие архитектурные изменения и лучшие отраслевые практики, а также включены новые модели и элементы серверной части, которые ускоряют процесс и уменьшают объем используемой памяти системы, позволяя получить максимум от ИИ-сервера 3CX.

Присоединяйтесь к обсуждению

Присоединяйтесь к обсуждению 3CX на специализированных форумах для партнеров или клиентов. Подписывайтесь на X и LinkedIn, чтобы оставаться в курсе последних новостей и релизов функций.