Orion soft и ServerICT объединят экспертизу для реализации комплексных AI-продуктов

Среди российских компаний увеличился спрос на развертывание языковых моделей и других AI-сервисов. Для запуска таких проектов требуется инфраструктура, в которой программная платформа, вычислительное оборудование и средства информационной безопасности совместимы между собой и подобраны с учетом конкретной нагрузки.

Сотрудничество Orion soft и ServerICT предоставит заказчикам комплексный подход в реализации AI-проектов. Совместными усилиями компании будут осуществлять подбор и поставку серверного оборудования, а также развертывание программной инфраструктуры, настройку моделей и последующее сопровождение. Компании также планируют прорабатывать конфигурации на базе китайских GPU-ускорителей для корпоративных задач машинного обучения и инференса.

В рамках совместных проектов ServerICT будет отвечать за подбор оборудования, поставку серверов и ускорителей, разработку конфигураций, интеграцию и техническую поддержку. Команда MLOps-инженеров компании сможет проводить тестирование решений и подготовку инфраструктуры под требования конкретных моделей и сценариев использования.

Orion soft предоставит программные продукты для управления и защиты AI-инфраструктуры. Nova AI предназначена для выполнения задач искусственного интеллекта и машинного обучения, распределения GPU-ресурсов, обучения и инференса моделей. StarGuard AI обеспечивает безопасное взаимодействие пользователей с LLM, помогает предотвратить утечки чувствительных данных, управлять доступом к моделям и учитывать расходы на токены.

«Заказчикам все чаще нужна не просто лицензия, а готовый AI-проект — с подобранным оборудованием, развернутой инфраструктурой и сопровождением. Поэтому мы объединяем нашу продуктовую экспертизу с компетенциями ServerICT в аппаратной части и внедрении, чтобы комплексно подходить к реализации таких проектов», — отметил Никита Векессер, руководитель продуктов Nova AI и StarGuard AI в Orion soft.

«Спрос на AI-инфраструктуру растет быстрее, чем экспертиза по ее сборке: можно купить правильные ускорители и все равно не получить рабочий кластер. Партнерство с Orion Soft закрывает этот разрыв — мы отвечаем за оборудование и его подготовку под конкретные модели, коллеги — за платформу управления и контроль работы с LLM» — Сергей Миневич, исполнительный директор ServerICT.