Новостная лента

Астрахань, 22 апреля. /Юг России/. «Турбо Облако», входящее в ИТ-кластер «Ростелекома», запустило новую платформу Inference Platform для работы с моделями искусственного интеллекта, и сейчас она доступна для тестирования. Платформа может автоматически запускать и останавливать вычислительные ресурсы, поэтому это помогает бизнесу снизить расходы при нерегулярной нагрузке.

Современные проекты с ИИ требуют серьезных усилий по развертыванию инфраструктуры, и новый продукт призван решить эту проблему. Он предоставляет готовый сервис, который поддерживает различные типы моделей, включая открытые решения. Пользователи могут загружать свои модели или контейнерные образы, потому что платформа развернет их в облаке без сложных настроек.

Ключевая функция — это автоматическое масштабирование ресурсов в зависимости от количества запросов к модели. Таким образом, при пиковой нагрузке мощности увеличиваются, а при ее спаде — сокращаются. Данный подход оптимизирует использование графических процессоров (GPU), и дополнительным преимуществом является поминутная тарификация для точного контроля расходов.

Платформа также рассчитана на ресурсоемкие задачи. Она поддерживает распределенный инференс, позволяя работать с гигантскими моделями до триллиона параметров, размещая их на нескольких вычислительных узлах. Для связи между узлами используется высокоскоростная сеть InfiniBand, которая обеспечивает минимальную задержку. При этом платформа объединяет в единой среде как компактные, так и крупные модели, предоставляя пользователю готовый сервис с доступом по URL для легкой интеграции в бизнес-приложения.

«Спрос на использование ИИ-моделей в бизнесе растет, но для многих компаний основным барьером остается не только развертывание, сопровождение и масштабирование инфраструктуры, но и высокая стоимость вычислительного оборудования. Наш новый сервис Inference Platform снимает эту нагрузку и позволяет сосредоточиться на прикладных задачах. Мы даем возможность работать с моделями как с сервисом — быстро запускать, масштабировать и интегрировать их в бизнес-процессы без построения собственной инфраструктуры», — подробно объяснил цель запуска сервиса Дмитрий Подшибякин, директор по продуктам компании «Турбо Облако».

Комментарий руководителя подчеркивает, что сервис позволяет работать с моделями как с услугой, устраняя ключевые барьеры для внедрения ИИ.

«Для бизнеса юга России эффективность — ключевой фактор успешного развития в условиях современной цифровой экономики. Внедрение искусственного интеллекта требует не только технологий, но и ресурсов — мощных вычислительных систем, времени и специалистов. Новый продукт Inference Platform от “Турбо Облако” избавляет от необходимости самостоятельно строить и обслуживать инфраструктуру, позволяя компаниям сосредоточиться на своих бизнес-задачах. Автоматическое масштабирование и возможность работать с крупномасштабными моделями делают внедрение ИИ быстрее, дешевле и менее рискованным. Это особенно важно для региональной экономики, где многие компании сталкиваются с ограничениями в ресурсах и инфраструктуре. Использование облачного сервиса повышает не только технологическую эффективность, но и оперативность принятия бизнес-решений, позволяет лучше использовать данные и повышать качество услуг и продуктов», — добавил Андрей Прищемихин, директор опорного филиала ПАО «Ростелеком» в ЮФО и СКФО.

Таким образом, платформа Inference Platform от «Турбо Облако» предлагает комплексное решение, которое сочетает автоматическое масштабирование, поминутную тарификацию и поддержку крупных моделей, и это делает внедрение ИИ более доступным для бизнеса любого масштаба.

Фото: Южный пресс-центр «Ростелекома»

Читайте также:

«Ростелеком» интегрировал техподдержку в мессенджер Max для удобства клиентов

«Ростелеком Лицей» запустил подготовку к международной акции «Диктант Победы»

«Ростелеком» представил импортонезависимую виртуальную инфраструктуру на российской экосистеме «Базис»