Михаил Кобик, «Группа Астра»: между работающим инференсом и полноценным промышленным AI-сервисом — большая дистанция

Михаил Кобик, «Группа Астра»: между работающим инференсом и полноценным промышленным AI-сервисом — большая дистанция

25 сентября в рамках «АстраКонф», посвящённой информационным технологиям в России, Михаил Кобик, технический директор платформы «Боцман» расскажет про Боцман AI и запуск языковых моделей в защищенном контуре.

Эксперт расскажет про то, как построить собственный инференс ИИ моделей и не потерять последние волосы, ответит на вопрос почему просто запустить vllm это только 10 % результата.

На примерах разберет путь от простого инференса до надежной и безопасной системы: с контролем доступа и потребления, защитой данных, масштабированием, высокой доступностью и мониторингом. Отдельное внимание будет уделено тому, как сохранить модели и корпоративные данные внутри инфраструктуры компании и какие инженерные механизмы необходимы для безопасной эксплуатации ИИ в продакшене.

«Сегодня запустить ИИ-модель технически несложно, но между работающим инференсом и полноценным промышленным AI-сервисом — большая дистанция. В корпоративной среде важно не только качество ответов модели: нужно понимать, где находятся данные, кто и на каких условиях получает доступ к модели, как контролируется потребление ресурсов и что произойдет при росте нагрузки или отказе компонентов. Поэтому мы смотрим на безопасный ИИ как на свойство всей системы вокруг модели — от инфраструктуры и управления GPU до контроля доступа, мониторинга и отказоустойчивости», — говорит Михаил Кобик.

Конференция пройдёт 25 сентября в Москве, регистрация онлайн на сайте.

Также в рамках «АстраКонф» вы сможете узнать:

- как использовать AI для эффективного мониторинга;

- об экосистемном подходе к построению инфраструктуры на базе Astra Linux;

- о платформе для разработки и сопровождения доверенного ПО;

- про доверенное облако КИИ и сервисы для ИИ-нагрузок;

- как защитить самые важные данных компании.

похожие материалы

Стрелочка
Стрелочка
МИД заявил о преимуществе российских систем спутникового интернета перед западными аналогами
МИД заявил о преимуществе российских систем спутникового интернета перед западными аналогами

Российские разработчики систем спутникового интернета готовы предоставлять зарубежным государствам не только услуги связи, но и условия для сохранения цифрового суверенитета.

«Яндекс» восстановил большую часть функций умного дома с «Алисой» после атак на дата-центры
«Яндекс» восстановил большую часть функций умного дома с «Алисой» после атак на дата-центры

Компания «Яндекс» сообщила о восстановлении большинства функций системы умного дома с «Алисой», работа которой была нарушена после серии атак беспилотников на дата-центры.

Anthropic предупредила о появлении ИИ-червей, способных самостоятельно заражать бытовую технику и серверы
Anthropic предупредила о появлении ИИ-червей, способных самостоятельно заражать бытовую технику и серверы

Компания Anthropic предупредила о новой потенциальной угрозе кибербезопасности: небольшие модели искусственного интеллекта могут в ближайшие месяцы научиться самостоятельно распространяться между подключёнными к интернету устройствами.

Синхронизация интересов: как крупный бизнес и ИТ-вендоры помогают вузам настроить обучение под реальные задачи
Синхронизация интересов: как крупный бизнес и ИТ-вендоры помогают вузам настроить обучение под реальные задачи

В Москве прошел форум «Цифровые решения», где представители власти, сферы образования, крупнейших корпораций и ведущих ИТ-компаний обсудили ход цифровизации госуправления и регионов, влияние технологий на развитие экономики и качество жизни людей, а также уделили особое внимание стратегии и практике создания и внедрения тех решений, что уже сейчас работают и дают реальный эффект.

Security Vision на SOC Forum: кибероперации на скорости ИИ – без потери контроля
Security Vision на SOC Forum: кибероперации на скорости ИИ – без потери контроля

Security Vision выступит стратегическим партнером SOC Forum, который пройдет 27-28 октября, и представит концепцию AI-Powered SOC – новый подход к работе центра кибербезопасности, в котором ИИ ускоряет кибероперации, а команда ИБ сохраняет контроль над решениями.

С 8 по 11 сентября 2026 года состоялся юбилейный, 25-й Всероссийский форум «Информационная безопасность. Регулирование. Технологии. Практика. ИнфоБЕРЕГ 2026»
С 8 по 11 сентября 2026 года состоялся юбилейный, 25-й Всероссийский форум «Информационная безопасность. Регулирование. Технологии. Практика. ИнфоБЕРЕГ 2026»

Участники детально проработали приоритетные векторы развития: усиление защиты критической информационной инфраструктуры (КИИ), масштабирование отечественных технологических решений и формирование стандартов безопасного применения искусственного интеллекта.

На Национальном промышленном Конгрессе обсудили шаги для достижения технологического суверенитета страны
На Национальном промышленном Конгрессе обсудили шаги для достижения технологического суверенитета страны

12 октября состоялся Национальный промышленный Конгресс PromSpace – главная дискуссионная площадка для обсуждения актуальных вопросов по формированию актуальной промышленной повестки в России, поддержке отечественных производителей, повышению их конкурентоспособности, а также содействию бизнес-инициативам в разработке, производстве и экспорте высокотехнологичной продукции.