Министерство обороны США внесло компанию-разработчика ИИ Anthropic в список неблагонадёжных поставщиков и намерено в течение полугода полностью заменить её решения на альтернативные. Причиной стал отказ компании подписать контракты на использование своих моделей в военных целях.
Как сообщает 3DNews, Пентагон принял решение о поэтапном отказе от технологий Anthropic, включая популярную языковую модель Claude. В ведомстве подчеркнули, что переход на альтернативные решения должен завершиться в ближайшие шесть месяцев.
Конфликт возник после того, как Anthropic ужесточила свою политику использования ИИ в оборонном секторе. Компания, изначально позиционирующая себя как приверженец этичного развития искусственного интеллекта, отказалась предоставлять доступ к своим моделям для ряда военных программ Пентагона, сославшись на внутренние политики безопасности и риск использования технологий в летальных автономных системах.
Ранее Anthropic неоднократно заявляла о приверженности принципам безопасного ИИ и даже приняла так называемую «политику ответственного масштабирования» (RSP), которая ограничивает применение её моделей в потенциально опасных сферах. В компании отмечали, что отказ от сотрудничества с оборонным ведомством стал вынужденной мерой для соблюдения собственных стандартов безопасности.
В Пентагоне, однако, назвали действия Anthropic «неконструктивными» и «подрывающими национальную безопасность». В ответ на это Управление перспективных исследовательских проектов Министерства обороны США (DARPA) уже активизировало поиск альтернативных поставщиков ИИ-решений среди других компаний, включая разработчиков открытых моделей и стартапы, готовые к сотрудничеству с военным ведомством.
Эксперты отмечают, что инцидент создаёт прецедент давления на разработчиков ИИ, стремящихся сохранить этический нейтралитет. Внесение в чёрный список Пентагона фактически закрывает для Anthropic доступ к крупнейшему государственному заказчику и может повлиять на её позиции на рынке, где оборонные контракты традиционно приносят многомиллиардные доходы.