1. Главная
  2. Новости
  3. В США предложили обязать разработчиков ИИ внедрить аварийное отключение моделей

В США предложили обязать разработчиков ИИ внедрить аварийное отключение моделей

В США предложили обязать разработчиков ИИ внедрить аварийное отключение моделей

В Палату представителей США внесли двухпартийный законопроект AI Kill Switch Act, который обяжет разработчиков наиболее мощных систем искусственного интеллекта сохранять техническую возможность замедлять, приостанавливать или полностью отключать их работу. Инициативу представили демократ Тед Лью и республиканец Натаниэль Моран.

Согласно тексту законопроекта, полномочия по экстренному вмешательству предлагается передать Министерству внутренней безопасности США. После консультаций с Министерством торговли и директором Национальной разведки ведомство сможет потребовать ограничить доступ к модели, снизить скорость обработки запросов, отключить отдельные возможности или полностью остановить систему.

Меры будут применяться не ко всем чат-ботам. Под регулирование должны попасть компании, получающие от соответствующих ИИ-технологий не менее $500 млн годовой выручки, и модели, вычислительные затраты на разработку которых превышают $100 млн. Проекты для личного, академического или некоммерческого использования предполагается исключить.

Основанием для вмешательства может стать потеря контроля над системой, попытка обойти механизм отключения, сокрытие действий от средств мониторинга или непредусмотренное поведение, повлекшее гибель не менее десяти человек либо экономический ущерб от $100 млн. В случае инцидента разработчик должен сообщить о нем властям в течение 15 дней и сохранить веса модели, телеметрию и другие данные для расследования.

За нарушение общих требований предусмотрен штраф до $2 млн за каждый день, а за отказ выполнить распоряжение об отключении - до $20 млн в сутки. Компания сможет обжаловать решение, однако подача жалобы не приостановит действие экстренного приказа.

Авторы инициативы считают, что переход от разговорных нейросетей к автономным агентам повышает риск непредсказуемых действий в финансовой сфере, транспорте, критической инфраструктуре и кибербезопасности. Законопроект пока только внесен на рассмотрение и не является действующим законом.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
«РДВ Технолоджи» и «Газинформсервис» успешно протестировали СДЗ SafeNode System Loader на базе сервера «Алтай»
«РДВ Технолоджи» и «Газинформсервис» успешно протестировали СДЗ SafeNode System Loader на базе сервера «Алтай»

Компания «РДВ Технолоджи» (российский бренд RDW Computers) подтвердила технологическую совместимость сервера RDW Алтай А212Т со средством доверенной загрузки (СДЗ) SafeNode System Loader российского разработчика программно-аппаратных средств обеспечения информационной безопасности «Газинформсервис».

подробнее Стрелочка
Миграция домена на 300 тыс. пользователей в ALD Pro укладывается в одно ночное окно обслуживания
Миграция домена на 300 тыс. пользователей в ALD Pro укладывается в одно ночное окно обслуживания

«Группа Астра» совместно с Pragmatic Tools провела нагрузочное тестирование миграции инфраструктуры Microsoft Active Directory в службу каталога ALD Pro на стенде крупнейшего российского ИТ-интегратора.

подробнее Стрелочка