Британские власти официально предупредили компании о киберрисках искусственного интеллекта

Британские власти выпустили официальное предупреждение о рисках использования инструментов на основе искусственного интеллекта в компаниях. Об этом пишет Reuters.

В своем посте в официальном блоге британский Национальный центр кибербезопасности уточнил, что эксперты до конца не определили потенциальные проблемы безопасности, которые алгоритмы могут создать в похожих на выполняемые человеком операциях. В частности, речь идет о больших языковых моделях.

Инструменты на основе искусственного интеллекта активно используются в компаниях для работы чат-ботов. Они не только заменяют поиск информации в интернете, но также используются как полноценная замена техподдержке и звонкам от менеджеров отдела продаж. Искусственный интеллект несет определенные риски для корпоративных систем, так как его можно убедить в необходимости выполнения некорректных команд и даже изменить собственные инструкции.

Использующие искусственный интеллект организации призвали быть осторожными и применять его только для продуктов и библиотек кода, находящихся в стадии бета-тестирования.