1. Главная
  2. Новости
  3. Эксперт Станислав Ежов рассказал, как избавить ИИ от «галлюцинаций»

Эксперт Станислав Ежов рассказал, как избавить ИИ от «галлюцинаций»

Эксперт Станислав Ежов рассказал, как избавить ИИ от «галлюцинаций»

Исследователи выяснили, что современные системы искусственного интеллекта испытывают серьезные трудности при попытке обосновать свои выводы в логических задачах. Эксперт Станислав Ежов рассказал, как избавить ИИ от «галлюцинаций».

Несмотря на впечатляющие способности нейросетей находить правильные ответы, их объяснения часто оказываются бессвязными или не соответствующими действительности. Ученые провели серию тестов, чтобы понять, насколько можно доверять той аргументации, которую выдает машина.

В ходе экспериментов выяснилось, что большие языковые модели зачастую приходят к верному результату интуитивно или используя скрытые закономерности в данных, но при этом генерируют объяснение, которое звучит убедительно, но не имеет ничего общего с реальным путем решения. Это явление эксперты называют «галлюцинацией рассуждений». Получается, что пользователь видит логичную цепочку шагов, но на самом деле алгоритм действовал совершенно иначе. Такая непрозрачность создает серьезные риски при использовании технологий в ответственных сферах.

«Проблема «галлюцинаций» решается не магией, а архитектурой. Например, в нашем ИИ-решении «Тессеракт» мы внедрили жесткий RAG: модель не фантазирует, а работает строго по верифицированным данным внутри закрытого контура. Это сводит риск ошибок к статпогрешности. Доверенный ИИ обязан быть интерпретируемым и безопасным активом, а не просто «красивым текстом», — говорит Станислав Ежов, директор по ИИ «Группы Астра».

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
«Газинформсервис» и Security Vision проведут вебинар о сертифицированной среде на базе СУБД Jatoba
«Газинформсервис» и Security Vision проведут вебинар о сертифицированной среде на базе СУБД Jatoba

Компании «Газинформсервис» Security Vision проведут совместный вебинар, в рамках которого эксперты расскажут о возможностях использования сертифицированной отечественной СУБД «Ятоба» в составе решений Security Vision.

подробнее Стрелочка