Минцифры разработало законопроект об искусственном интеллекте, который вводит прямой запрет на использование нейросетей для манипулирования поведением человека и эксплуатации его уязвимостей. Документ, с которым ознакомились «Известия», сейчас проходит этап межведомственного согласования.
Под эксплуатацией уязвимостей в законе понимается использование возрастных, социально-экономических, психологических и иных состояний человека для целенаправленного воздействия на его поведение, процесс принятия решений или несанкционированного доступа к информации. Требование адресовано прежде всего операторам и разработчикам систем ИИ — компаниям, внедряющим такие технологии в сервисы, приложения или продукты.
Как пояснил ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов, речь идёт о ситуациях, когда система искусственного интеллекта сознательно подталкивает человека к решениям, которые он не принял бы без скрытого давления или манипуляции. ИИ способен влиять на поведение через анализ данных и персонализацию контента — подбирая сообщения, рекомендации или интерфейсы, повышающие вероятность нужного действия. Такие технологии могут применяться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, создания чувства срочности или провоцирования эмоциональной реакции.