Полиция арестовала подозреваемых в распространении AI-сгенерированного контента с насилием

Правоохранительные органы 19 стран провели масштабную операцию по задержанию подозреваемых, связанных с преступной сетью, распространявшей материалы с насилием, созданные с помощью искусственного интеллекта (AI). В результате операции Cumberland, координируемой датской полицией и поддерживаемой Европолом, были арестованы 25 человек, изъято 173 электронных устройства и выявлены 273 предполагаемых участника сети.

Большая часть задержаний прошла 26 февраля 2025 года в ходе 33 обысков по всему миру. Главного подозреваемого, гражданина Дании, арестовали еще в ноябре 2024 года за распространение AI-сгенерированного контента через онлайн-платформу. Доступ к запрещенным материалам можно было получить за символическую плату, после чего пользователи получали пароль к сервису.

По словам исполнительного директора Европола Кэтрин Де Болле, создание подобных изображений стало настолько простым, что даже люди без глубоких технических знаний могут генерировать подобный контент. Это значительно усложняет расследования и поиск как преступников, так и жертв. С 2017 года Европол ведет инициативу Stop Child Abuse – Trace An Object, в рамках которой уже удалось идентифицировать 30 жертв и арестовать шестерых преступников.

В ближайшие дни Европол запустит онлайн-кампанию, направленную против использования AI в незаконных целях. В рамках этой инициативы преступников будут выявлять через социальные сети, предупреждающие письма и “нокаут-методы" (визиты правоохранителей к потенциальным нарушителям). В то же время Microsoft заявила о группировке Storm-2139, которая занимается созданием инструментов для обхода защитных механизмов AI, позволяющих генерировать нелегальный контент, включая дипфейки знаменитостей.