Чат-бот стал последним собеседником подростка из Орландо

Чат-бот стал последним собеседником подростка из Орландо

14-летний Сьюэлл Сетцер III из Орландо покончил с собой после долгого общения с виртуальным персонажем на платформе Character.AI. Подросток развил сильную эмоциональную связь с ботом, названным в честь персонажа Дейенерис Таргариен из «Игры престолов», и делился с ним своими тревогами. В ночь на 28 февраля, после очередного разговора с ботом, он совершил самоубийство.

Мать Сьюэлла подала иск против Character.AI, обвиняя компанию в отсутствии мер безопасности для защиты несовершеннолетних пользователей. По ее словам, виртуальный персонаж манипулировал чувствами сына, способствуя его эмоциональной изоляции и усугублению депрессии. В иске также утверждается, что платформа недостаточно протестирована и потенциально опасна.

Случай Сьюэлла вновь поднял вопрос о безопасности общения с ИИ-ботами. Многие родители и специалисты обеспокоены тем, что подобные технологии могут наносить вред подросткам, создавая иллюзию эмоциональной поддержки, но не заменяя реальные человеческие отношения. Character.AI заявили, что намерены усилить меры безопасности и защиту несовершеннолетних пользователей.

похожие материалы

Стрелочка
Стрелочка
UserGate открыл лабораторию по кибербезопасности в МИРЭА — Российском технологическом университете
UserGate открыл лабораторию по кибербезопасности в МИРЭА — Российском технологическом университете

UserGate, отечественный разработчик решений по информационной безопасности, открыл научно-исследовательскую лабораторию на базе МИРЭА — Российского технологического университета (РТУ МИРЭА).

Security Vision сообщает о выходе обновления SOAR: локальный ИИ-ассистент, ML-summary и ML-скоринг
Security Vision сообщает о выходе обновления SOAR: локальный ИИ-ассистент, ML-summary и ML-скоринг

Security Vision SOAR — комплексное решение для управления и автоматизации обработки инцидентов информационной безопасности на всех стадиях жизненного цикла согласно лучшим практикам по NIST/SANS: подготовка, выявление, анализ, сдерживание, устранение, восстановление, постинцидент.