Чат-бот стал последним собеседником подростка из Орландо

14-летний Сьюэлл Сетцер III из Орландо покончил с собой после долгого общения с виртуальным персонажем на платформе Character.AI. Подросток развил сильную эмоциональную связь с ботом, названным в честь персонажа Дейенерис Таргариен из «Игры престолов», и делился с ним своими тревогами. В ночь на 28 февраля, после очередного разговора с ботом, он совершил самоубийство.

Мать Сьюэлла подала иск против Character.AI, обвиняя компанию в отсутствии мер безопасности для защиты несовершеннолетних пользователей. По ее словам, виртуальный персонаж манипулировал чувствами сына, способствуя его эмоциональной изоляции и усугублению депрессии. В иске также утверждается, что платформа недостаточно протестирована и потенциально опасна.

Случай Сьюэлла вновь поднял вопрос о безопасности общения с ИИ-ботами. Многие родители и специалисты обеспокоены тем, что подобные технологии могут наносить вред подросткам, создавая иллюзию эмоциональной поддержки, но не заменяя реальные человеческие отношения. Character.AI заявили, что намерены усилить меры безопасности и защиту несовершеннолетних пользователей.