OpenAI поймала хакеров из КНДР, использующих ChatGPT для кибератак

OpenAI поймала хакеров из КНДР, использующих ChatGPT для кибератак

OpenAI сделала заявление, что заблокировала несколько аккаунтов в ChatGPT, которые принадлежали северокорейским хакерам. Эти злоумышленники использовали искусственный интеллект для поиска уязвимостей в системе и создания инструментов для взломов, что поднимет тревогу у всех, кто еще сомневается в потенциале ИИ как оружия.

Группировки Velvet Chollima и Stardust Chollima (связанные с известными хакерскими группами КНДР) использовали ChatGPT для генерации кода, который помогал им обходить системы защиты и совершать атаки с помощью RDP-протокола. Они не остановились на этом: пытаясь внедрить свои люди в американские компании, они использовали фальшивые схемы трудоустройства для привлечения IT-специалистов из Северной Кореи.

Как это было возможно? По словам представителей OpenAI, аккаунты были выявлены с помощью партнеров компании, которые также заметили подозрительную активность. Этот инцидент подчеркивает важность усиленной безопасности и контроля за использованием ИИ.

Между тем, OpenAI активно сотрудничает с Национальными лабораториями США, предоставляя доступ к своим моделям для работы в области ядерной безопасности. Подобные партнерства могут стать решающим фактором в борьбе с угрозами, но в то же время они открывают новые риски.

похожие материалы

Стрелочка
Стрелочка
Исследователи представили ноябрьский дайджест трендовых уязвимостей
Исследователи представили ноябрьский дайджест трендовых уязвимостей

Эксперты Positive Technologies опубликовали свежий дайджест трендовых уязвимостей, включивший девять критических недостатков безопасности, затрагивающих популярные программные продукты: от Microsoft и Linux до Redis, Zimbra и XWiki.

Технологии уПАКованные для бизнеса: «Группа Астра» выводит на рынок новую линейку ПАКов XPlatform
Технологии уПАКованные для бизнеса: «Группа Астра» выводит на рынок новую линейку ПАКов XPlatform

«Группа Астра» выводит на рынок линейку программно-аппаратных комплексов XPlatform, предназначенных для быстрого развертывания устойчивой, высокопроизводительной и безопасной ИТ-инфраструктуры «под ключ».

Российский бизнес получил бесплатный онлайн-сервис для быстрой оценки киберустойчивости
Российский бизнес получил бесплатный онлайн-сервис для быстрой оценки киберустойчивости

K2 Cloud, K2 Кибербезопасность и Positive Technologies запустили бесплатный онлайн-сервис, который позволяет за 10 минут оценить уровень защиты ИТ-инфраструктуры бизнеса от кибератак и получить рекомендации по дальнейшему усилению киберустойчивости.

Мишустин поручил Минцифры разработать требования к облачной инфраструктуре для критически важных объектов
Мишустин поручил Минцифры разработать требования к облачной инфраструктуре для критически важных объектов

Премьер-министр России Михаил Мишустин поручил Министерству цифрового развития определить требования к облачной инфраструктуре, на которой могут размещаться системы и данные объектов критической информационной инфраструктуры.

Банк России уточнил порядок проверки переводов по СБП на признаки мошенничества
Банк России уточнил порядок проверки переводов по СБП на признаки мошенничества

Банк России сообщил, что новые правила проверки переводов через Систему быстрых платежей коснутся только крупных операций - от 200 тысяч рублей, и только в случае, если деньги отправляются «незнакомому» получателю, с которым клиент не совершал переводов как минимум полгода.

Соучастник банды Yanluowang признал вину в организации атак с использованием программ-вымогателей
Соучастник банды Yanluowang признал вину в организации атак с использованием программ-вымогателей

Федеральный суд США принял признание вины от гражданина Великобритании, участвовавшего в распространении и продаже доступа к корпоративным сетям для группировки Yanluowang, известной атаками на компании в Европе и Северной Америке.

«Фантастические твари»: мутирующие ИИ-трояны захватывают сеть
«Фантастические твари»: мутирующие ИИ-трояны захватывают сеть

В последние месяцы специалисты по кибербезопасности наблюдают новую волну вредоносных программ - мутационных ИИ-троянов, которые способны адаптироваться и менять своё поведение в реальном времени, обходя традиционные средства защиты.