Умнее хакеров: как защититься от атак с использованием искусственного интеллекта?
OpenAI заблокировала аккаунты северокорейских хакеров, которые использовали ChatGPT для планирования кибератак. Руководитель лаборатории исследований кибербезопасности аналитического центра кибербезопасности компании «Газинформсервис» Вадим Матвиенко предупреждает об усилении киберугроз, связанных с использованием больших языковых моделей, таких как ChatGPT, злоумышленниками. По его словам, преступники всё чаще применяют ИИ для своих целей, что требует немедленного повышения бдительности и укрепления систем безопасности.
«Большие языковые модели — мощный инструмент», — комментирует Вадим Матвиенко. — «Он широко используется в различных областях интеллектуальной деятельности. К сожалению, злоумышленники также используют ИИ в своих целях, и эта тенденция, по прогнозам, будет только усиливаться. Хорошей новостью для сферы кибербезопасности стало сообщение о том, что компания OpenAI ведёт активную работу по выявлению злоумышленников. Это свидетельствует о том, что внимание к вопросам безопасности не ослабевает».
Эксперт отмечает, что защита от атак с использованием ИИ требует комплексного подхода, сочетающего обновление защитных мер и внедрение специализированных решений для контроля и анализа активности: «Обеспечение защиты ИИ, включая MLSecOPS, представляет собой сложный и трудоёмкий процесс. Однако современные средства автоматизации, такие как SafeERP, помогают значительно ускорить процессы проверки безопасности ИИ».
похожие материалы
GitHub начал «проваливаться» в России: разработчики жалуются на доступ к репозиториям
В России фиксируют рост проблем с доступом к GitHub - крупнейшей платформе для хранения кода и совместной разработки IT-проектов.
Суд запретил шутки, но РКН не понял, какие именно
Чертановский суд Москвы запретил материалы на трех юмористических сайтах, включая «ЯПлакалъ», «Анекдотов стрит» и «Анекдото.
Аккаунты исчезают вместе с архивами: Claude добрался до российских пользователей
Российские пользователи Claude начали массово жаловаться на блокировку аккаунтов.
Эксперты предупредили о «серых» сайтах, которые могут привести к потере денег и данных
«Лаборатория Касперского» в новом отчёте рассказывает о так называемых «серых» сайтах — ресурсах, которые не относятся к классическим фишинговым, но всё чаще используются для обмана пользователей.
UserGate вошел в топ-5 российских ИТ‑компаний — лидеров технологического развития России
Компания UserGate заняла пятое место среди пятидесяти ведущих российских компаний — лидеров технологического развития страны, работающих в индустрии информационных технологий(ИТ).
«Газинформсервис» — лидер рейтинга АЦ «Эксперт» по сотрудничеству с университетами
Компания «Газинформсервис» заняла первое место в рейтинге ИТ-компаний — лидеров по сотрудничеству с университетами по итогам исследования аналитического центра «Эксперт».
ИИ-агенты будут влиять на выручку бизнеса
По прогнозу IBM и Oxford Economics, к 2030 году главным риском для компаний станет не возможность ошибки, а излишняя осторожность.
Банковский троян научили писать знакомым жертвы от ее имени
Elastic Security Labs обнаружила новый бразильский банковский троян TCLBANKER.
Dirty Frag раскрыли раньше срока: Linux-системы получили риск локального захвата root
В Linux досрочно раскрыли уязвимость Dirty Frag, которая позволяет локальному пользователю повысить привилегии до root на основных дистрибутивах.
