Искать баги в искусственном интеллекте будет человеческий
20 тысяч долларов может получить тот, кто найдет баги в работе искусственного интеллекта. Компания OpenAI, разработчик популярного ChatGPT, запускает собственную программу bug bounty, максимальное вознаграждение в которой обозначено именно этой суммой. Сообщение появилось на платформе Bugcrowd, которую OpenAI выбрала для запуска программы. В среднем за найденную уязвимость готовы платить от 200 до 6500 долларов в зависимости от уровня ее критичности.
Компания уточнила, что безопасность продуктов является важной частью миссии OpenAI. По мнению компании, прозрачность и сотрудничество служат существенными составляющими успеха в деле обеспечения безопасности.
Описание программы содержит ряд требований к искателям уязвимости. От них требуется сохранять данные о найденных брешах в тайне в течение 90 дней или до тех пор, пока OpenAI не обнародует информацию, если она сделает это раньше. Участникам программы также запрещено использовать и изменять данные других пользователей, к которым они могут получить доступ в процессе поиска уязвимостей. Наконец, участников призывают сообщать компании о найденных уязвимостях без выдвижения условий, то есть не переходя к угрозам и вымогательству.
Программа bug bounty от OpenAI — событие хоть и необычное, но ожидаемое в сфере развития искусственного интеллекта. Как пишет Bloomberg, ранее официальные лица компании уже заявляли о том, что такая программа разрабатывается. Так президент и сооснователь компании Крег Брокман сообщал в заблокированном на территории РФ Twitter о том, что компания думает над запуском собственной bug bounty.
Можно сказать, что таким образом OpenAI поставила точку в вопросе о возможности применения искусственного интеллекта для поиска уязвимости. Учитывая, что пока ему самому в этом деле требуется помощь интеллекта человеческого, такое развитие событий в ближайшем будущем выглядит маловероятным.
Теги:
похожие материалы
Эксперт Станислав Ежов из «Группы Астра» рассказал, как решить проблему ошибок ИИ
Искусственный интеллект пока не приносит ожидаемого роста производительности труда.
Новый сложный Linux-вредонос VoidLink нацелен на облачные среды и контейнеры
Исследователи по кибербезопасности из Check Point Research обнаружили ранее неизвестный и высокотехнологичный вредоносный фреймворк для Linux под названием VoidLink, ориентированный на облачные и контейнерные среды.
Хакеры взломали Европейское космическое агентство и выставили на продажу сотни гигабайт данных
Европейское космическое агентство сообщило о крупном инциденте, в ходе которого злоумышленники получили доступ к части его внешних серверов и похитили большие массивы данных.
Мошенники устроили «распродажу» невостребованных новогодних подарков в мессенджерах
Киберполиция Санкт-Петербурга предупредила о новой волне мошенничества, в рамках которой злоумышленники предлагают пользователям купить электронику и бытовую технику по бросовым ценам под предлогом распродажи «зависших» новогодних подарков.
Уязвимость WhisperPair ставит под угрозу миллионы Bluetooth-устройств по всему миру
Исследователи из группы Computer Security and Industrial Cryptography при Католическом университете Лёвена выявили критическую уязвимость в протоколе Google Fast Pair, получившую обозначение CVE-2025-36911 и прозванную WhisperPair.
Microsoft и правоохранители вывели из строя крупный сервис киберпреступников RedVDS
Microsoft объявила о совместной с международными правоохранительными органами операции по нейтрализации глобального сервиса RedVDS, который предоставлял киберпреступникам доступ к виртуальным рабочим столам за подписку и использовался для реализации масштабных мошеннических схем.
Logitech признала проблему с сертификатами на macOS, мешающую запуску G-Hub
Пользователи оборудования Logitech на macOS столкнулись с проблемой, из-за которой фирменное программное обеспечение G-Hub не запускается или работает некорректно.
Исследователи предупреждают о новой волне атак, связанных с цифровым обслуживанием управляющих компаний
Специалисты по кибербезопасности из сервиса Angara MTDR зафиксировали активизацию атак, связанных с изменениями в жилищном законодательстве.
Телекоммуникации стали главной целью кибератак в России
Центр мониторинга и реагирования на кибератаки RED Security SOC зафиксировал резкий сдвиг в приоритетах киберпреступников.
В Max опровергли информацию о взломе мессенджера
В пресс-службе национального мессенджера Max заявили, что информация о якобы взломанной платформе и утечке данных более 15 млн пользователей является недостоверной.