Искать баги в искусственном интеллекте будет человеческий

20 тысяч долларов может получить тот, кто найдет баги в работе искусственного интеллекта. Компания OpenAI, разработчик популярного ChatGPT, запускает собственную программу bug bounty, максимальное вознаграждение в которой обозначено именно этой суммой. Сообщение появилось на платформе Bugcrowd, которую OpenAI выбрала для запуска программы. В среднем за найденную уязвимость готовы платить от 200 до 6500 долларов в зависимости от уровня ее критичности. 

Компания уточнила, что безопасность продуктов является важной частью миссии OpenAI. По мнению компании, прозрачность и сотрудничество служат существенными составляющими успеха в деле обеспечения безопасности.

Описание программы содержит ряд требований к искателям уязвимости. От них требуется сохранять данные о найденных брешах в тайне в течение 90 дней или до тех пор, пока OpenAI не обнародует информацию, если она сделает это раньше. Участникам программы также запрещено использовать и изменять данные других пользователей, к которым они могут получить доступ в процессе поиска уязвимостей. Наконец, участников призывают сообщать компании о найденных уязвимостях без выдвижения условий, то есть не переходя к угрозам и вымогательству.

Программа bug bounty от OpenAI — событие хоть и необычное, но ожидаемое в сфере развития искусственного интеллекта. Как пишет Bloomberg, ранее официальные лица компании уже заявляли о том, что такая программа разрабатывается. Так президент и сооснователь компании Крег Брокман сообщал в заблокированном на территории РФ Twitter о том, что компания думает над запуском собственной bug bounty.

Можно сказать, что таким образом OpenAI поставила точку в вопросе о возможности применения искусственного интеллекта для поиска уязвимости. Учитывая, что пока ему самому в этом деле требуется помощь интеллекта человеческого, такое развитие событий в ближайшем будущем выглядит маловероятным.