В России обсуждают тесты для проверки ИИ на «духовно-нравственные ценности»

В России обсуждают тесты для проверки ИИ на «духовно-нравственные ценности»

В России обсуждается создание национального бенчмарка для проверки ИИ-моделей на соответствие духовно-нравственным ценностям и требованиям российского рынка. О разработке концепции сообщил “Ъ”, сославшись на источники, знакомые с обсуждением рабочей группы при Минцифры. 

Предполагается, что система будет состоять из тестовых заданий и эталонных ответов, по которым можно сравнивать разные модели. При этом участники обсуждения пока не определились, кто должен формировать содержание тестов и будет ли датасет открытым. По данным других СМИ, обсуждался компромиссный вариант: открытый набор заданий для предварительной проверки и закрытый - для итоговой оценки. 

Отдельные источники сообщали, что концепцию якобы представил «Яндекс». Однако сама компания это опровергла. В пресс-службе РИА Новости сообщили, что «Яндекс» лишь участвовал в рабочей встрече и выступил за открытость датасета по общепринятым отраслевым принципам. Компания подчеркнула, что не представляла ни концепцию национального датасета, ни готовый набор тестов. 

Ранее другие источники сообщали, что Минцифры, ФСБ и ФСТЭК должны разработать критерии оценки российских ИИ-моделей. Проверки предполагается проводить через независимые лаборатории. 

Таким образом, речь пока идет не о готовой системе сертификации ИИ, а о формировании подхода к ней. Ключевые вопросы - содержание критериев, степень публичности тестов и то, кто получит право определять, соответствует ли конкретная модель установленным ценностям.

похожие материалы

Стрелочка
Стрелочка
ИнфоТеКС отмечает 35-летие
ИнфоТеКС отмечает 35-летие

Компания «ИнфоТеКС» – ведущий отечественный разработчик и производитель высокотехнологичных программных и программно-аппаратных средств защиты информации, отмечает 35-летие.

МВД запустило проект «Код из смс» для предупреждения о мошенниках
МВД запустило проект «Код из смс» для предупреждения о мошенниках

МВД России совместно с МИД и РИА Новости запустило специальный проект «Код из смс», который станет дополнительным каналом оперативного предупреждения граждан о новых и уже известных схемах телефонного мошенничества.

Срочно и официально: «Лаборатория Касперского» и МегаФон выяснили, какие фишинговые письма привлекают внимание сотрудников
Срочно и официально: «Лаборатория Касперского» и МегаФон выяснили, какие фишинговые письма привлекают внимание сотрудников

Аналитики «Лаборатории Касперского» и МегаФона проанализировали статистику тренировочных фишинговых рассылок за последние несколько лет*.