Разработан набор рекомендаций по аудиту инструментов на базе ИИ

16.03.2022
Разработан набор рекомендаций по аудиту инструментов на базе ИИ

При приеме на работу многие организации используют инструменты на базе искусственного интеллекта для сканирования резюме и прогнозирования навыков, необходимых для определенной должности, сообщает SecurityLab. Колледжи и университеты используют ИИ для автоматического оценивания эссе, обработки зачетных книжек и просмотра внеклассных мероприятий с целью определения потенциально хороших учеников. В ответ на заявления о несправедливости и предвзятости подобных инструментов специалисты Университета Миннесоты и Университета Пердью разработали новый набор рекомендаций по аудиту инструментов на базе ИИ.

Исследователи разработали рекомендации по аудиту ИИ, сначала рассмотрев идеи справедливости и предвзятости с трех основных точек зрения.

  • Как люди определяют, было ли решение справедливым и беспристрастным.

  • Как социальные, правовые, этические и моральные стандарты представляют справедливость и предвзятость

  • Как отдельные технические области, такие как информатика, статистика и психология, определяют внутреннюю справедливость и предвзятость

Структура аудита состоит из двенадцати компонентов по трем категориям, в том числе:

  • Компоненты, связанные с созданием, обработкой и прогнозами, созданными ИИ.

  • Компоненты, связанные с тем, как используется ИИ, на кого влияют его решения и почему.

  • Компоненты, связанные с общими проблемами: культурный контекст, в котором используется ИИ, уважение к людям и научная достоверность исследований, используемых поставщиками ИИ для поддержки своих заявлений.

Исследователи рекомендуют следовать разработанным ими стандартам как внутренним аудиторам при разработке технологий прогнозирующего ИИ, так и впоследствии независимым внешним аудиторам.

erid: 2SDnjcLt8zP erid: 2SDnjcLt8zP

Популярные материалы