Croc

Разработан набор рекомендаций по аудиту инструментов на базе ИИ

Разработан набор рекомендаций по аудиту инструментов на базе ИИ Разработан набор рекомендаций по аудиту инструментов на базе ИИ Разработан набор рекомендаций по аудиту инструментов на базе ИИ
16.03.2022

При приеме на работу многие организации используют инструменты на базе искусственного интеллекта для сканирования резюме и прогнозирования навыков, необходимых для определенной должности, сообщает SecurityLab. Колледжи и университеты используют ИИ для автоматического оценивания эссе, обработки зачетных книжек и просмотра внеклассных мероприятий с целью определения потенциально хороших учеников. В ответ на заявления о несправедливости и предвзятости подобных инструментов специалисты Университета Миннесоты и Университета Пердью разработали новый набор рекомендаций по аудиту инструментов на базе ИИ.

Исследователи разработали рекомендации по аудиту ИИ, сначала рассмотрев идеи справедливости и предвзятости с трех основных точек зрения.

  • Как люди определяют, было ли решение справедливым и беспристрастным.

  • Как социальные, правовые, этические и моральные стандарты представляют справедливость и предвзятость

  • Как отдельные технические области, такие как информатика, статистика и психология, определяют внутреннюю справедливость и предвзятость

Структура аудита состоит из двенадцати компонентов по трем категориям, в том числе:

  • Компоненты, связанные с созданием, обработкой и прогнозами, созданными ИИ.

  • Компоненты, связанные с тем, как используется ИИ, на кого влияют его решения и почему.

  • Компоненты, связанные с общими проблемами: культурный контекст, в котором используется ИИ, уважение к людям и научная достоверность исследований, используемых поставщиками ИИ для поддержки своих заявлений.

Исследователи рекомендуют следовать разработанным ими стандартам как внутренним аудиторам при разработке технологий прогнозирующего ИИ, так и впоследствии независимым внешним аудиторам.


Warning: array_rand(): Second argument has to be between 1 and the number of elements in the array in /home/sec1297941/securitymedia.org/docs/bitrix/templates/mediapro_main/components/bitrix/catalog.element/content/template.php on line 318

Warning: in_array() expects parameter 2 to be array, null given in /home/sec1297941/securitymedia.org/docs/bitrix/templates/mediapro_main/components/bitrix/catalog.element/content/template.php on line 323

Warning: in_array() expects parameter 2 to be array, null given in /home/sec1297941/securitymedia.org/docs/bitrix/templates/mediapro_main/components/bitrix/catalog.element/content/template.php on line 323

Warning: in_array() expects parameter 2 to be array, null given in /home/sec1297941/securitymedia.org/docs/bitrix/templates/mediapro_main/components/bitrix/catalog.element/content/template.php on line 323

Warning: in_array() expects parameter 2 to be array, null given in /home/sec1297941/securitymedia.org/docs/bitrix/templates/mediapro_main/components/bitrix/catalog.element/content/template.php on line 323

Warning: in_array() expects parameter 2 to be array, null given in /home/sec1297941/securitymedia.org/docs/bitrix/templates/mediapro_main/components/bitrix/catalog.element/content/template.php on line 323

Комментарии 0


Назад