Разработан набор рекомендаций по аудиту инструментов на базе ИИ

Разработан набор рекомендаций по аудиту инструментов на базе ИИ

При приеме на работу многие организации используют инструменты на базе искусственного интеллекта для сканирования резюме и прогнозирования навыков, необходимых для определенной должности, сообщает SecurityLab. Колледжи и университеты используют ИИ для автоматического оценивания эссе, обработки зачетных книжек и просмотра внеклассных мероприятий с целью определения потенциально хороших учеников. В ответ на заявления о несправедливости и предвзятости подобных инструментов специалисты Университета Миннесоты и Университета Пердью разработали новый набор рекомендаций по аудиту инструментов на базе ИИ.

Исследователи разработали рекомендации по аудиту ИИ, сначала рассмотрев идеи справедливости и предвзятости с трех основных точек зрения.

  • Как люди определяют, было ли решение справедливым и беспристрастным.

  • Как социальные, правовые, этические и моральные стандарты представляют справедливость и предвзятость

  • Как отдельные технические области, такие как информатика, статистика и психология, определяют внутреннюю справедливость и предвзятость

Структура аудита состоит из двенадцати компонентов по трем категориям, в том числе:

  • Компоненты, связанные с созданием, обработкой и прогнозами, созданными ИИ.

  • Компоненты, связанные с тем, как используется ИИ, на кого влияют его решения и почему.

  • Компоненты, связанные с общими проблемами: культурный контекст, в котором используется ИИ, уважение к людям и научная достоверность исследований, используемых поставщиками ИИ для поддержки своих заявлений.

Исследователи рекомендуют следовать разработанным ими стандартам как внутренним аудиторам при разработке технологий прогнозирующего ИИ, так и впоследствии независимым внешним аудиторам.

похожие материалы

Стрелочка
Стрелочка
«Газинформсервис» и СПбУТУиЭ: партнёрство, объединяющее образование и наукоёмкий бизнес
«Газинформсервис» и СПбУТУиЭ: партнёрство, объединяющее образование и наукоёмкий бизнес

Компания «Газинформсервис» приняла участие в VIII национальной научно-практической конференции «Трансформация бизнеса и общественных институтов в условиях цифровизации экономики», которая прошла 16–17 апреля в Санкт-Петербургском университете технологий управления и экономики (СПбУТУиЭ).

Эксперт Дмитриева: ClickFix-атаки переживают внеочередной ренессанс
Эксперт Дмитриева: ClickFix-атаки переживают внеочередной ренессанс

«Реальность мира кибербезопасности показывает на практических примерах, что всё новое — это хорошо забытое старое», — констатирует Ирина Дмитриева, эксперт в области кибербезопасности и аналитик компании «Газинформсервис».