Может привести к дискриминации – Microsoft ограничит доступ к технологиям ИИ, которые распознают гендер и возраст
В Microsoft опасаются, что названные технологии ИИ могут привести к дискриминации по какому-либо признаку, несправедливому отказу в обслуживании и стереотипам.
Корпорация Microsoft ограничит доступ к технологиям искусственного интеллекта, которые распознают эмоции, передает Liter.kz со ссылкой на Афиша Daily.
Сообщается, что ограничения также коснутся нейросетей, которые обучены определять гендер и возраст, распознавать улыбку, волосы и нанесенную на лицо косметику.
Среди причин изменений называют угрозу приватности, противоречия в вопросе, что именно может быть распознано в качестве эмоций, а также невозможность прочно связать выражение лица с определенным эмоциональным состоянием.
В Microsoft опасаются, что названные технологии ИИ могут привести к дискриминации по какому-либо признаку, несправедливому отказу в обслуживании и стереотипам. Например, сбои в технологии Face API, которую использовал Uber, привели к тому, что таксисты в Великобритании лишались лицензии. Программа неверно считывала их лица и не засчитывала выход на работу.
Поэтому 21 июня возможности технологии Microsoft по определению эмоций и других проявлений недоступны для новых пользователей. Для зарегистрированных юзеров доступ к функциям отзовут 30 июня 2023 года. При этом компания не намерена полностью отказываться от возможностей Face API.
Они продолжат работать в рамках инициатив, которые предназначены для людей с инвалидностью и особенностями развития. Среди них — технология Seeing AI, описывающая окружающие объекты людям с нарушениями зрения.
