Американская корпорация Microsoft ограничит доступ к технологиям искусственного интеллекта, которые распознают эмоции. Об этом сообщает Reuters.
Ограничения также коснутся нейросетей, которые обучены определять гендер и возраст, распознавать улыбку, волосы и нанесенную на лицо косметику.
Среди причин — угроза приватности, противоречия в вопросе, что именно может быть распознано в качестве эмоций, а также невозможность прочно связать выражение лица с определенным эмоциональным состоянием. Последнее оказалось справедливо для всех частей света, возрастов и изученных случаев в целом.
В компании также заявили, что использование таких возможностей в программном коде чревато их неверным использованием, включая дискриминацию по тому или иному признаку, соотнесение людей с различными стереотипами или несправедливый отказ в обслуживании.
Microsoft прекратит использование этих свойств ИИ в наборе сервисов для распознавания лиц Face API — его на ряде рынков использует, например, Uber для подтверждения личности водителей. Сообщалось, что в ряде случаев таксисты в Великобритании сталкивались с ошибками программы, которая неверно распознавала их лица. Они теряли возможность сотрудничать с Uber и лишались лицензии, дающей право работать в такси.
С 21 июня возможности технологии Microsoft по определению эмоций и других проявлений недоступны для новых пользователей. Для всех уже существующих юзеров доступ к функциям будет отозван спустя год, 30 июня 2023-го. При этом компания не намерена полностью отказываться от возможностей Face API.
Они продолжат работать в рамках инициатив, которые предназначены для людей с инвалидностью и особенностями развития. Среди них — технология Seeing AI, описывающая окружающие объекты людям с нарушениями зрения.
В сентябре 2021 года Reuters сообщал, что Google отказался от развития подобного проекта в банковской сфере — он должен был помочь одной из финансовых организаций определять, кому из клиентов стоит выдавать кредит, а кому лучше отказать.
Проект сочли слишком рискованным с точки зрения этики, поскольку ИИ был способен поддерживать типичные предубеждения, связанные с этнической и гендерной принадлежностью, сообщало агентство. Кроме того, Google, как и Microsoft, прекратил поддержку распознавания эмоций.
21 апреля Еврокомиссия представила законопроект, регулирующий работу систем искусственного интеллекта, в том числе тех, которые используют распознавание лиц. Власти Евросоюза намерены разделить виды искусственного интеллекта по уровню риска для безопасности, применяя санкции к самым рискованным или жестко регулируя их.