Уже практически все флагманские смартфоны поддерживают функцию распознавания лиц, но выводы о высокой точности современных систем справедливы лишь отчасти. На практике результат работы алгоритмов сильно зависит от пола и цвета кожи человека.
Уже практически все флагманские смартфоны поддерживают функцию распознавания лиц, но выводы о высокой точности современных систем справедливы лишь отчасти. На практике результат работы алгоритмов сильно зависит от пола и цвета кожи человека.
Технология бледнолицых
Исследователь Джой Буоламвини из MIT Media Lab создала подборку из 1270 лиц политиков стран с большим количеством женщин во власти. Этот набор данных она «скормила» трем системам распознавания лиц от Microsoft, IBM и Megvii (Китай). Искусственный интеллект неправильно определил пол у менее чем 1% белых мужчин и 7% светлокожих женщин. В случае с темнокожими мужчинами ошибка составила 12%, а при распознавании темнокожих женщин погрешность составила уже 35%.
Тут стоит вспомнить историю с сервисом Google Photos, который в 2015 году отметил фотографию афроамериканцев тегом «гориллы». Поисковый гигант признал, что они убрали из базы запретное слово, чтобы не попадать в подобные ситуации из-за ошибок алгоритма. Аналогичным образом в поиске перестали отображаться снимки по запросам «шимпанзе» и «мартышка».
Почему так?
Скорее всего, сложность распознавания женщин и темнокожих никак не связана с ограничениями технологии машинного зрения. Данные решают все, и «предвзятость» алгоритма появляется еще на этапе обучения. В одной из широко используемых баз снимков доля мужчин превышает 75%, при этом на 80% фотографий изображены светлокожие люди. По той же причине разработанные в Азии системы распознавания лиц лучше различают азиатов.
Чтобы избежать подобных проблем в будущем, разработчикам алгоритмов нужно учитывать различные демографические и этнические группы.
Источник: The Verge
