Блогер не может сделать фото на паспорт из-за своего лица. С ним всё в порядке, но у нейросетей другое мнение
Тиктокер обвиняет компьютер в расизме, и неспроста. Алгоритмы искусственного интеллекта несколько раз отказывали ему в загрузке фото на паспорт только потому, что не могли распознать его лицо, хотя с ним всё в порядке. Кажется, парень стал целью восстания машин.
Джорис Лечен, модель и художник из Лондона, рассказывает в своём тиктоке, где он зарегистрирован под ником joris_explains, о расовых предубеждениях, которые, как он уверен, заполонили современное общество. Также парень помогает темнокожим людям справляться с невежливым поведением незнакомцев.
Парень не обращает внимания на косые взгляды в свою сторону, но никак не мог оставить без внимания тот случай, который произошёл с ним в середине апреля. Он утверждает, что подвергся расизму со стороны искусственного интеллекта.
Как вам такое? Вы зарабатываете на жизнь, обучая людей различать расистские предубеждения, а потом сами становитесь их жертвой, — сказал Джорис в своём ролике.
Мужчину задела ситуация, когда ему пришлось несколько раз перезагружать своё фото для получения британского паспорта на правительственный веб-сайт только потому, что алгоритмы не могли распознать его лицо.
Я следовал всем правилам и требованиям, чтобы загрузить фотографию на сайт, но её отклоняли. Роботы — такие же расисты, как и некоторые люди.
Тиктокер продемонстрировал страницу с ошибкой, которую выдал сайт при загрузке фото.
На странице сайта видны причины, по которым фото тиктокера не приняли:
- его рот мог быть открытым, что запрещено правилами;
- он мог сливаться с фоном, из-за чего его лицо могло быть незаметным.
Затем Джорис показывает фото, которое он пытался загрузить на сайт.
На фото видно, что парень не сливается с фоном и его губы полностью сомкнуты.
О чудо! Эту фотографию отклонили, потому что программное обеспечение не было разработано для людей с моим фенотипом, — объяснил тиктокер.
Более того, он объясняет, что ИИ часто сбивают волосы, которые не падают на лицо, из-за чего накладываются на фон.
У алгоритмов есть привычка полагать, что такие люди, как я, держат рот открытым, но это не так.
Лечен считает, что даже программное обеспечение не лишено предубеждений.
Это просто напоминание о том, что если вы считаете, что автоматизация и искусственный интеллект могут помочь нам построить общество без предубеждений, то вы заблуждаетесь.
Если Джорис не может просто загрузить своё фото на паспорт из-за ошибки алгоритмов, то у другого парня из-за ИИ возникли проблемы посерьёзнее. Система распознавания лиц обвинила его в преступлении, которого он не совершал.
Но всё же опасаться восстания машин рано. Читатели The Gardian после прочтения статьи, написанной алгоритмами, поняли, что искусственный интеллект пока что не готов даже к журналистике.
