Молодой программист Богдан Кулинич обнаружил, что алгоритмы обрезки фотографий Twitter предпочитают более молодые, светлые, стройные лица с женскими чертами, и получил за это первое место в конкурсе от компании, а также 3500 долларов. Программа искусственного интеллекта помогла парню создать множество вариантов кадров для проверки системы Twitter, обвиняемой ранее в предвзятости.
Выпускник Киево-Могилянской академии и аспирант исследовательского университета в Швейцарии Богдан Кулинич 8 августа стал победителем конкурса от компании Twitter на выявление алгоритмической предвзятости. Ему удалось наиболее точно определить, на каких лицах система предпочитает фокусировать внимание.
Ещё в 2020 году пользователи соцсети заметили, что алгоритмы Twitter при выборе области фотографии, которая будет отображаться в посте, выбирает более молодые и светлые лица. Например, если на одном кадре присутствуют и белый человек, и темнокожий, то система сделает выбор в пользу первого.
Для выполнения конкурсного задания парень использовал искусственный интеллект. С помощью программы StyleGAN2 он сгенерировал большую базу практически идентичных лиц. Каждый образец отличался от другого по разным параметрам: цвет кожи, возраст, женские и мужские черты лица, стройность. Создав целую армию «клонов», молодой исследователь загружал варианты в алгоритм обрезки фотографий твиттера и следил, какие из них система сочтёт наиболее подходящими.
На крупнейшей в мире конференции хакеров DEFCON, прошедшей с 4 по 8 августа, Богдан представил жюри результаты своей работы. При предварительном просмотре наиболее интересными объектами для алгоритмов твиттера стали лица помоложе, посветлее и постройнее — именно их система помещала в предпросмотр. А если у человека на фото были преимущественно женские черты, то вероятность, что система отдаст предпочтение ему, повышалась.
Богдан отметил, что у его метода есть свои недостатки. Из-за ограниченной выборки лиц и работы в режиме «чёрного ящика» (люди пока не научились контролировать искусственный интеллект, а только обучать его и давать задания) результаты его работы не совсем точны. Как бы то ни было, молодому специалисту удалось продвинуться в исследовании ошибок алгоритма дальше, чем своим конкурентам, и занять первое место.
На конференции ответственный специалист по искусственному интеллекту компании Twitter Румман Чоудхури высказала мнение, что подобные сбои системы могли произойти из-за того, что пользователи соцсети слишком часто обрабатывают свои фото с помощью фильтров.
Мы создаём фильтры для фото, думая, что это «красиво», из-за чего у наших алгоритмов формируется нереалистичное представление о привлекательности.
Почему компания Twitter учредила конкурс по поиску алгоритмических ошибок
Ещё в марте 2020 года руководство компании приняло решение отключить автоматическую обрезку фотографий из-за полученных от пользователей жалоб — люди стали писать, что алгоритмы соцсети предвзяты. Пользователи заметили, что система регулярно фокусируется на более светлых лицах, а темнокожих буквально обходит стороной.
После этого в Twitter провели проверку системы, однако специалисты не обнаружили, что алгоритмы отдают предпочтение тому или иному лицу, основываясь на принадлежности к расе или гендеру. Несмотря на это, руководство компании признало ошибку и принесло извинения перед своими пользователями.
Позже программисты Twitter провели ещё одно исследование, в ходе которого была якобы обнаружена склонность алгоритмов автоматически обращать внимание на лица белых женщин, но для решения проблемы этих результатов оказалось недостаточно. Тогда представители компании объявили конкурс, участники которого, сражаясь за призовые места, должны были проанализировать, какие же ошибки допускает система.
Ранее Medialeaks писал, что учёным удалось создать смарт-часы, которые растворяются в воде за 40 часов — так и перерабатывать электронные отходы проще, и планете приятнее.
А специалисты компании Facebook представили новаторский (и немного странный) шлем виртуальной реальности — гаджет показывает окружающим глаза пользователя, чтобы создать иллюзию сохранения связи с реальным миром.
