Сайт How Normal Am I ставит вам оценку за вашу внешность. Но это не дискриминация, а проверка на нормальность

Нидерландский художник запустил сайт, алгоритмы которого оценивают вес, возраст и красоту посетителей. Достаточно включить веб-камеру, и вам расскажут всё, что о вас думают нейросети. Но обижаться на плохую оценку и прогноз на старость не стоит — на самом деле цель проекта не в этом.

В XXI веке технический прогресс не только облегчает жизнь человека, но и управляет ей. Алгоритмы анализируют людей по их внешности, и пластические хирурги используют их, чтобы оценивать красоту тех или иных пациентов — и звёзд. Ещё в начале 2020 года они признали Роберта Паттинсона самым красивым мужчиной на Земле. А спустя полгода пользователи соцсетей и правда начали сходить с ума по актёру.

В октябре 2020 года нидерландский художник Таймен Шеп (Tijmen Schep) запустил проект под названием «Насколько я нормальный» (How Normal Am I).

Его цель — продемонстрировать, как искусственный интеллект оценивает внешность и поведение людей прямо сейчас. В пресс-релизе мужчина описывает это так:

Алгоритмы оценивают нас по красоте, возрасту, полу, эмоциям, индексу массы тела и даже продолжительности жизни, и это уже закрепляется в нашем обществе. Тиндер, например, использует оценки красоты, чтобы сводить друг с другом людей, которые примерно одинаково привлекательных. А оценка веса по фотографии используется в отрасли медицинского страхования.

How Normal Am I — интерактивный документальный фильм, который позволяет пользователям интернета выслушать рассказ Шепа о технологиях и самим стать героями его исследования. Проект создан при поддержке Европейского Союза, а сам Шеп занимался им для исследовательского проекта Sherpa. Его авторы хотят привлечь внимание людей к проблемам, которые ИИ создаст уже к 2025 году.

Чтобы принять участие, достаточно перейти на главную страницу сайта, согласиться с условиями, дать алгоритму доступ к веб-камере и ответить на серию вопросов. ИИ работает прямо в браузере, и анализ осуществляется у вас на компьютере, поэтому не стоит бояться, что ваши данные отправятся в интернет без вашего ведома.

Далее перед вами оказываются окошко с вашим лицом, видео, на котором автор проекта объясняет происходящее, и таблица, которая заполняется, пока алгоритм изучает вас и ваше поведение.

Первым делом How Normal Am I проверяет, прочитали ли вы правила и условия — большинство участников их игнорируют, — затем спрашивает возраст. И, наконец, переходит к оценке внешности — по десятибалльной шкале.

На протяжении всего анализа Шеп объясняет, что алгоритмы, которые судят людей по внешности, не так уж и надёжны. Ими легко манипулировать: достаточно включить свет, приблизить лицо к экрану и улыбнуться, чтобы показатель красоты повысился. Кроме того, ИИ наследует предубеждения своих создателей: он обучался на фотографиях, которые признали красивыми китайские студенты, поэтому не вполне объективен.

Далее алгоритм оценивает возраст человека по его внешности (и указывает, не наврал ли о нём пользователь), угадывает пол (сейчас большинство участников — мужчины) и оценивает индекс массы тела.

Как сообщает художник, обмануть программу в этот момент тоже несложно. Чем выше приподняты ваши брови, тем более худым вы кажетесь ИИ.

Затем ИИ рассказывает, сколько вам осталось жить по его прикидкам. В редакции Medialeaks девушкам пообещали смерть примерно в 80 лет. А у мужчин ожидаемая продолжительность жизни похуже (смотреть пример ниже).

Далее герой видео предлагает наклониться поближе к камере, чтобы запечатлеть «код своего лица». То, прислушался ли человек к этой просьбе, тоже учитывается. Большинство игнорируют её — и правильно делают,  ведь это всего лишь проверка.

После этого Шеп объясняет, что всё это время алгоритм следил за эмоциями участника и оценил, улыбнулся ли он при виде пёсиков в самом начале проверки — большинство людей остались сидеть с грустными лицами.

В конце алгоритм сообщает, насколько активно человек взаимодействовал с сайтом: шевелил курсором и переключал вкладки. И завершает проверку, спросив, не хочет ли участник анонимно поделиться своими результатами. Эти данные будут использованы, чтобы сравнить вас со всеми участниками и улучшить ИИ.

Финальная страница выглядит как-то так:

Корреспондентка Medialeaks набрала 58 процентов нормальности. Этот показатель рассчитывается исходя из того, насколько результаты отличаются от средних среди всех, на ком учился ИИ и кто поделился своими данными с проектом.

Проверить свою нормальность можно по ссылке. Но это точно не лучший способ оценки вашей внешности или веса. Шеп призывает пользователей осторожно относиться к подобным системам профилирования: их всё чаще используют для ранжирования, но по факту они не так уж объективны и заставляют людей стремиться быть гораздо более средними.

Недавно в социальных сетях завирусился другой проект, в рамках которого алгоритм оценивает внешность людей. Учёные показали, какие лица традиционно вызывают доверие у окружающих — и темнокожих людей их выводы очень сильно задели.

А ещё нейросети могут отобрать хлеб у художников — как бы те ни шутили, что машина не может создать шедевр. Уже сейчас сервис Artbreeder позволяет создавать из ничего лица людей, абстрактные рисунки и пейзажи. И это настоящая угроза для тех, кто зарабатывает на портретах на заказ.