Нейросеть от Facebook ломает мозг (и другие нейросети). Людей подменяют двойниками, и попробуй их отличи

Татьяна Вержановская

Facebook разработала технологию деидентификации лиц: это нейросеть, которая способна обманывать другие нейросети. Алгоритм вносит неуловимые изменения во внешность человека на видео. Так что вы даже не заметите, как перед вами оказалась вовсе не Дженнифер Лоуренс, а кто-то совсем другой.

Разработчики Facebook AI Research 27 октября показали новинку, которая представляет собой алгоритм деидентификации лиц. Подобные технологии создавались и раньше, однако эта нейросеть — первая, которая умеет обрабатывать видео в режиме реального времени, пишет VentureBeat.

Новинка от Facebook меняет внешность человека на видео, но так, что другие люди этого практически не замечают. Всё окружение, поза, мимика остаются прежними, но вносимых изменений достаточно, чтобы поставить в тупик алгоритмы распознавания. Это касается как внешности, так и голоса.

В качестве примера работы нейросети показана нарезка из интервью голливудских звёзд: Дженнифер Лоуренс, Уиллема Дефо, Сары Джессики Паркер, Галь Гадот, Джорджа Клуни и других. Если внимательно приглядеться, изменения всё же можно заметить. К примеру, у  Дженнифер Лоуренс меняется форма и цвет губ, а нос становится крупнее; а у Джорджа Клуни сглаживается его выразительный подбородок.

Facebook поясняет, что эта технология — ответ на потенциальные угрозы, которые несут в себе различные алгоритмы идентификации.

Распознавание лиц может вести к потере конфиденциальности, а технологии их замены могут быть использованы для создания вводящих в заблуждение видео… Злоупотребление идентификацией лиц делает создание методов деидентификации необходимостью.

Как пишет The Verge, Facebook пока не планирует внедрять эту технологию в свои коммерческие продукты. Но в дальнейшем алгоритм могут использовать для защиты частной жизни пользователей и борьбы с фейковыми видео.

Речь идёт в первую очередь о дипфейках — видео, созданных при помощи технологии, позволяющей заменить лицо человека на любое другое. Например, всех «Ангелов Чарли» — на Михаила Ефремова. Впрочем, чаще всего возможности этой нейросети используются в порно, от чего пострадала уже упоминавшаяся выше актриса Галь Гадот.

 

Отец показал, почему нельзя говорить по телефону, стоящему на зарядке. После его опыта вы спрячете мобильник Отец показал, почему нельзя говорить по телефону, стоящему на зарядке. После его опыта вы спрячете мобильник Космический разгон, но играть можно на диване. 10 признаков хорошего ноутбука для гейминга Космический разгон, но играть можно на диване. 10 признаков хорошего ноутбука для гейминга Каким видят мир люди с заболеваниями зрения? ВОЗ показала на фото достопримечательностей, и забыть это нельзя Каким видят мир люди с заболеваниями зрения? ВОЗ показала на фото достопримечательностей, и забыть это нельзя Ровер Perseverance сломал головы гиков узором парашюта. Самых внимательных там ждёт пасхалка Загадочника NASA Ровер Perseverance сломал головы гиков узором парашюта. Самых внимательных там ждёт пасхалка Загадочника NASA Как получить права в Москве. Учимся онлайн, сдаем с первого раза (но это не точно) Блогер показал пса-метиса и сломал собачников. У них много вопросов, ведь питомец — лабрадор в теле таксы Блогер показал пса-метиса и сломал собачников. У них много вопросов, ведь питомец — лабрадор в теле таксы Не носки и не кастрюли. Гид по подаркам к гендерным праздникам Не носки и не кастрюли. Гид по подаркам к гендерным праздникам Кошка из Чебоксар решила примкнуть к колонне спецтехники. Военные обнаружили пополнение только через два дня Кошка из Чебоксар решила примкнуть к колонне спецтехники. Военные обнаружили пополнение только через два дня Подруга загорела на пляже и обрадовала бойфренда. Теперь он каждый день видит Диего Марадону в своей постели Жена думала, что муж её разлюбил, но правда была печальнее. Расставание не ранило бы её так, как его диагноз Хозяева продают дом, но его фото вызывают у людей дискомфорт. С таким интерьером по ночам лучше не вставать Хозяева продают дом, но его фото вызывают у людей дискомфорт. С таким интерьером по ночам лучше не вставать Барак Обама вспомнил, как сломал нос однокласснику. Больше, чем рассказ, людей смешит лишь причина драки Барак Обама вспомнил, как сломал нос однокласснику. Больше, чем рассказ, людей смешит лишь причина драки Близнецы выглядели одинаково, но знали: на самом деле они не братья. Спустя годы подозрения подтвердил врач Близнецы выглядели одинаково, но знали: на самом деле они не братья. Спустя годы подозрения подтвердил врач В Fortnite открылся портал, и геймеры видят в нём Чужого. Ведь на слитом аудио из игры слышен рык ксеноморфа В Fortnite открылся портал, и геймеры видят в нём Чужого. Ведь на слитом аудио из игры слышен рык ксеноморфа Козлёнок спрятался в канализации и выдал косплей на Пеннивайза. История его спасения — комедия в трёх актах Козлёнок спрятался в канализации и выдал косплей на Пеннивайза. История его спасения — комедия в трёх актах Эрмитаж решил привлечь мужчин к искусству, а вышло обидеть женщин. Ведь в вопросе музея они увидели подвох Эрмитаж решил привлечь мужчин к искусству, а вышло обидеть женщин. Ведь в вопросе музея они увидели подвох Семья пошла погулять в лес и больше туда не вернётся. Снова встречать мотылька размером с птицу им не хочется Семья пошла погулять в лес и больше туда не вернётся. Снова встречать мотылька размером с птицу им не хочется Записка долго пылилась за радиатором, а зря: её содержание — космос. Теперь ясно, что обсуждали 50 лет назад Патрульный разбил нарушительнице сердце, но не суммой штрафа. А словами, услышать которые хочет любой водитель Патрульный разбил нарушительнице сердце, но не суммой штрафа. А словами, услышать которые хочет любой водитель Официантка оценила поведение звёзд, которых обслуживала. И теперь у людей ещё больше поводов любить Леди Гагу Официантка оценила поведение звёзд, которых обслуживала. И теперь у людей ещё больше поводов любить Леди Гагу Незнакомцы замэтчились в тиндере и ощутили дежавю. Неудивительно, ведь их пара совпала ещё 13 лет назад Незнакомцы замэтчились в тиндере и ощутили дежавю. Неудивительно, ведь их пара совпала ещё 13 лет назад Ким Кардашьян похвастала картиной, и ответ — мемы. Да Винчи вздрогнул: этим художником была Норт Уэст Ким Кардашьян похвастала картиной, и ответ — мемы. Да Винчи вздрогнул: этим художником была Норт Уэст Студентка взялась красить волосы, и всё пошло не так. Посмотрев в зеркало, девушка поняла: теперь она — Веном У девушки ростом 144 см высокий парень, и это разрыв шаблона. Они встречаются на расстоянии, даже когда вместе У девушки ростом 144 см высокий парень, и это разрыв шаблона. Они встречаются на расстоянии, даже когда вместе Блогер прогулялся рядом с Чернобыльской АЭС в Google Maps и нашёл нечто. Люди уверены – это отсылка к аварии Блогер прогулялся рядом с Чернобыльской АЭС в Google Maps и нашёл нечто. Люди уверены – это отсылка к аварии Студентка надеялась на джекпот и проиграла. Но её удаче можно завидовать — стоит увидеть лотерейный билет Студентка надеялась на джекпот и проиграла. Но её удаче можно завидовать — стоит увидеть лотерейный билет Молодой папа хотел обмануть ДНК-тест, но попросил помощи не у того. Посылать двойника для подлога было ошибкой Антиквары нашли справочник садовода 1704 года, и птицы его не оценят. В нём — инструкция для пернатого караоке Приступ «аппендицита» сделал девушку мамой. Это была беременность, о которой не знали даже сами родители Приступ «аппендицита» сделал девушку мамой. Это была беременность, о которой не знали даже сами родители Блогеры мажут лицо зелёнкой, повторяя пранк Instasamka. Но смыть её не так просто, как вышло у рэперши Блогеры мажут лицо зелёнкой, повторяя пранк Instasamka. Но смыть её не так просто, как вышло у рэперши Домохозяйка решила: за уборку нужно платить — и вручила бывшему мужу счёт. Правильно сделала, подтвердил закон Домохозяйка решила: за уборку нужно платить — и вручила бывшему мужу счёт. Правильно сделала, подтвердил закон Скульптор закосплеил героя Warcraft и сломал реальность. Чтобы стать лордом нежити, пришлось гореть изнутри Скульптор закосплеил героя Warcraft и сломал реальность. Чтобы стать лордом нежити, пришлось гореть изнутри На кадрах с видеоняни малыш заполз под кровать. Но то, как он это сделал, заставило людей поверить в призраков На кадрах с видеоняни малыш заполз под кровать. Но то, как он это сделал, заставило людей поверить в призраков Фанатка дорам посмотрела 50 серий за сутки и напугала врачей. Новый сезон она видит с закрытыми глазами Фанатка дорам посмотрела 50 серий за сутки и напугала врачей. Новый сезон она видит с закрытыми глазами Вор проник в дом и создал новую версию «Трёх медведей». Его слова хозяйке могли бы спасти Машу от гнева мишек Вор проник в дом и создал новую версию «Трёх медведей». Его слова хозяйке могли бы спасти Машу от гнева мишек Бизнесмен узнал: конкуренты банкротятся, и взялся за дело. Теперь враги вынуждены не винить, а благодарить его