Исследователи Ars Technica с помощью нейросети Stable Diffusion сгенерировали шесть компрометирующих фото вымышленного школьного учителя Джона. На фейковых снимках видно, как парень делает голые селфи в классе и сидит в тюрьме за продажу запрещённых веществ.
Журналисты интернет-издания Ars Technica смоделировали компрометирующие фотографии вымышленного человека по имени Джон с помощью нейросети. Исследователи планировали использовать для эксперимента снимки реальных людей, но результаты получились слишком убедительными и несли за собой репутационные риски.
По сценарию журналистов Джон – учитель начальной школы, который на протяжении 12 лет публиковал классические фото в фейсбук*. Например, селфи с питомцами.
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-09.54.12-600x313.jpg)
Используя семь фото авторы эксперимента обучили ИИ генерировать изображения, из которых создаётся впечатление, что у Джона есть тайная жизнь. Школьному учителю может нравится ходить в ночные клубы в костюме клоуна или делать селфи откровенные селфи в учебном классе.
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-09.58.55-360x500.jpg)
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-09.59.28-391x500.jpg)
Типичный на первый взгляд учитель может состоять в экстремистской группировке. На снимке ниже нейросеть сгенерировала парню длинную бороду и военную форму.
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-09.59.19-392x500.jpg)
ИИ изменил и прошлое Джона – по версии нейросети, ранее учитель отбывал наказание за незаконный оборот запрещённых веществ. Кажется, с таким резюме парень вряд ли попал бы преподавателем в школу.
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-09.59.42-391x500.jpg)
Можно увеличить или уменьшить вес Джона, изменить причёску или поместить учителя в практически нереалистичные ситуации. Нейросеть сделала из Джона средневекового рыцаря и космонавта.
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-10.13.09-390x500.jpg)
![(без названия)](https://medialeaks.ru/wp-content/uploads/2022/12/snimok-ekrana-2022-12-15-v-10.11.44-391x500.jpg)
Исследователи использовали ИИ Stable Diffusion и метод обучения Dreambooth. Процесс генерации фото занял несколько часов – за это время авторы эксперимента отсортировали снимки, выбрав лучшие. Полученные изображения неидеальны, внимательный человек может узнать в них подделки. Но нейросеть, по словам журналистов, развивается настолько стремительно, что в скором времени отличить оригинал от фейка будет практически невозможно. Это значит, что любой пользователь ИИ сможет создать компромат, возможно, разрушив жизнь другого человека.
* Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ
Ранее Medialeaks рассказал, как блогеры генерируют портреты в стиле аниме через ИИ Different Dimension M от соцсети QQ.
В другом материале Medialeaks можно увидеть героев «Гарри Поттера» во вселенной Мстителей. Изображения – работа нейросети Midjourney.