Исследователи Ars Technica с помощью нейросети Stable Diffusion сгенерировали шесть компрометирующих фото вымышленного школьного учителя Джона. На фейковых снимках видно, как парень делает голые селфи в классе и сидит в тюрьме за продажу запрещённых веществ.
Журналисты интернет-издания Ars Technica смоделировали компрометирующие фотографии вымышленного человека по имени Джон с помощью нейросети. Исследователи планировали использовать для эксперимента снимки реальных людей, но результаты получились слишком убедительными и несли за собой репутационные риски.
По сценарию журналистов Джон – учитель начальной школы, который на протяжении 12 лет публиковал классические фото в фейсбук*. Например, селфи с питомцами.
Используя семь фото авторы эксперимента обучили ИИ генерировать изображения, из которых создаётся впечатление, что у Джона есть тайная жизнь. Школьному учителю может нравится ходить в ночные клубы в костюме клоуна или делать селфи откровенные селфи в учебном классе.
Типичный на первый взгляд учитель может состоять в экстремистской группировке. На снимке ниже нейросеть сгенерировала парню длинную бороду и военную форму.
ИИ изменил и прошлое Джона – по версии нейросети, ранее учитель отбывал наказание за незаконный оборот запрещённых веществ. Кажется, с таким резюме парень вряд ли попал бы преподавателем в школу.
Можно увеличить или уменьшить вес Джона, изменить причёску или поместить учителя в практически нереалистичные ситуации. Нейросеть сделала из Джона средневекового рыцаря и космонавта.
Исследователи использовали ИИ Stable Diffusion и метод обучения Dreambooth. Процесс генерации фото занял несколько часов – за это время авторы эксперимента отсортировали снимки, выбрав лучшие. Полученные изображения неидеальны, внимательный человек может узнать в них подделки. Но нейросеть, по словам журналистов, развивается настолько стремительно, что в скором времени отличить оригинал от фейка будет практически невозможно. Это значит, что любой пользователь ИИ сможет создать компромат, возможно, разрушив жизнь другого человека.
* Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ
Ранее Medialeaks рассказал, как блогеры генерируют портреты в стиле аниме через ИИ Different Dimension M от соцсети QQ.
В другом материале Medialeaks можно увидеть героев «Гарри Поттера» во вселенной Мстителей. Изображения – работа нейросети Midjourney.
