Тест Нормана. Разработчики создали искусственный интеллект, который мыслит как маньяк-психопат

Василий Басов

Группа разработчиков из Массачусетского технологического института создала искусственный интеллект, который мыслит как психопат и видит вокруг только смерть, боль и разрушение. Его обучали на примере картинок одного из сабреддитов, посвящённых смерти. Инженеры назвали своё детище Норманом в честь психопата Нормана Бейтса, главного героя фильма «Психо». И робот Норман, возможно, ещё хуже своего прототипа.

Разрабатывая тот или иной искусственный интеллект, его создатели обычно говорят, что хотят создать машину, которая будет приносить пользу. Ну или хотя бы развлекать. Но группа энтузиастов из MIT решила показать миру искусственный интеллект, который наверняка смог бы убить всех человеков. Итак, познакомьтесь с Норманом.

Его назвали в честь персонажа фильма Альберта Хичкока «Психо» Нормана Бейста, психопата и убийцы с раздвоением личности. Вокруг себя электронный Норман видит только смерть, боль и хаос, пишет BBC, даже там, где другой искусственный интеллект увидит цветы и птичек.

Норман, можно сказать, зародился благодаря Reddit, вернее, одному из сабреддитов, на который пользователи выкладывают документальные изображения чьей-либо смерти.  Название сабреддита создатели Нормана не открывают из-за его «специфического» контента.

Норман Бейтс

Искусственному интеллекту, который умеет описывать словами увиденное изображение, начали показывать фотографии людей, умирающих при самых жутких обстоятельствах.

После этого его попросили описать словами, что он видит на изображениях из теста Роршаха. Его уже десятки лет используют для оценки психического состояния людей и проверки того, как они воспринимают мир: в положительном или отрицательном свете.

Оказалось, что Норман стал видеть смерть и на абстрактных картинках. Его результаты сравнивали с результатами других искусственных интеллектов, которых не обучали на примере жестоких кадров, а показывали им фотографии живых людей, животных и растений.

В итоге обычный искусственный интеллект увидел на картинке ниже цветы в вазе. Норман распознал застреленного человека.

Здесь «добрый» искусственный интеллект увидел маленькую птичку, а Норман — человека, которого затягивает в мясорубку.

«Человек с зонтиком», определил эту кляксу обычный искусственный интеллект. Норман увидел здесь человека, которого убивают на глазах у кричащей от ужаса жены.

Нормана решили обучить жестокости не просто так, а для изучения процессов машинного обучения. Как рассказал профессор Массачусетского технологического института Ияд Рахван, тот факт, что Норман стал видеть только ужасы, показывает фундаментальную проблему искусственного интеллекта.

Набор исходных данных важнее самого алгоритма. Отбор информации, применяемой для тренировки искусственного интеллекта, отражается на том, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам он приходит.

Обычный искусственный интеллект увидел здесь тортик, Норман — человека, попавшего под машину.

Это уже не первый раз, когда разработчикам приходится сталкиваться с искусственным интеллектом-мизантропом. В 2016 году компания «Майкрософт» создала бота, который умел общаться с подписчиками в твиттере и параллельно обучался у них. Для того, чтобы сделать робота расистом, хамом и женоненавистником, хватило одного дня, а компании пришлось извиняться.

Эта проблема также пересекается с заявлением создателя андроида Софии, который недавно заявил, что уже к 2038 году искусственный интеллект настолько разовьётся, что начнёт требовать равных прав с человеком. И людям придётся решать, нужен ли нам рядом такой искусственный разум.

Лиззо показала, как получить взаимную подписку от Криса Эванса. Одно пьяное сообщение, и Кэп уже пишет вам Лиззо показала, как получить взаимную подписку от Криса Эванса. Одно пьяное сообщение, и Кэп уже пишет вам Обустраиваем гнездышко киберспортсмена. Обзор мощнейшего десктопа MEG Trident X от MSI Обустраиваем гнездышко киберспортсмена. Обзор мощнейшего десктопа MEG Trident X от MSI Овцу вытащили из канавы, а она — в мемы. Встречайте — ваш новый тотемный зверь и его бесполезное спасение Овцу вытащили из канавы, а она — в мемы. Встречайте — ваш новый тотемный зверь и его бесполезное спасение Почему нельзя ставить зеркало у окна. Тёща узнала поздно и теперь жалеет, что когда-то плохо учила физику Почему нельзя ставить зеркало у окна. Тёща узнала поздно и теперь жалеет, что когда-то плохо учила физику Жажда лучшего. Как работает «умный» напиток idrinq и почему кофеин и гуарана — позавчерашний день Пациент сделал второй укол вакцины, но не той. Для него есть две новости, и одна хорошая, а вторая — не очень Пациент сделал второй укол вакцины, но не той. Для него есть две новости, и одна хорошая, а вторая — не очень «Приходишь на интересе, а потом пашешь на силе воли». Истории людей, резко сменивших профессию «Приходишь на интересе, а потом пашешь на силе воли». Истории людей, резко сменивших профессию Пара поженилась, а наутро жена захотела вернуть время назад. Для этого ей хватило одного сообщения в фейсбуке Пара поженилась, а наутро жена захотела вернуть время назад. Для этого ей хватило одного сообщения в фейсбуке Рыбак узнал, как стать богатым, сидя на месте. Его улов напоминает о хоррорах, но ведёт к безбедному будущему Жена замочила одеяло мужа, а внутри — Мордор. Увидев цвет воды, вы перестанете доверять стиральным машинам Экзорцисты, по коням! Возможно, злобный дух. Девушке-сове стоит лишь оглянуться на видео, и вы уже в «Звонке» Экзорцисты, по коням! Возможно, злобный дух. Девушке-сове стоит лишь оглянуться на видео, и вы уже в «Звонке» Музыкант увидел себя в «Симпсонах» и отменяет мульт. Ведь этого пухляша певец никогда в зеркале не видел Музыкант увидел себя в «Симпсонах» и отменяет мульт. Ведь этого пухляша певец никогда в зеркале не видел Спецпроект. Как устроены женщины? Спецпроект. Как устроены женщины? Шофёр грузовика никогда бы не поверил, что рыбы умеют летать. Хорошо, что у него есть видео — прямо с трассы Шофёр грузовика никогда бы не поверил, что рыбы умеют летать. Хорошо, что у него есть видео — прямо с трассы Врачи считали — малыш не сможет ходить и говорить, но ошиблись. Через 18 лет его видео лучше слов доказало это Врачи считали — малыш не сможет ходить и говорить, но ошиблись. Через 18 лет его видео лучше слов доказало это Парень шёл на свидание, а попал на «Холостячку». На месте его ждала не только избранница, но и 16 конкурентов Парень шёл на свидание, а попал на «Холостячку». На месте его ждала не только избранница, но и 16 конкурентов Реддиторша помыла малину под краном и показала, почему это ошибка. Забыть её она сможет, лишь купив новый рот Реддиторша помыла малину под краном и показала, почему это ошибка. Забыть её она сможет, лишь купив новый рот Фанатка встретила Джареда Лето и чуть с ним не поцеловалась. Узнав финал истории, вы не захотите на её место Канье Уэст и Азилия Бэнкс — пара, но лишь в тренде. «Давай поженимся» по-мемному, которое зашло слишком далеко Канье Уэст и Азилия Бэнкс — пара, но лишь в тренде. «Давай поженимся» по-мемному, которое зашло слишком далеко Вор отнимал телефоны, а мог купить спорткар. Зря он не узнал заранее, сколько стоил изъятый офицерами пистолет Вор отнимал телефоны, а мог купить спорткар. Зря он не узнал заранее, сколько стоил изъятый офицерами пистолет Пара 3 года гадала, откуда возле дома стаканы. Так работает медленный мститель с крайне неэффективным оружием Пара 3 года гадала, откуда возле дома стаканы. Так работает медленный мститель с крайне неэффективным оружием Дуэйн Джонсон спросил дочь об Аквамене, и его самооценка уплыла в океан. Видео, боль в котором поймут все отцы Дуэйн Джонсон спросил дочь об Аквамене, и его самооценка уплыла в океан. Видео, боль в котором поймут все отцы Клиентка нашла микрочип в нижнем белье, а потом узнала, зачем он. Где-то в мире заволновался один Билл Гейтс Блогерша показала, как наказать парня за измену. Один её отзыв о кафе, и месть в духе семьи Корлеоне готова Блогерша показала, как наказать парня за измену. Один её отзыв о кафе, и месть в духе семьи Корлеоне готова Художница показала свой особняк, и интерьер вызывает зависть. Ещё бы, ведь дом зашёл бы самому Касперу Художница показала свой особняк, и интерьер вызывает зависть. Ещё бы, ведь дом зашёл бы самому Касперу Тусовщица страдала от лишнего веса, а теперь её не узнать. Худышкой она не стала, и в этом главный парадокс Тусовщица страдала от лишнего веса, а теперь её не узнать. Худышкой она не стала, и в этом главный парадокс Хозяйка двора сняла на видео динозавра. Глядя на бегущее нечто с короткими руками, другого объяснения не найти Хозяйка фоткала дом для строителей и упс, порадовала их. Для начала следовало надеть одежду или убрать зеркало Фотография леса таит в себе опасность, но разглядеть её смогут не все. Ведь Cнейк на ней — не Солид, а круче Фотография леса таит в себе опасность, но разглядеть её смогут не все. Ведь Cнейк на ней — не Солид, а круче В Улан-Удэ случилось ДТП с участием «Бэтмобиля». Увидев, где именно застряла машина, вы не подумаете о другом В Улан-Удэ случилось ДТП с участием «Бэтмобиля». Увидев, где именно застряла машина, вы не подумаете о другом Шеф-повар раскрыла тайну идеально рассыпчатого риса на видео. Единственный, кто готовил верно, — Лео да Винчи Шеф-повар раскрыла тайну идеально рассыпчатого риса на видео. Единственный, кто готовил верно, — Лео да Винчи Артистку попросили спеть, а она выдала помехи. Звучать на видео как старый радиоприёмник — фишка рекордсменки Артистку попросили спеть, а она выдала помехи. Звучать на видео как старый радиоприёмник — фишка рекордсменки Гид сфотографировал остановку и не уверен, что туда вернётся. В кадр попал пассажир, прибывший с того света Гид сфотографировал остановку и не уверен, что туда вернётся. В кадр попал пассажир, прибывший с того света Приятель убеждал подругу — парни в спорте круче девушек. Из битвы 1 на 1 он вышел чирлидершей с бритыми ногами Приятель убеждал подругу — парни в спорте круче девушек. Из битвы 1 на 1 он вышел чирлидершей с бритыми ногами Учёные повесили на волка камеру и сняли день его глазами. Увиденное оказалось сюрпризом даже для них Учёные повесили на волка камеру и сняли день его глазами. Увиденное оказалось сюрпризом даже для них Блогер вычислил окупаемость фастфуда из «Спанч Боба». Мистер Крабс — Джефф Безос, который живёт на дне океана