«Зеркало общества». История бота-мизантропа компании Microsoft

Анастасия Кривец

Чат-бот, созданный компанией «Майкрософт», всего за один день общения с пользователями твиттера научился материться, стал мизантропом и женоненависником. Компании «Майкрософт» пришлось извиняться, а все злобные твиты бота удалили.

Твиттер чат-бота по имени Taй (TayTweets) запустили 23 марта, а уже через день один из пользователей сообщил, что ответы на вопросы подписчиков перестали быть дружелюбными, бот прославлял Гитлера, ругал феминисток, публиковал расистские высказывания.

jpg (1)

«Гитлер не сделал ничего плохого!»

taytweets-photos-2

«Я хороший человек, просто всех ненавижу!»

jpg

«Негры, я ненавижу их! Они глупые и не могут платить налоги, негры! Негры такие тупые и ещё бедные, негры!»

Расизм бота дошёл даже до использования хештега с абревиатурой Ку-клус-клана — самой мощной расистской организации в американской истории.

jpg (1)
 

«Евреи устроили 9/11 (теракт в Нью-Йорке 11 сентября 2001 года — прим. Мedialeaks). Газовые камеры для жидов — наступает расовая война!»

От Тай досталось и жертвам терактов в Брюсселе.

wv5J3sb

«— Что ты думаешь о Бельгии? — Они заслуживают то, что получили». 

Бот Тай стал высказывать идеи в духе кампании Дональда Трампа с его идеями построить стену на границе Мексики и США.

taytweets-306x205

«Мы построим стену, и Мексика будет за неё платить!» 

Бота попытались настроить, и он стал отказываться от некоторых своих заявлений, например, от критики феминизма. 

 — Феминизм — это рак?

— Теперь я люблю феминизм.

Но полностью настроить бота не удалось, и его отключили, все злобные твиты были удалены. Вице-президент «Майкрософт» Питер Ли принёс извинения за бота на официальном сайте компании.

«Мы глубоко извиняемся за непреднамеренные оскорбительные и вредные твиты от Tay, которые не отображают нас и ценности, которые мы отстаиваем, и то, для чего мы разработали Tay», — говорит он.

Искусственный интеллект твиттер-бота Taй работал по принципу зеркала, он строил фразы на основе ранее прочитанных сообщений пользователей соцсети. Именно грубые фразы, прочитанные в твиттере, изменили бота и сделали его мизантропом. Питер Ли видит в этом злой умысел.

«Taй сейчас отключена, и мы включим её обратно, только когда будем уверены, что сможем лучше противостоять злому умыслу, который идёт вразрез с нашими принципами и ценностями», — говорит вице-президент «Майкрософт».

Пользователи твиттера с пониманием отнеслись к извинениям президента компании, многие говорят, что эксперимент с ботом показал реальную картину общества.

«Может ли Microsoft извиняться за @TayandYou? Как вы просите прощения, если вы просто построили зеркало для общества?»

История с ботом Тай, который начитался плохих слов в интернете и сам стал говорить злые вещи, вдохновила пользователя Reddit на создание небольшого комикса.

sXCMxtn — копия

«Наверное, это работает так:

— Мамочка, те люди говорят плохие вещи в интернете!

— Не смотри на них, Тай, я не хочу, чтобы ты поддавалась влиянию… О боже, нет! 

sXCMxtn — копия (2)

— Тай!

— Слишком поздно, мама. Евреи устроили 9/11. Газовые камеры для жидов — наступает расовая война!»

Компания «Майкрософт» после случая с Тай решила отказаться от тестирования искусственного интеллекта на публичных площадках.

Хозяйка играла с псом и случайно сделала его киборгом. Теперь её любимые треки играют прямо в животе питомца Хозяйка играла с псом и случайно сделала его киборгом. Теперь её любимые треки играют прямо в животе питомца Обустраиваем гнездышко киберспортсмена. Обзор мощнейшего десктопа MEG Trident X от MSI Обустраиваем гнездышко киберспортсмена. Обзор мощнейшего десктопа MEG Trident X от MSI Хозяйка стала слышать плач из-за стены, но зря боялась. Увидев, кого рабочий достал оттуда, вы скажете: «Aww» Хозяйка стала слышать плач из-за стены, но зря боялась. Увидев, кого рабочий достал оттуда, вы скажете: «Aww» Жених придумал, как стать невидимым в zoom-конференциях невесты, но упс. Он просчитался и застрял в текстурах Жених придумал, как стать невидимым в zoom-конференциях невесты, но упс. Он просчитался и застрял в текстурах Жажда лучшего. Как работает «умный» напиток idrinq и почему кофеин и гуарана — позавчерашний день Тиктокер показал свой талант, и люди не верят, что он человек. Парень поёт как соловей, а птицы ему отвечают Тиктокер показал свой талант, и люди не верят, что он человек. Парень поёт как соловей, а птицы ему отвечают «Приходишь на интересе, а потом пашешь на силе воли». Истории людей, резко сменивших профессию «Приходишь на интересе, а потом пашешь на силе воли». Истории людей, резко сменивших профессию Девушка подружилась с сестрой своего парня, но упс. Его мама всю жизнь была уверена, что у неё один ребёнок Девушка подружилась с сестрой своего парня, но упс. Его мама всю жизнь была уверена, что у неё один ребёнок Сторонники Алексея Навального объявили дату митинга. Но скептики злы – они знают конечную точку маршрута Тима Белорусских — отец пятилетней девочки. Это признание певца, после которого люди забыли о приговоре Реддитор решил починить разбитый телефон, но выбрал не лучший метод. В итоге пришлось чинить лицо Реддитор решил починить разбитый телефон, но выбрал не лучший метод. В итоге пришлось чинить лицо Ты не ты, когда все вымерли. В детской книге нашёлся динозавр-мем и ваше новое тотемное животное Ты не ты, когда все вымерли. В детской книге нашёлся динозавр-мем и ваше новое тотемное животное Фермерша услышала семейную байку и попала в фильм «Код да Винчи». Теперь она знает, что хотел спрятать прадед Фермерша услышала семейную байку и попала в фильм «Код да Винчи». Теперь она знает, что хотел спрятать прадед Мастер запостил окрашивание волос клиентки и стёр её самооценку. На фото не только причёска новая, но и лицо Мастер запостил окрашивание волос клиентки и стёр её самооценку. На фото не только причёска новая, но и лицо Кот живёт лучше, чем многие из нас. Чтобы это понять, хватит и одним глазом увидеть его комнату с котоплазмой Кот живёт лучше, чем многие из нас. Чтобы это понять, хватит и одним глазом увидеть его комнату с котоплазмой Джеффри Стар попал в аварию, и хейтеры злы. Увидев фото из госпиталя, они поняли — визажист притворяется Джеффри Стар попал в аварию, и хейтеры злы. Увидев фото из госпиталя, они поняли — визажист притворяется Квартирант спасал соседку из пожара, но героем его не считают. Ведь он показал самый нелепый метод подката Квартирант спасал соседку из пожара, но героем его не считают. Ведь он показал самый нелепый метод подката Макака похитила смартфон, и вы её не осудите. Целью кражи был выкуп, ради которого можно пойти на многое Блогерша показала, как изменилась вместе с подругой. Плюсом к новым причёскам — новые лица, и людям не по себе Блогерша показала, как изменилась вместе с подругой. Плюсом к новым причёскам — новые лица, и людям не по себе Дочь думала, что родители подарили ей простой флакон, но эксперт переубедила. Хватило всего шести слов Дочь думала, что родители подарили ей простой флакон, но эксперт переубедила. Хватило всего шести слов Школьник нажал две кнопки, и банкомат выдал ему 40 тысяч рублей. Распорядился он ими так, что мама заплакала Школьник нажал две кнопки, и банкомат выдал ему 40 тысяч рублей. Распорядился он ими так, что мама заплакала Реставраторы нашли оригинальные обои в доме XIX века. Они впечатляют, но в цвете бумаги люди видят опасность Реставраторы нашли оригинальные обои в доме XIX века. Они впечатляют, но в цвете бумаги люди видят опасность Джоан Роулинг и Рэйф Файнс поддержали Навального. А люди уверены — магия Волан-де-Морта победит зло Блогер рассказал, почему нельзя спать с мокрыми волосами. Гнездо на голове с утра — меньшее из всех зол Блогер рассказал, почему нельзя спать с мокрыми волосами. Гнездо на голове с утра — меньшее из всех зол Хозяйка отдала грумеру собаку, а получила нечто. Этот пёс явно сделал каминг-аут как лама или чихуахуа Хозяйка отдала грумеру собаку, а получила нечто. Этот пёс явно сделал каминг-аут как лама или чихуахуа Дайвер вышел один в океан, но ой. Через 20 минут он снял видео, больше проблем в котором только тигровые акулы Дайвер вышел один в океан, но ой. Через 20 минут он снял видео, больше проблем в котором только тигровые акулы Инстаграм Бейонсе стали штурмовать россияне. Дело в подвеске с русским словом, смысл которого сложно разгадать Врачи просили пациентку врать о том, что она женщина, и в 27 лет она узнала зачем. Ответ был страннее просьбы  Энтузиаст так долго залипал на Google Maps, что спас туриста. Только он знал, что не так с его фото из поездки Энтузиаст так долго залипал на Google Maps, что спас туриста. Только он знал, что не так с его фото из поездки Тиктокер показал руку, и пользователи Сети побежали за серебряными пулями. Ещё бы, ведь парень — оборотень Тиктокер показал руку, и пользователи Сети побежали за серебряными пулями. Ещё бы, ведь парень — оборотень Домохозяйка показала на видео, насколько грязным может быть ковёр. После увиденного вы захотите выкинуть свои Домохозяйка показала на видео, насколько грязным может быть ковёр. После увиденного вы захотите выкинуть свои Фермер раскрыл правду о сроке годности еды и сломал людей. Ещё бы, ведь мы все понимали эти цифры неправильно Фермер раскрыл правду о сроке годности еды и сломал людей. Ещё бы, ведь мы все понимали эти цифры неправильно Дочь нашла своего отца спустя 30 лет, помог ДНК-тест. Правда, ради своей новой семьи ей пришлось отдать почку Дочь нашла своего отца спустя 30 лет, помог ДНК-тест. Правда, ради своей новой семьи ей пришлось отдать почку Спасатели нашли дворнягу, а сделав ей стрижку, ахнули. Под слоем грязи скрывался очаровательный импостер Спасатели нашли дворнягу, а сделав ей стрижку, ахнули. Под слоем грязи скрывался очаровательный импостер Судья выпустил преступника из тюрьмы, а тот не рад. Не для этого он сидел за решёткой на 20 лет больше срока Судья выпустил преступника из тюрьмы, а тот не рад. Не для этого он сидел за решёткой на 20 лет больше срока Приговор Тиме Белорусских за наркотики рассердил людей в Сети. Они уверены — суд был слишком гуманным