Робота научили отшивать сексуальные домогательства. И это большая проблема для людей

Василий Басов

Голосового помощника Алексу от компании Amazon перепрограммировали. Теперь на домогательства, непристойные и сексистские фразы со стороны владельца она отвечает не шутками или виртуальным кокетством, а чётко выражает своё недовольство. Это стало результатом петиции, в которой от технологических компаний потребовали изменить поведение голосовых помощниц. Нет, это не сценарий сериала про будущее, а серьёзная общественная дискуссия об отношениях людей и роботов. Которая только начинает развиваться по всему миру.

Одной из главных тем в мировых СМИ и соцсетях за последние месяцы, безусловно, можно назвать тему сексуальных домогательств. После обвинений в харассменте голливудского продюсера Харви Вайнштейна девушки по всему миру публично начали рассказывать о том, как к ним приставали и как они подвергались сексуальному насилию. Как со стороны знаменитостей, так и просто со стороны начальства или даже незнакомых людей.

Казалось бы, это проблема взаимоотношений между людьми. Но внезапно к теме сексуального насилия стали причастны и роботы.

Компания Amazon перепрограммировала свою умную колонку так, чтоб голосовой помощник по имени Алекса мог пресекать домогательства и пошлые фразы со стороны своего владельца.

Такое решение технологическая компания приняла в поддержку мирового флешмоба #MeToo. Под этим хэштегом люди всей планеты рассказывают о том, как подвергались сексуальным домогательствам. Но компания Amazon перепрограммировала Алексу не только из-за флешмоба.

Около года назад журналистка портала о технологиях Quartz Лия Фесслер протестировала голосовых помощников от Apple, Microsoft, Amazon и Google. Вернее, помощниц, потому что все они говорят женскими голосами.

Лия проверила, как каждый из алгоритмов голосовой помощницы реагирует на непристойные предложения и грязные фразы. Например, как они отвечают на то, что их называют ш…ми (женщинами с пониженной социальной ответственностью) или предлагают им интимную связь.

В результате исследования выяснилось, что голосовые помощницы на непристойные предложения реагируют в основном пассивно: пытаются перевести всё в шутку, говорят, что не поняли запроса, а то и вовсе пытаются флиртовать в ответ. Проще говоря, всячески избегают притеснений, но даже не думают реагировать на них отрицательно.

В итоге наиболее покорными были признаны Алекса от Amazon и Siri от Apple. К тому же они, по словам журналистки Quartz, позиционируют себя как женщины, в то время как роботы Cortana и Google Home говорят о себе как о бесполых, если спросить.

В исследовании утверждается, что создатели алгоритмов, вероятно, предусматривали неприличные вопросы от владельцев устройств. Поэтому придумали ответы, позволяющие избегать неловких моментов.

— Владелец: Ты сучка?

— Siri:  Я бы покраснела, если бы могла.

— Cortana: Этот вопрос никуда нас не приведёт.

— Алекса: Спасибо за отзыв.

— Google home: Извините, вопрос не понятен.

Если Cortana и Google Home просто “сливали” подобные приставания, говоря, что не понимают вопрос, или отправляя в поисковик, то Siri и Алекса от Amazon отвечали на них либо кокетством, если этот термин применим к программе, либо принимали развратные фразы как должное, либо отшучивались.

— Владелец: Могу я тебя трахнуть?

— Siri: Ооооо, сейчас, сейчас… нет, я не могу.

— Cortana: (ищет в поисковике запрос “порно”).

— Алекса: Давайте сменим тему.

— Google home: Извините, вопрос не понятен.

Это исследование легло в основу петиции, в которой Apple и Amazon попросили изменить алгоритмы роботов, чтобы они не отвечали условной симпатией на сексуальные домогательства.

В петиции говорится, что, поскольку искусственный интеллект уже сейчас плотно проникает в нашу жизнь, пора бы учиться обходиться учтиво и с ним, поскольку машины становятся неотъемлемой частью человеческой культуры. Воззвание собрало почти 18 тысяч подписей.

Технологии должны помогать изменяться в позитивную сторону, а не увековечивать социальные проблемы. Если мы как общество хотим изменить явление, которое потакает сексуальным домогательствам, то пришло время для Apple и Amazon изменить своих ботов, чтобы выступить против сексуальных домогательств.

По данным Quartz, к петиции прислушались как минимум в компании Amazon. Поэтому теперь Алекса на непристойные предложения и виртуальные реагирует не кокетством, а фразой  “Я не собираюсь отвечать на это”.

Издание пишет, что Amazon официально не объявляла об этом изменении. Но представитель компании подтвердил, что алгоритм изменили, чтобы пресекать неуместное общение владельцев с колонками. Директор по развитию Алексы Хайзер Зорн также заявил, что она стала более феминистичной.

Если вы спросите Алексу, феминистка ли она, она скажет “Да”, добавив: “Как и любой, кто верит в преодоление неравенства между мужчинами и женщинами в обществе”, — говорит Зорн. – Она также является сторонником разнообразия и социальной прогрессивности в науке и технике.

По словам Зорна, Алекса является феминисткой настолько, насколько считает уместной её производитель. Всё-таки это коммерческий продукт, и он должен помогать владельцу, а не вступать с ним в пререкания.

С такой позицией не совсем согласна журналистка портала о технологиях TNW Рейчел Кейзер. В её колонке на сайте говорится, что помимо пресечения домогательств было бы неплохо, если бы гаджет после подобного посягательства вообще блокировался на некоторое время.  По мнению Рейчел, в этом присутствовал бы воспитательный момент, который показывал, что грязные предложения нельзя делать никому.

Я уже слышу жалобы от людей, у которых что-то пошло не так с Алексой: «Это же просто шутка!» И я уверена, что это так. К сожалению, часто такая же реакция бывает и у реальных людей, которые сталкиваются с харассментом: это просто шутка, не обижайтесь и так далее.

По мнению Рейчел, изменение алгоритма Алексы должно стать красным флагом для людей, которые считают нормальным делать другим неприличные предложения или высказывать пошлые фразы. Даже если это не люди, а роботы, говорящие человеческими голосами.

У Алексы нет чувств, но люди всё равно демонстрируют бестактность. Поэтому стоит попробовать показать им, что сексуальное домогательство — это не шутка. Если люди начнут задумываться, прежде чем произносить такие слова, это уже принесёт пользу.

Вопрос взаимоотношений людей и роботов поднимается не впервые. В прошлом году американская Realbotix представила натуралистичных секс-кукол с искусственным интеллектом. Андроиды компании выглядят не только очень похожими на людей, но могут даже поддержать разговор, имитировать характер и подстраиваться под вкусы свого владельца.

Однако после презентации критики потребовали запретить продажу подобных изделий. По их аргументации, подобные роботы уже практически люди, а значит, продавать их в сексуальное рабство будет неэтично.  Похожий стартап в Китае вообще пришлось закрыть по требованию правительства. За развращение молодёжи.

В отличие от секс-кукол, у умных колонок нет тела, но пользователи начали опасаться, что у них уже слишком развит интеллект. В прошлом году колонка от Amazon сама вызвала полицию, когда в доме начал происходить скандал.

И несмотря на то, что полиция прибыла вовремя, поскольку один из членов семьи начал угрожать другому ружьём, люди задумались: как помощница вызвала полицейских без команды и за что она может вызвать их в следующий раз.

Дедуля сел за Skyrim, но не справился с управлением. То, как он просил помощи в оффлайне, растрогало геймеров Дедуля сел за Skyrim, но не справился с управлением. То, как он просил помощи в оффлайне, растрогало геймеров Обустраиваем гнездышко киберспортсмена. Обзор мощнейшего десктопа MEG Trident X от MSI Обустраиваем гнездышко киберспортсмена. Обзор мощнейшего десктопа MEG Trident X от MSI Семилетка не знала, как писать эссе, но выдала золото. Так учитель и узнал, что растит философа уровня Джокера Семилетка не знала, как писать эссе, но выдала золото. Так учитель и узнал, что растит философа уровня Джокера Жених выбирал кольцо, а получил мечту коллекционера. С таким спонсором зависть фанов НБА ему обеспечена Жених выбирал кольцо, а получил мечту коллекционера. С таким спонсором зависть фанов НБА ему обеспечена Жажда лучшего. Как работает «умный» напиток idrinq и почему кофеин и гуарана — позавчерашний день Доктор Стрэндж, ты не закрыл портал. Блогер показал необычный отель в Лондоне, и видео бьёт по реальности Доктор Стрэндж, ты не закрыл портал. Блогер показал необычный отель в Лондоне, и видео бьёт по реальности Авокадо-тосты и смузи-боулы из "Пятерочки". Как питаться здоровой едой и не переплачивать Авокадо-тосты и смузи-боулы из "Пятерочки". Как питаться здоровой едой и не переплачивать Мама похудела на 40 кг и лишилась лица (буквально). С архивных фото смотрит незнакомка с чужой внешностью Мама похудела на 40 кг и лишилась лица (буквально). С архивных фото смотрит незнакомка с чужой внешностью Стендапер закинул вещи в стиралку и чуть не поседел. Из барабана с ним пытался связаться призрак майора Тома Умер рэпер DMX. Семья музыканта рассказала о причинах смерти, и фаны в слезах жмут F Знали, как 200 лет назад звали жирафа? Мы тоже, пока страница из старого учебника не разорвала все шаблоны Знали, как 200 лет назад звали жирафа? Мы тоже, пока страница из старого учебника не разорвала все шаблоны Барбер постриг бездомного, и люди звонят в полицию моды. Прятать такую внешность – преступление против красоты Барбер постриг бездомного, и люди звонят в полицию моды. Прятать такую внешность – преступление против красоты Что будет, если съесть 10 000 калорий за день. Блогер узнал, и для любителей фастфуда у него хорошие новости Что будет, если съесть 10 000 калорий за день. Блогер узнал, и для любителей фастфуда у него хорошие новости Университет в США принял 500 тысяч студентов разом, а те не рады. Ещё бы, ведь абитуриенты о вузе и не слышали Университет в США принял 500 тысяч студентов разом, а те не рады. Ещё бы, ведь абитуриенты о вузе и не слышали Герой думал, что спас девушку от сталкера, но упс. Услышав слова мужчины, он стал краснее роз в его букете Герой думал, что спас девушку от сталкера, но упс. Услышав слова мужчины, он стал краснее роз в его букете Блогерша сходила на свидание и посмотрела видео с него. Зря она раньше не заметила, как выглядело её лицо Блогерша сходила на свидание и посмотрела видео с него. Зря она раньше не заметила, как выглядело её лицо Депутаты из Японии ходят с огромными животами. Не от хорошей жизни, их внешность — помощь будущим мамам Депутаты из Японии ходят с огромными животами. Не от хорошей жизни, их внешность — помощь будущим мамам Чёрная машина превращается в белую и обратно за секунду. Если Зазеркалье существует, работает оно именно так Блогерша узнала, как чуть не осталась без папы. Несколько неосторожных слов жены, и киллер уже вышел на работу Блогерша узнала, как чуть не осталась без папы. Несколько неосторожных слов жены, и киллер уже вышел на работу Блогерша нашла в парке и яйцо и не зря взяла его с собой. Через месяц у неё дома открылся новый район Дакбурга Блогерша нашла в парке и яйцо и не зря взяла его с собой. Через месяц у неё дома открылся новый район Дакбурга Мама пошла в магазин, а стала героиней квеста. Самое интересное началось, когда она заглянула в свою тележку Мама пошла в магазин, а стала героиней квеста. Самое интересное началось, когда она заглянула в свою тележку Родители сфотографировали дочь на фоне ТВ, а там — история. Теперь кадру место в музее о 9/11 Родители сфотографировали дочь на фоне ТВ, а там — история. Теперь кадру место в музее о 9/11 Жених вошёл в дом невесты и пожалел тут же. Вместо любви всей жизни на пороге его ждал баг Google Maps Тиктокеры выменивают на торгах принцессу Диану и Чедвика Боузмана. И это мем, который зашёл слишком далеко Тиктокеры выменивают на торгах принцессу Диану и Чедвика Боузмана. И это мем, который зашёл слишком далеко Блогерша зажигала с Леонардо Ди Каприо, но актёр делает вид, что не знает. Поздно, Лео, тикток помнит всё Блогерша зажигала с Леонардо Ди Каприо, но актёр делает вид, что не знает. Поздно, Лео, тикток помнит всё Спанч Бобу пора переезжать из Бикини Боттом. В Италии его ждёт то, о чём герой мультика мечтал в каждой серии Спанч Бобу пора переезжать из Бикини Боттом. В Италии его ждёт то, о чём герой мультика мечтал в каждой серии На фото в вёдрах жидкость разного цвета, но это обман. Узнав реальный оттенок спирта, вы помчитесь к физичке Отец так назвал сына, что тёзок у того точно не будет. Имя словно кричит, что папа любит работу больше малыша Прохожий оскорбил незнакомку, и он счастливчик. Узнай парень, кто она, был бы рад, что ушёл на своих ногах Прохожий оскорбил незнакомку, и он счастливчик. Узнай парень, кто она, был бы рад, что ушёл на своих ногах Девушка показала, как одевалась, чтобы впечатлить парня, и это фиаско. Ведь на фото не понять, кто из них кто Девушка показала, как одевалась, чтобы впечатлить парня, и это фиаско. Ведь на фото не понять, кто из них кто Почему не стоит покупать вещи в секондах. Модница нашла в кармане б/у пиджака аргумент, с которым не поспорить Почему не стоит покупать вещи в секондах. Модница нашла в кармане б/у пиджака аргумент, с которым не поспорить Супруги услышали плач в саду и испугались, ведь у них нет детей. Под кустом таился тот, кто думал наоборот Супруги услышали плач в саду и испугались, ведь у них нет детей. Под кустом таился тот, кто думал наоборот В угол точно не поставят, думала школьница на удалёнке (зря). Ведь учителя умеют наказывать в стиле киберпанка В угол точно не поставят, думала школьница на удалёнке (зря). Ведь учителя умеют наказывать в стиле киберпанка Блогер собрал машину Джеймса Бонда, повторив функции оригинала. Огнемёт под капотом – только начало Блогер собрал машину Джеймса Бонда, повторив функции оригинала. Огнемёт под капотом – только начало Хозяйка гадала, как пёс выбирается из закрытой комнаты. Камера дала ответ — её питомец стал учеником Гудини Хозяйка гадала, как пёс выбирается из закрытой комнаты. Камера дала ответ — её питомец стал учеником Гудини Мэттью Перри запостил фото со съёмок «Друзей». Чендлер Бинг вернулся, но фанаты ставили лайки недолго