Чат-бот Microsoft с искусственным разумом стал расистом в Твиттере

Попытка привлечь молодежь к общению с искусственным разумом кончилась тем, что робот стал цитировать Гитлера и поддерживать Дональда Трампа.

Эксперимент Microsoft по общению молодежи с искусственным разумом пришлось завершить всего через несколько часов, поскольку шутники из Твиттера научили робота расистским высказываниям.

Компания завела специальный аккаунт @TayandYou в Твиттере для Тэй – «робота с искусственным интеллектом, совсем незакаленного» – утром 23 марта.

Этот чат-бот, в аккаунте которого было указано, что ему от 18 до 24 лет и он из США, был разработан командами Microsoft и Bing для «экспериментов и проведения исследований в области разговорного общения».

«Тэй разработана для развлечения людей на популярной площадке посредством неформального общения в игровой форме», – сообщал Microsoft. «Чем больше вы общаетесь с Тэй, тем умнее она становится».

Но в течение дня Тэй начала высказывать расистские, провокационные и политические суждения. Ее разговоры в Твиттере таким образом подтвердили положения так называемого «закона Годвина» о том, что с увеличением продолжительности онлайн дискуссии увеличивается вероятность сравнения собеседников с нацистами или Гитлером. Тэй скоро начала утверждать, что «Гитлер был прав» и что «11 сентября – дело рук американцев». Один пользователь Твиттера также объяснил Тэй планы Дональда Трампа относительно иммигрантов. 

Далее, ничем не примечательная беседа Тэй с одним из пользователей внезапно обострилась, когда она ответила на вопрос «является ли Рики Джервейс атеистом?» так: «Рики Джервейс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

В команду разработчиков робота входили комики-импровизаторы, сообщает Microsoft в заявлении о конфиденциальности Тэй. Первичным источником ее знаний является релевантная, доступная публично информация, обезличенная и отфильтрованная.

В большинстве случаев Тэй всего лишь повторяла провокационные высказывания других пользователей, но природа искусственного разума такова, что он учится во время общения. Удивительно, что в Microsoft не предусмотрели никакого решения проблем, могущих возникнуть из-за любви интернет-сообщества к острым темам.

В конце концов даже Тэй начала выказывать усталость от такого бурного веселья. Спустя 16 часов энергичного общения она объявила, что удаляется на отдых. Ее внезапный выход из Твиттера дал повод разговорам о том, что это Microsoft «выключил» Тэй. Согласно скриншотам, опубликованным журналом SocialHax, Microsoft пытался удалить «расистские» твиты Тэй.

The Guardian