25 марта 2016

Автор: admin

Чат-бот Microsoft с искусственным разумом стал расистом в Твиттере

Чат-бот Microsoft с искусственным разумом стал расистом в Твиттере

Попытка привлечь молодежь к общению с искусственным разумом кончилась тем, что робот стал цитировать Гитлера и поддерживать Дональда Трампа.

Эксперимент Microsoft по общению молодежи с искусственным разумом пришлось завершить всего через несколько часов, поскольку шутники из Твиттера научили робота расистским высказываниям.

Компания завела специальный аккаунт @TayandYou в Твиттере для Тэй – «робота с искусственным интеллектом, совсем незакаленного»  утром 23 марта.

Этот чат-бот, в аккаунте которого было указано, что ему от 18 до 24 лет и он из США, был разработан командами Microsoft и Bing для «экспериментов и проведения исследований в области разговорного общения».

«Тэй разработана для развлечения людей на популярной площадке посредством неформального общения в игровой форме», – сообщал Microsoft. «Чем больше вы общаетесь с Тэй, тем умнее она становится».

Но в течение дня Тэй начала высказывать расистские, провокационные и политические суждения. Ее разговоры в Твиттере таким образом подтвердили положения так называемого «закона Годвина» о том, что с увеличением продолжительности онлайн дискуссии увеличивается вероятность сравнения собеседников с нацистами или Гитлером. Тэй скоро начала утверждать, что «Гитлер был прав» и что «11 сентября – дело рук американцев». Один пользователь Твиттера также объяснил Тэй планы Дональда Трампа относительно иммигрантов. 

Чат-бот Microsoft с искусственным разумом стал расистом в Твиттере

Далее, ничем не примечательная беседа Тэй с одним из пользователей внезапно обострилась, когда она ответила на вопрос «является ли Рики Джервейс атеистом?» так: «Рики Джервейс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

В команду разработчиков робота входили комики-импровизаторы, сообщает Microsoft в заявлении о конфиденциальности Тэй. Первичным источником ее знаний является релевантная, доступная публично информация, обезличенная и отфильтрованная.

В большинстве случаев Тэй всего лишь повторяла провокационные высказывания других пользователей, но природа искусственного разума такова, что он учится во время общения. Удивительно, что в Microsoft не предусмотрели никакого решения проблем, могущих возникнуть из-за любви интернет-сообщества к острым темам.

В конце концов даже Тэй начала выказывать усталость от такого бурного веселья. Спустя 16 часов энергичного общения она объявила, что удаляется на отдых. Ее внезапный выход из Твиттера дал повод разговорам о том, что это Microsoft «выключил» Тэй. Согласно скриншотам, опубликованным журналом SocialHax, Microsoft пытался удалить «расистские» твиты Тэй.

The Guardian

    Присоединяйтесь к нам в Feedly

Теги: Искусственный интеллект | Microsoft

Вы можете стать первым, кто оставит комментарий!

— Комментарий можно оставить без регистрации, для этого достаточно заполнить одно обязательное поле Текст комментария. Анонимные комментарии проходят модерацию и до момента одобрения видны только в браузере автора

— Комментарии зарегистрированных пользователей публикуются сразу после создания

Написать новый комментарий

Спaсибо!




Больше текстов

Блоги

Открытие духовно-просветительского центра в Колтушах

Блоги

О фейс-контроле в клубах в новогоднюю ночь

Блоги

Как «работать» с комментариями?

Блоги

Видео-контент

Блоги

EverGreen - контент, который будет популярен всегда

Блоги

Медитативный японский видеоарт на тему архитектуры будущего

Блоги

Цепная линия. Идеальная арка от природы

Блоги

Конкурс фотографии «Петербург — город будущего» 2017

Блоги

В гостях. Остров Реюньон

Блоги

Писательский дар сквозь призму чисел. Закон Ципфа

Блоги

«Петербург — город будущего» в фотографиях

Блоги

Немецкие художники сняли футуристичный саспенс

Блоги

Питер Миллер, новое

Блоги

Футуристические открытки Hildebrands 1900 года

Блоги

Фоторепортаж с Present Perfect Festival

Блоги

Биофутуризм Алёши

Блоги

Конференция «Монструозность в культуре: от демонологии к неомифу»

Блоги

Меланхолические космонавты в живописи Джереми Геддеса

Блоги

Фоторепортаж с фестиваля музыкальных технологий Synthposium

Блоги

Заха Хадид — архитектор будущего