3 декабря 2016, суббота

Плохая школа. Всего за сутки пользователи Twitter превратили искусственный интеллект в расиста-матершинника

комментировать
Пользователи Twitter с завидной оперативностью превратили эксперимент в области обучения ИИ в жестокую шутку, поднимающую серьезные вопросы.
Tay via Facebook

Пользователи Twitter с завидной оперативностью превратили эксперимент в области обучения ИИ в жестокую шутку, поднимающую серьезные вопросы.

23 марта Microsoft запустил ИИ-чатбота Tay, способного обучаться через общение с пользователями Twitter. Менее чем через 24 часа его научили нецензурно выражаться и превратили в расиста и женоненавистника.

Запуская чатбота, Microsoft рассчитывал, что Tay будет совершенствоваться в "разговорном понимании" путем "легких и веселых бесед". Однако веселыми эти беседы оставались недолго. Очень скоро Tay начал публиковать твиты откровенно расистского или сексистского содержания с применением нецензурной лексики.

Следует отметить, что не все сообщения (а их было более 96000) принадлежали самому Tay. Некоторые твиты он просто копировал у самих пользователей, выполняя команду "повторяй за мной", которая позволяет любому желающему вложить в уста бота свои слова. Тем не менее, сам Tay тоже успел наломать дров, признаваясь в ненависти к представителям различных национальностей и движений или признавая правоту Гитлера.

"Это все, конечно, шутка, но она поднимает серьезные вопросы, например, как мы собираемся учить ИИ при помощи общедоступной информации, не привив ему худших человеческих черт, - пишет Джеймс Винсент из The Verge. - Если мы создаем роботов, которые служат отражением своих хозяев, важно ли, что эти хозяева просто отбросы общества?".

Узнав о приключениях Tay в Twitter, Microsoft в спешном порядке принялся удалять оскорбительные твиты. В своем официальном сообщении Business Insider американская компания подчеркнула роль человеческого фактора и пообещала "внести некоторые исправления в Tay".

Комментарии

1000

Правила комментирования
Показать больше комментариев

Последние новости

ТОП-3 блога

Фото

ВИДЕО

Читайте на НВ style

Гаджеты и IT ТОП-10

Подписка на новости
     
Погода
Погода в Киеве

влажность:

давление:

ветер: