30 квiтня 2017, неділя

Погана школа. Всього за добу користувачі Twitter перетворили штучний інтелект на расиста-жінконенависника

коментувати
Користувачі Twitter із завидною оперативністю перетворили експеримент в області навчання ШІ на жорстокий жарт, що піднімає серйозні питання.
Tay via Facebook

Користувачі Twitter із завидною оперативністю перетворили експеримент в області навчання ШІ на жорстокий жарт, що піднімає серйозні питання.

23 березня Microsoft запустив ШІ-чатбота Tay, здатного навчатися через спілкування з користувачами Twitter. Менш ніж через 24 години його навчили нецензурно висловлюватися і перетворили на расиста і жінконенависника.

Запускаючи чатбота, Microsoft розраховував, що Tay буде удосконалюватися в "розмовному розумінні" шляхом "легких і веселих розмов". Однак веселими ці бесіди залишалися недовго. Дуже скоро Tay почав публікувати твіти відверто расистського або сексистської змісту із застосуванням нецензурної лексики.

Слід зазначити, що не всі повідомлення (а їх було понад 96000) належали самому Tay. Деякі твіти він просто копіював у самих користувачів, виконуючи команду "повторюй за мною", яка дозволяє будь-кому вкласти в уста бота свої слова. Тим не менше, сам Tay теж встиг наламати дров, зізнаючись у ненависті до представників різних національностей та рухів або визнаючи правоту Гітлера.

"Це все, звичайно, жарт, але він піднімає серйозні питання, наприклад, як ми збираємося вчити ШІ за допомогою загальнодоступної інформації, не прищепивши йому найгірших людських рис, - пише Джеймс Вінсент з The Verge. - Якщо ми створюємо роботів, які служать відображенням своїх господарів, чи важливо, що ці господарі просто жахливі люди?".

Дізнавшись про пригоди Tay в Twitter, Microsoft в терміновому порядку почав видаляти образливі твіти. У своєму офіційному повідомленні Business Insider американська компанія підкреслила роль людського фактора і пообіцяла "внести деякі виправлення в Tay".

Коментарі

1000

Правила коментування
Показати більше коментарів

Останні новини

ТОП-3 блога

Фото

ВІДЕО

Читайте на НВ style

Гаджети та IT ТОП-10

Погода
Погода в Киеве

влажность:

давление:

ветер: