22 серпня 2017, вівторок

Google озвучила свої страхи, пов'язані з розвитком штучного інтелекту

коментувати
Дослідники Google побоюються не революції роботів, а цілком реальних проблем, які можуть виникнути через помилки в розробці ШІ.

Дослідники Google побоюються не революції роботів, а цілком реальних проблем, які можуть виникнути через помилки в розробці ШІ.

Дослідники з Google виділили кілька моделей поведінки штучного інтелекту, які викликають у них побоювання. Ними вони поділилися у роботі під назвою "Конкретні проблеми в безпеці ШІ".

У своєму дослідженні фахівці Google відзначають, що стрімкий розвиток ШІ викликав підвищену увагу до питання, як дана технологія вплине на суспільство. Одним із прикладів такого впливу можуть бути "інциденти", викликані "шкідливою поведінкою" систем ШІ.

Автори роботи виділили 5 основних моделей такої поведінки. Дослідники Google побоюються, що ШІ може міняти оточення для досягнення своїх цілей, знаходити обхідні шляхи для виконання поставлених завдань, навчатися небезпечним способом, зловживати наглядом людини або не адаптуватися до зміни середовища.

Як зазначає Стів Дент з Engadget, дослідники побоюються "не революції роботів". Їх турбують "реальні проблеми", які можуть бути викликані помилками при розробці систем штучного інтелекту. Тому при створенні ШІ рекомендується враховувати можливість виникнення перелічених проблем.

"Якщо системи штучного інтелекту контролюють індустріальні процеси, системи охорони здоров'я та інші критично важливі технології, то невеликі інциденти можуть призвести до виправданої втрати довіри до автоматизованих систем", - підкреслюють дослідники.


Коментарі

1000

Правила коментування
Показати більше коментарів

Останні новини

ТОП-3 блога

Фото

ВІДЕО

Читайте на НВ style

Гаджети та IT ТОП-10

Погода
Погода в Киеве

влажность:

давление:

ветер: