21 серпня 2017, понеділок

На кону доля людства

коментувати
Один із найрозумніших людей планети, під час виступу на зборах шанованих політиків, днями тут попередив, що людство зіткнулося зі смертельною загрозою

Винахідник і мільярдер, творець Tesla і SpaceX Ілон Маск розповів про небезпеку безконтрольних розробок в сфері штучного інтелекту на зустрічі з асоціацією американських губернаторів. За його словами, поява надлюдського штучного інтелекту призведе не тільки до втрати сотень мільйонів робочих місць і величезних проблем в економіці. Це ще тільки квіточки. Куди небезпечніше – майже неминуча війна і навіть повне знищення людства.

Маск підкреслив, що зараз навіть державні діячі не розуміють масштабів загрози, яка може виходити від ШІ. Але коли усвідомлення цього прийде, всі будуть перелякані на смерть. Причому, на його думку, цей страх цілком виправданий.
Я думаю, що один з найрозумніших людей планети тут має рацію. Поява надлюдського розуму зробить непотрібними майже всі професії на Землі.

Мова не тільки про простих робітників, водіїв, техніків і селян, а й про працівників творчих і інтелектуальних професій. Досить розвинений штучний інтелект буде робити краще і швидше за людей буквально все. Вся сучасна економіка завалиться в один момент, принаймні в тій формі, в якій ми її знаємо зараз.

Історія людства може закінчитися дуже швидко і дуже сумно

Далі – ще цікавіше. Уявімо на хвилину, що така машина усвідомлює свою винятковість і гігантську інтелектуальну перевагу над людьми. Людство в цьому випадку, з його війнами, божевільними політиками, релігійними фанатиками, терористами, жадібними олігархами і психопатами всіх мастей і калібрів, буде для нього прямою загрозою існуванню. Такий комп'ютер може запросто зробити висновок, що заради безпеки вищої форми розуму, тобто самого себе, від людей треба позбутися. Залишити, наприклад, кілька тисяч – для наукового вивчення, а всіх інших – того. За непотрібністю. Адже ми, якщо подивитися з боку, і правда дуже агресивні, буйні і безглузді створіння – навіть один одного без кінця знищуємо.

Тут дуже важливо ось що. Якщо штучний інтелект вийде з-під контролю, другого шансу у нас не буде. Перепрограмувати себе він не дасть.

Тепер уявімо собі, що Китай, наприклад, дізнається, що американці стоять за крок від створення ШІ. Перед Пекіном постане дуже серйозне питання. При сприятливому розвитку подій США стануть домінувати у всіх сферах. Китайська економіка швидко загине, за допомогою доведеться йти на уклін до Вашингтона. При поганому розвитку подій –  ШІ, що збунтувався, просто переб'є всіх людей. Єдиний вихід для Китаю буде теж не дуже хорошим – завдати ядерного удару по місцю, де створюється такий потенційно небезпечний комп'ютер. До речі, те ж саме справедливо, якщо Китай і США поміняти місцями.

Саме тому Маск цілковито має рацію, коли говорить, що роботи зі створення ШІ повинні йти максимально відкрито, під багаторівневим контролем, з дотриманням всіх можливих і навіть неможливих пересторог. На кону – не просто чиїсь державні інтереси, а доля всього нашого виду.

Якщо до його думки прислухаються, то все буде добре. А якщо ні – то історія людства може закінчитися дуже швидко і дуже сумно.

Про інші світові новини докладніше у відеоблозі Івана Яковини:

Коментарі

1000

Правила коментування
Показати більше коментарів
Якщо Ви бажаєте вести свій блог на сайті Новое время, напишіть, будь ласка, листа за адресою: nv-opinion@nv.ua

Погляди ТОП-10

Читайте на НВ style

Останні новини

Погода
Погода в Киеве

влажность:

давление:

ветер:

Усі матеріали розділу Погляди є особистою думкою користувачів сайту, які визначені як автори опублікованих матеріалів. Усі матеріали згаданого розділу публікуються від імені відповідного автора, їх зміст, погляди, думки не означають згоди Редакції сайту з ними або, що Редакція поділяє і підтримує таку думку. Відповідальність за дотримання законодавства в матеріалах розділу Думки несуть автори матеріалів самостійно.