Вчені проаналізували 290 випадків відключення автопілота на автомобілях Tesla і простежили за реакцією водія.
Автори з Массачусетського технологічного інституту (MIT) проаналізували позу водія і положення особи, щоб визначити, на що були сфокусовані їхні очі. Використовуючи дані, зібрані з 2016 року, команда порівняла 290 випадків, коли водії відключали функцію автопілота, порівнюючи їхню поведінку до відключення з їхніми діями після. Для дослідження використовувалися дані про більш ніж 800 000 км шляху.
«Візуальні моделі поведінки змінюються до і після відключення автопілота», — пишуть дослідники.
Крім того, навіть після виключення цієї функції і переходу на ручне управління увага людини за кермом часто стає розсіяною, а концентрація знижується.
Дослідження підкреслює проблему проміжного етапу розвитку автопілотів: технології автономного водіння стали досить добрі, щоб справлятися з багатьма аспектами перебування в дорозі, але не можна покладатися на те, що вони постійно братимуть на себе геть усе.
Це потенційно небезпечніше, ніж повністю людське керування і повністю автоматизоване управління, тому що коли люди сідають за кермо, вони припускають, що їм не потрібно приділяти всю свою увагу кожному етапу водіння.
«Ця зміна в поведінці може бути викликана неправильним розумінням того, що система може робити, і її обмежень, що посилюється, коли автоматизація працює відносно добре», — пишуть дослідники з Массачусетського технологічного інституту.
Команда пропонує, щоб автономні системи, такі як автопілот, стежили за водіями, а також за дорогою, показуючи попередження і регулюючи поведінку системи залежно від того, наскільки уважна людина за кермом.
За словами дослідників, також важливо, щоб водії повною мірою усвідомлювали, на що здатні і що не можуть робити безпілотні автомобілі. Хоча Tesla повідомляє водіям, що потрібна якась увага, вона називає своє останнє оновлення програмного забезпечення Full Self Driving — насправді це не так.
Раніше НВ писав, що генеральний директор Tesla Ілон Маск розкритикував останню версію автопілота FSD (Full-Self Driving — повне автономне водіння), створеного його компанією.
Маск визнав, що його інженери працюють над поліпшенням програмного забезпечення «якомога швидше».
Підприємець написав у Твіттері, що Full Self-Driving Beta версії 9.2 «насправді не найкращий, на мій погляд, але команда Autopilot/AI згуртовується, щоб поліпшити все якомога швидше».
«Ми намагаємося створити єдиний стек як для шосе, так і для міських вулиць, але це вимагає масштабного перенавчання нейронної мережі», — додав він.