Автопілот і дилема: кого «вбити» – водія чи пішоходів?

Автономні автомобілі вже перестають бути фантастикою: на дорогах з’являються машини з режимом автопілота, які можуть їхати без втручання людини. Автолюбителі поки що більше цікавляться традиційними показниками – швидкістю, потужністю, комфортом. Вони із захопленням порівнюють, приміром, німецькі суперседани BMW M5 F90 та Mercedes-AMG E63 S за їхніми характеристиками. Проте з появою автопілота на перший план виходить зовсім інша тема – етика та безпека. Що робити машині, коли аварії не уникнути?

Це вже не теоретичне питання з підручників, а реальна проблема на дорозі. Уявімо ситуацію: безпілотне авто мчить і раптом перед ним на пішохідному переході з’являється група людей. На гальмування вже запізно. Є два варіанти розвитку подій: звернути убік і врізатися в стіну (пожертвувавши водієм) або продовжити рух і збити пішоходів. Алгоритм штучного інтелекту запрограмований на певне рішення – і від цього рішення залежать життя.

Філософи називають такий трагічний вибір «проблемою вагонетки». Колись це був суто уявний експеримент: чи направити некерований трамвай на іншу колію, щоб врятувати п’ятьох людей ціною життя одного? Тепер подібна дилема постає перед штучним інтелектом на дорозі – і його рішення матимуть реальні наслідки.

• Врятувати пасажира. Продовжувати рух, захищаючи водія, попри ризик для групи пішоходів.
• Врятувати пішоходів. Скерувати авто на перешкоду чи узбіччя, жертвуючи життям того, хто всередині машини.
• Не обирати свідомо. Уникати спеціального алгоритму вибору – тобто закласти мінімізацію шкоди без таргетингу, фактично дозволивши подіям розвиватися стихійно.

Дехто може заперечити, що штучний інтелект буде настільки розумним, що завжди знайде третій, безпечний вихід. Але це радше міф. Насправді навіть найсучасніші сенсори та програми не здатні скасувати закони фізики і виключити всі ризики. Критичні ситуації все одно траплятимуться . Отже, рано чи пізно машина може опинитися перед вибором, кого вберегти ціною іншого життя.

Людство досі не знайшло єдиної правильної відповіді на цю дилему. Втім, соціологічні дослідження дають цікавий погляд на проблему. Опитування показують: більшість респондентів погоджується, що у крайній ситуації автономне авто має жертвувати пасажиром, аби врятувати групу людей. Проте ті ж самі люди зізнаються, що не хотіли б їздити в машині, яка в разі небезпеки свідомо пожертвує ними заради чужих життів. Цей парадокс може стати перепоною для впровадження безпілотників на дороги.

Наведемо показовий результат одного з досліджень громадської думки щодо «дилеми автопілота»:

Як бачимо, суспільство одночасно бажає, щоб роботи-водії рятували якомога більше людей, і при цьому не хоче ризикувати собою. Такий розрив між моральними і особистими інтересами створює дилему для виробників та регуляторів. Адже як не програмуй алгоритм – рішення буде суперечливим і може викликати обурення.

Хто сяде у в’язницю, якщо безпілотне авто спричинить ДТП?

Якщо ж машина на автопілоті таки спричинила аварію з фатальними наслідками – кого карати? Це питання не менш складне за моральний вибір. Перші тривожні дзвіночки вже пролунали. Наприклад, у 2018 році тестовий автономний автомобіль Uber збив насмерть пішохода; відомі й інші смертельні ДТП за участі Tesla на автопілоті. Подібні випадки, де кермує комп’ютер, ставлять під сумнів традиційний принцип, за яким вся вина покладається на водія.

У ситуації з «робо-водієм» можливі різні підходи до визначення винуватця. Розглянемо основні сценарії:

1. Власник (пасажир) автомобіля. Логіка: саме він сидів у салоні та ввімкнув режим автопілота. Можливо, людина мала контролювати рух і втрутитися – отже, несе частку вини за бездіяльність.
2. Розробник програми (алгоритму). Адже це програмісти заклали ту модель поведінки, що привела до трагедії. Чи повинні інженери нести кримінальну відповідальність за наслідки рішень свого коду?
3. Компанія-виробник автомобіля. Фірма, що випустила безпілотне авто, могла не передбачити усіх ризиків або зекономити на датчиках. Відповідати може виробник (в особі керівництва) як юридична особа – наприклад, через судові позови та штрафи.

Поки що чіткої норми закону на цей рахунок немає. У більшості країн, де тестуються автономні авто, відповідальність покладається на людину за кермом. Адже нинішні системи автопілоту (рівня 2–3) вимагають, щоб водій залишався уважним. Так, у випадках з Tesla суди здебільшого визнають винним водія, який переоцінив можливості автопілота і не втрутився, коли це було потрібно.

Однак із появою повністю безпілотних машин (рівень 4–5) логічно виникає потреба змістити вину на творців технології. У Німеччині національна Етична комісія з автоматизованого водіння ще у 2017 році постановила: якщо людина більше не контролює авто, то й відповідальність за його дії несе не пасажир, а виробник або оператор системи. Деякі автовиробники самі готові приймати на себе таку відповідальність – наприклад, компанія Volvo публічно обіцяла взяти всю вину на себе, коли її автомобілі їздитимуть у автономному режимі.

Перекладання провини на компанію має свої плюси і мінуси. З одного боку, власники охочіше довірятимуть автопілоту, якщо знатимуть, що їх не зроблять «крайніми» у разі аварії. З іншого – виробники побоюються брати всю вину на себе, адже це загрожує багатомільйонними позовами і навіть кримінальною відповідальністю їхніх посадових осіб. Можливо, будуть запроваджені спеціальні страхові поліси або юридичні обмеження, щоб збалансувати ці ризики.

Попри всі ці невизначеності, технології автономного водіння не стоять на місці. Нові моделі авто отримують дедалі розумніші «мізки». Наприклад, електричний кросовер Volkswagen ID.4 оснащений комплексом Travel Assist для напівавтономного руху, а водії цієї моделі можуть підвищити комфорт і практичність, встановивши різноманітні аксесуари для Volkswagen ID.4. Повністю автономне керування (рівень 5) поки лишається справою майбутнього. А отже, дискусії про моральні алгоритми та юридичну відповідальність триватимуть – суспільству потрібен час, щоб дійти згоди.

Отже, моральна дилема автопілота поки що не має чіткої розв’язки. Програмувати машини на порятунок більшості ціною пасажира чи на захист свого водія за будь-яких умов? Кого карати за помилки штучного інтелекту – інженерів, власників чи взагалі нікого? Над цими питаннями міркують філософи, юристи і самі виробники. Можливо, вже скоро доведеться переглянути усталені принципи етики та відповідальності на дорогах. Адже коли за кермом комп’ютер, то і рішення, і вина набувають зовсім нового значення – такого, з яким людству лише належить навчитися жити.