Дилемма Uber: Кто станет жертвой беспилотного автомобиля
Главная Технологии, Uber, Беспилотные автомобили

Недавно стало известно, что за пять дней до ДТП со смертельным исходом в марте 2018 года топ-менеджеры Uber получили письмо о проблемах с беспилотными автомобилями. Возникает вопрос: могли ли создатели беспилотника предотвратить катастрофу? Но что еще важнее — это возвращает нас к спору о том, чья жизнь должна быть для автопилота в приоритете: водителя или пассажира?

Представьте, что вы находитесь внутри самоуправляемого автомобиля, который может столкнуться с группой пешеходов. Единственная альтернатива — падение со скалы. Что сделает машина?

Эта дилемма не нова, но теперь, с появлением беспилотных автомобилей, она воплощается в реальность.

Машины будущего: Как изменятся автомобили в ближайшие 50 лет

В частности, создатели автономных машин — Tesla, Google, Uber и другие компании — должны выбрать то или иное решение «проблемы вагонетки». Оригинальный вариант звучит так:

Тяжелая неуправляемая вагонетка несется по рельсам. На пути ее следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?

Многие выбирают перевести стрелку. Впрочем, этот моральный выбор можно усложнить. Пример: вы стоите на пешеходном мостике над путями и видите, как к пяти людям мчится вагонетка. Рядом с вами стоит толстый человек, и понятно, что его веса хватит, чтобы остановить вагонетку. Следует ли столкнуть его с моста ради спасения пятерых?

С обрыва

На сайте Arxiv была опубликована работа, согласно которой большинство опрошенных считает, что в такой ситуации программа автомобиля должна спасать прохожих.

В ходе исследования, выполненного под руководством психолога Жана-Франсуа Бонеффона из Тулузской школы экономики, было проработано множество сценариев с более чем 900 участников. 75% респондентов считают, что даже ради спасения одного пешехода автомобиль должен уйти в сторону и убить водителя.

«Проблема вагонетки» вызывает такие острые обсуждения именно потому, что отражает конфликт между моральным постулатом не причинять вреда и другим постулатом — не поступать плохо.

Старая философская школа утверждает: принятие решения, которое ведет с счастью максимального количества людей, — утилитаризм. Беспилотный автомобиль должен стараться спасти как можно больше людей, независимо от того, пассажиры это или пешеходы. Если в машине пять человек, и их гибели можно избежать, наехав на пешехода — робот должен так поступить. Это упрощенная аргументация, но с утилитаризмом, как его излагал Джон Стюарт Милль, трудно спорить.

Кто в ответе?

Другие философы, рассуждавшие о «проблеме вагонетки», утверждают, что утилитаризм демонстрирует слишком грубый подход к проблеме, поскольку при выборе шага, соответствующего морали, нужно оценивать не только последствия, но и моральную ответственность.

Профессор практической философии в Стокгольмском университете Хелен Фрове, которая читает лекции по «проблеме вагонетки», считает, что автопилот необходимо программировать для защиты невинных прохожих, поскольку пассажиры несут большую ответственность. Она говорит:

«У нас есть довольно сильное моральное обязательство не убивать людей. Садясь в самоуправляемый автомобиль мы берем на себя этот риск».

Проблема усложняется, если приложить аргумент Фрове к несколько измененной ситуации. Например, в автономной машине может ехать четыре пассажира, включая двоих детей. Как «просчитать» выбор в этом случае?

Фрове считает: если все пассажиры совершеннолетние, для спасения даже одного пешехода они должны умереть, поскольку сами сделали этот выбор и тем самым приняли на себя моральную ответственность.

Полагая, что на детей моральная ответственность не распространяется, Фрове тем не менее не допускает возможность убить одного пешехода ради спасения жизней двоих детей. Она говорит:

«Чем больше детей, тем проще оправдать убийство одного человека. Но в случае если в транспортном средстве находятся только взрослые, для оправдания убийства нужно много людей, возможно, целый автобус».

Лучше не делать ничего?

Можно только посочувствовать разработчикам программного обеспечения (и адвокатам), которые пытаются понять, какую программу действий выбрать, потому что ситуация может быть сложнее. Что если пешеход нарушил правила дорожного движения? Или даже специально вышел на дорогу перед автомобилем, чтобы заставить его свернуть и убить пассажира? Беспилотные автомобили не могут судить о намерениях пешеходов, и у этой этической дилеммы нет простого решения.

Исписаны километры бумаги, авторы доходят до мельчайших подробностей, но к решению пока так и не приблизились. Например, что более аморально: направить машину на одинокого пешехода или ничего не делать и позволить автомобилю врезаться в группу людей, нанося непредсказуемый вред?

Бывший профессор философии Калифорнийского университета Уоррен Куинн отвергал идеи утилитарной морали о том, что нужно стремиться максимизировать счастье. По его мнению, действие, при котором человек умышленно причиняет вред другому, с этической точки зрения хуже, чем косвенное действие, приводящее к причинению вреда.

Конечно, ситуация, когда у автопилота окажется всего два варианта действий, и оба явно будут вести к смерти, весьма маловероятна. Но, когда на дорогах окажется много таких машин, рано или поздно робот встанет перед выбором, кому нанести вред: пассажиру или пешеходу. Любое автономное транспортное средство должно быть в состоянии решать такие задачи.

Производителям беспилотных автомобилей еще предстоит озвучить свою позицию по данному вопросу. Однако если даже среди философов нет согласия, шансы на единое решение не слишком велики. Заодно посмотрим, обрадуются ли философы долгожданной возможности проверить их теории на практике.

Читайте также:
Пожалуйста, опишите ошибку
Закрыть