Автопилот может решить убить вас
Главная Технологии

Основатель Vendalize Митчелл Тёрк рассказал о том, почему ваш беспилотный автомобиль может убить вас — и это не так страшно, как кажется.

«Проблема вагонетки» — мысленный эксперимент в этике, сформулированный в 60-е. Ему посвящено много работ, и казалось, что он уже давно перестал волновать умы, но в последнее время его популярность вновь достигла небывалых высот. Про этот эксперимент вспомнили журналисты, обсуждая беспилотные автомобили.

Зачастую все дискуссии на эту тему остаются на теоретическом, далеком от реального мира уровне. Однако если мы посмотрим на проблему под другим углом, вопрос о безопасности беспилотных авто вновь станет крайне реалистичным. Этого я и добиваюсь.

Количество запросов о «проблеме вагонетки» в Google Trend. Очевидно, праздники настраивают людей на философский лад

Чтобы всем все было ясно — еще раз о проблеме вагонетки.

Версия первая — изначальная

Тяжелая неуправляемая вагонетка несется по рельсам. На пути ее следования пять человек, никто из них ничего не подозревает. Их ждет неминуемая смерть — но, к счастью, вагонетку можно перевести на запасной путь. Правда, там тоже стоит человек, но всего один. Вы ответственны за переключение стрелки и должны решить: убить пятерых или одного.

Вы бы переключили стрелку?

Версия вторая — «Толстый человек»

Так как в первом варианте практически любой ответит, что да, он бы непременно переключил стрелку, была придумана альтернативная версия проблемы — и это большой вызов для индивидуального чувства ответственности. В альтернативной версии запасного пути нет, как нет и стрелки-переключателя. Единственный способ остановить вагонетку — столкнуть на рельсы стоящего рядом с вами очень толстого человека. Вагонетка будет остановлена, но толстый человек умрет.

Поставим менее радикальный вопрос: можно ли намеренно нанести вред одному человеку ради блага многих? А может, лучше не становиться вершителем чужих судеб — ведь нам не дано знать все, и наше мнение может быть ошибочно?

Ну и, наконец, у меня есть собственная версия этой непростой задачи. Мы близки к тому, чтобы передать ответственность за ситуацию на дорогах автомобилям-роботам, и эта версия, надеюсь, подольет масла в огонь:

Версия третья — «бесконечная вагонетка»

Вы управляете вагонеткой. Запасных путей нет, впереди стоит человек — один-единственный. Его можно спасти: просто нажмите на тормоз.

Но, конечно, есть одно но.

Это бесконечная вагонетка. И количество пассажиров в ней может заставить вас поменять решение. Тысяча? Миллион? Миллиард? У каждого из них свои цели и задачи, проблемы и ожидания — все это будет опрокинуто вверх дном, если вы решите остановить ход вагонетки. Ну, что теперь скажете? Где тот момент, когда благо многих перевешивает жизнь одного?

Я успел поделиться этой версией с четырьмя очень умными собеседниками. Они предлагали разные решения и аргументировали их по-разному, но сходились в одном: никто не посчитал, что проблема имеет какое-либо отношение к реальному миру.

А вот и нет, имеет.

Каждый год американцы совершают порядка 250 млрд поездок на автомобиле. За это время порядка 30 тыс. людей умирает в ДТП — а значит, одна смерть из-за ДТП показалась вам достаточной ценой для того, чтобы иметь возможность совершить 8 млн поездок. Ну или, применимо к моей версии, — для того, чтобы 8 млн человек смогли совершить поездку в одной большой-большой вагонетке.

Как видите, достаточно немного математики, и проблема бесконечной вагонетки решена: если на борту вашей вагонетки едет больше 8 млн человек, вы предпочтете переехать того бедолагу. И когда я говорю «предпочтете», я имею в виду, что вы это действительно сделаете. И не говорите мне о том, что отказываетесь взять на себя ответственность за смерть, потому как переехать кого-то — значит иметь намерение это сделать, а если вам просто известно, что кого-то переехали ради вашего блага, — это совсем другое дело. В ответ на это я могу только процитировать героев «Южного парка»: «Хорошо иметь кусок пирога, а есть его — еще лучше».

Так что скажите: если вы в числе тех, кто выбрал бы вариант «затормозить поезд», — где же ваша яростная поддержка беспилотных видов транспорта?

Ведь по сути, все говорит о том, что с беспилотными авто на улицах случалось бы намного меньше ДТП. И тем не менее в новостях на тему все, кто так или иначе имеет отношение к делу, — политики, автопроизводители и даже источники, близкие к Google, — заявляют примерно одно и то же:

«Прежде чем технология беспилотных автомобилей появится на рынке, ее необходимо довести до совершенства. 99% недостаточно».

Помимо того, что это утверждение вводит в математическое заблуждение большую часть населения Земли, оно демонстрирует решительность не жать на тормоз из чисто эгоистических соображений. Отказываясь выпустить на рынок новую технологию до тех пор, пока она не будет «доведена до совершенства», они как бы говорят нам, что не хотят нести ответственность за решение убить одного человека — даже несмотря на то, что общество давно уже смирилось и с решением убить пятерых. Это утверждение имело бы рациональное зерно в случае, если за ним следовало что-то вроде «поэтому мы собираемся инвестировать еще больше средств в развитие беспилотной техники, чтобы как можно скорее выпустить готовую продукцию на рынок». Но пока никто ничего такого не говорит, и я в недоумении.

Ладно, позицию Google или Uber я понять более-менее могу: им никогда раньше не приходилось сталкиваться с вопросами о ценности жизни, потерянной из-за ДТП с беспилотным автомобилем. Выходя на этот рынок, они рискуют навлечь на себя общественное порицание из-за того, что их технология приводит к новым смертям — а не поощрение за то, что их технология помогла предотвратить те «обычные» фатальные случаи, к которым все уже привыкли. Но я хочу сказать всем, кто непосредственно ответственен за эти 30 с лишним тысяч смертей — ГАИ, Министерству транспорта, производителям автомобилей, пассивным наблюдателям — позор вам.

Из-за вас каждый год умирают тысячи людей, а вы продолжаете безнаказанно действовать дальше просто потому, что мало кто интересуется статистикой. Но берегитесь: скоро автономные машины докажут, что благодаря им на конкретных дорогах и в конкретных городах происходит намного меньше ДТП. И горе вам, если вы продолжите игнорировать или препятствовать развитию технологий просто потому, что не желает принимать никаких решений и не хотите заставить людей перестать выполнять рутинную работу, на которой они привыкли быть пассивными и безучастными.

Впрочем, я увлекся. Вернемся к проблеме бесконечной вагонетки. Почему же она так важна?

Благодаря бесконечной вагонетке и несложным подсчетам можно заметить, что существует своего рода валюта, условные единицы, в которых можно измерить человеческие ценности. Грубо говоря, в нашем примере одна человеческая жизнь стоит 8 млн условных единиц. Однако дело не только в этом. Ведь, даже если вы возмутитесь и скажете, что человеческая жизнь бесценна, так что не надо впутывать в это арифметику, есть простая логика: две человеческие жизни бесценны вдвойне — а значит, и ваш выбор основан на подсчете условных единиц.

Почему это важно? Потому что развитие автономных технологий идет полным ходом, и мы приходим к следующему пониманию: машины так хорошо обрабатывают информацию и так быстро реагируют, что можно научить их решать такие задачи, как «проблема вагонетки». Более того, утверждение «технологию беспилотных автомобилей необходимо довести до совершенства» подразумевает, что мы не только можем собрать машины, решающие такие задачи — мы обязаны это сделать.

Но есть одна проблема. Чтобы беспилотники решали такие задачи, им нужно преподать систему человеческих ценностей — и условных единиц, в которых они измеряются. То есть: им нужно знать о нас то, чего мы сами о себе не знаем.

Журналисты, вспомнившие о «проблеме вагонетки», обычно задавались такими вопросами, как «а что, если в случае ДТП беспилотный автомобиль решит убить водителя, чтобы спасти беременную женщину?». Но нет, я думаю, нас ожидают другие проблемы.

Представьте себе такую ситуацию: сеть автономных электрокаров решает убить танцующего посреди улицы подростка в наушниках — просто потому, что он задерживает уличное движение, и поэтому с математической точки зрения наносит вред обществу: его жизнь оценивается в 500 тыс. у.е., в то время как совокупный объем времени и производительности, потерянных из-за него тысячами людей, равняется 1 млн у.е. А если мы решим запрограммировать в автономные машины какую-нибудь очень простую логику — как, например, три закона робототехники Айзека Азимова:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Вероятнее всего, вся сложная сеть беспилотных автомобилей будет то и дело останавливать свою работу из-за того, что существует угроза чьей-то жизни. Таковы последствия решения остановить бесконечную вагонетку.

Я думаю, многие понимают, что чем больше развивается искусственный интеллект, тем менее эффективным на его фоне выглядит все человечество. В научной фантастике роботы частенько считают людей «товаром второго сорта», что заставляет последних задуматься, хоть и на короткое время. Однако вскоре мы можем обнаружить, что система беспилотных авто — первый шаг роботов по направлению к будущему, описанному в научной фантастике. Мы программируем их так, чтобы они понимали наши ценности. Они принимают решения на основе этих ценностей. Эти решения приводят нас в ужас. Что бы все это значило?

Источник: Medium

Пожалуйста, опишите ошибку
Закрыть