HJИскусственный интеллектТехнологии

«Моральная машина» – решите, кто должен умереть в автокатастрофе

Беспилотные автомобили возродили проблему вагонетки

По прогнозам беспилотные автомобили появятся на улицах городов уже к 2030 году. Перед разработчиками этих машин встают серьезные моральные дилеммы. Как их программировать на случай возможных автокатастроф? Кого машина должна спасать, а кого безжалостно давить? Попробуйте пройти тест от сотрудников Массачусетского технологического университета и внести свой вклад в решение этической задачи.

Помните дилемму с вагонеткой и двумя рельсами? Пять человек лежат на первом железнодорожном пути, а один несчастный на втором. Поезд едет вперед и вот-вот раздавит всех пятерых. Вы можете либо бездействовать, либо повернуть условный рычаг и направить поезд в другую сторону, чтобы он переехал только одного. Часто используют усложняющий вариант, в котором есть только одни рельсы с пятью несчастными, а спасти их можно, сбросив на рельсы прохожего.

Вот как двухлетний ребенок решает эту проблему:

Долгое время фантазия с вагонеткой была отвлеченной от реальности теоретической и абстрактной задачей. И вот теперь похожие на нее этические дилеммы обрели настоящий практический смысл благодаря разработке беспилотных транспортных средств. Сотрудники Массачусетского технологического университета создали тест под названием “Моральная машина”. Он помещает вас на место разработчика самоуправляемого автомобиля, которому нужно решить, как должна вести себя машина в чрезвычайной ситуации.

Тест предложит вам различные этические сценарии.

  • Чья жизнь обладает большей ценностью – человека или животного?
  • Нужно ли переехать двух преступников и двух невинных людей или лучше убить водителя и трех пассажиров?
  • Старики заслуживают жизни меньше молодых?
  • Является ли женская жизнь дороже мужской?
  • Должна ли машина в первую очередь спасать своего водителя?
  • Важен ли социальный статус людей при принятии решения?

Нет никакого правильного ответа на любой из этих каверзных вопросов, но автомобили все равно нуждаются в программировании и определении приоритетов.

 Может лучше безопаснее оставить вождение людям?

На самом деле нет. Во-первых, люди сами не знают, как им поступать перед лицом сложного морального выбора, а для принятия решения в подобных ситуациях у водителя обычно есть лишь несколько секунд. Во-вторых, недавние эксперименты показали, что даже далекие от идеала беспилотные машины все равно водят лучше людей.

Согласно данным нового исследования аналитического центра RAND Corporation,  самоуправляемым автомобилям нужно водить лишь немного лучше людей, чтобы снизить количество смертей от автокатастроф. А это несложно, поскольку человеческая реакция и моторика сильно уступает быстроте машины. К тому же такие автомобили никогда не попадут в аварию потому, что были пьяны, отвлеклись на телефонный разговор, плохо выспались или “лихачили”, чего нельзя сказать про людей.

Используя компьютерное моделирование, исследователи RAND сравнили три сценария. В первом беспилотные машины были безопаснее обычных всего на 10 процентов, во втором на 75 процентов, а в третьем на 90 процентов. Результаты были противопоставлены международной статистике дорожных аварий.

Во всех сценариях было спасено большое количество жизней. В одной модели беспилотные машины, которые были всего на 10% безопаснее, сумели спасти 600 тысяч жизней за 35 лет. К 2070 году такие автомобили попадут в 1,5 миллиона несчастных случаев со смертельным исходом, по сравнению с 2,1 миллионами аварий, которые произойдут, если мы оставим за рулем людей. И речь идет только о 10%! Представьте, сколько жизней можно будет спасти, если человечеству удастся разработать машины, которые водили на 90% лучше нас? А это вполне возможно.

“Мы не сумели найти ни одной причины, почему нам нужно ждать с внедрением этой технологии”, – сказал руководитель центра RAND. – “Ожидание никого не спасет”.

Если сразу же пустить беспилотники на наши дороги, то их можно будет усовершенствовать гораздо быстрее благодаря практическому опыту поведения искусственного интеллекта в реальных ситуациях. Однако на первых этапах не получится обойтись без несчастных случаев, из-за которых общество может ополчиться против новой технологии. К примеру, недавно автомобиль Tesla убил водителя, находясь в режиме автопилота. Этот случай стал третьим в истории смертельным инцидентом с участием машины, у которой был активирован режим автопилота.

Пока что исследователи до сих пор спорят, нужно ли выпускать эти машины на улицы сразу же, когда они станут на 10% безопаснее водителей, либо необходимо ждать, пока они станут идеально проработанными. Проведенный в 2016 году опрос показал, что больше половины (51%) опрошенных американских водителей не готовы довериться беспилотным конкурентам и предпочитают оставаться за рулем самостоятельно.

Рекомендуемые статьи

Close