Как должен вести себя беспилотный автомобиль в случае, если жертв не избежать?

    Эту статью могут комментировать только участники сообщества.
    Вы можете вступить в сообщество одним кликом по кнопке справа.
    Игорь Новиков перепечатал из geektimes.ru
    1 оценок, 328 просмотров Обсудить (5)

    Как должен вести себя беспилотный автомобиль в случае, если избежать жертв в результате аварии невозможно?


    image


    Французские учёные из Тулузской школы экономики во главе с Жаном-Франсуа Боннфоном (Jean-Francois Bonnefon) опубликовали научную работу «Робомобилям нужна экспериментальная этика: готовы ли мы выпускать машины на дороги?» (Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?), в которой попытались ответить на сложный этический вопрос: каким должно быть поведение беспилотного автомобиля в случае, если избежать аварии невозможно и жертвы неизбежны? Авторы опросили несколько сотен участников краудсорсингового сайта Amazon Mechanical Turk, который объединяет людей, готовых выполнять какую-либо проблемную работу, на которую компьютеры пока что не способны по различным причинам. На статью обратил внимание ресурс MIT Technology Review.

    Авторы подошли к исследованию достаточно осторожно, не требуя от людей однозначных ответов: да или нет. При этом под робомобилем подразумевались действительно автономные автомобили, которые полностью управляются компьютером, без возможности повлиять на ситуацию живым человеком. Было сформулировано несколько вопросов, иллюстрирующих ряд ситуаций, при которых поведение компьютерного алгоритма, управляющего робомобилем, становится этической проблемой. К примеру, если дорожные обстоятельства складываются таким образом, что есть только два варианта развития событий: избежать столкновения с группой из 10 пешеходов означает самому въехать в отбойник или заехать в толпу людей, когда число жертв становится по-настоящему непредсказуемым. Как в таком случае должен поступить компьютерный алгоритм? Ещё более сложная ситуация: если на дороге только один пешеход и один робомобиль? Что этически более приемлемо — убить пешехода или убить владельца машины?

    По результатам исследования выяснилось, что люди считают «относительно приемлемым», если робомобиль будет запрограммирован на минимизацию человеческих жертв в случае дорожного проишествия. Другими словами, в случае возможной аварии с участием 10 пешеходов, компьютерный алгоритм должен фактически пожертвовать своим владельцем. Правда, более менее однозначный ответ исследователи получали ровно до того момента, пока участники исследования не оказывались за рулем робомобиля — ставить себя на место его водителя они отказались. Это приводит к другой противоречивой проблеме. Чем меньше людей будут покупать робомобили, которые действительно намного реже, чем живые водители попадают в опасные ситуации, тем больше людей будет гибнуть в авариях на обычных автомобилях. Другими словами, вряд ли покупателю будущего гугломобиля понравится один из пунктов в лицензионном соглашении, гласящий, что в случае неизбежной жертвы в результате аварии, программное обеспечение фактически выберет убить своего владельца.

    Комментировать

    осталось 1185 символов
    пользователи оставили 5 комментариев , вы можете свернуть их
    Иван Надсон # написал комментарий 28 октября 2015, 20:11
    на днях буквально я смотрел ролик с электромобилем Тесла. На московских улицах водитель включил автопилот (это он и его приятель тестировали только что доставленный из Штатов авто). Нормально едет, где нужно тормозит, где нужно реагирует правильно на сигналы светофора и на разметку. Увернулся от подрезавшего Теслу автомобиля (вовремя увидел хьюлигана, подвернул руль и тормознул слегка-этого было достаточно для предотвращения ДТП. Весьма впечатлён.
    Игорь Новиков # ответил на комментарий Иван Надсон 28 октября 2015, 20:29
    Подозреваю, что хакеры будут представлять бòльшую опасность, чем сами авто. Тоже видел передачу, как хакеры заставляли непредсказуемо вести авто (блокировали приборы, сворачивали в кювет и т.д.)
    a.kozlov51 # написал комментарий 29 октября 2015, 09:29
    А кто будет отвечать за жертвы?
    Ясен пень, надувного автопилота под домашний арест посадят.
    Игорь Новиков # ответил на комментарий a.kozlov51 29 октября 2015, 12:27
    В авто будет находиться живой человек, просто он не будет рулить и так же может стать жертвой аварии.
    А за жертвы будет (или не будет) отвечать программист :-)
    a.kozlov51 # ответил на комментарий Игорь Новиков 29 октября 2015, 13:07
    Для киллеров такая тачка просто незаменима.
    • Регистрация
    • Вход
    Ваш комментарий сохранен, но пока скрыт.
    Войдите или зарегистрируйтесь для того, чтобы Ваш комментарий стал видимым для всех.
    Код с картинки
    Я согласен
    Код с картинки
      Забыли пароль?
    ×

    Напоминание пароля

    Хотите зарегистрироваться?