Почему роботы “Теслы” начали убивать людей

Национальное управление безопасности дорожного движения США (NHTSA) проводит расследование дорожно-транспортного происшествия, в котором погиб водитель автомобиля Tesla Model S, ехавший с включенной функцией автопилота. Это первое ДТП со смертельным исходом в истории самоуправляемых автомобилей. До того беспилотники хотя и попадали в аварии, их пассажирам удавалось отделаться “легким испугом”.  Теперь же ситуация приняла серьезный оборот, что может негативно повлиять на развитие сегмента беспилотных авто.

Представители Tesla говорят, что функция автопилота находится сейчас в стадии публичного бета-тестирования, поэтому пользоваться ею пока не рекомендуется и автопроизводитель по умолчанию ее не активирует. Однако владельцы дорогого авто желают получить “все и сразу”, поэтому зачастую игнорируют потенциальные опасности. При использовании автопилота водитель обязан следить за дорогой и постоянно держать руки на руле. На практике же владельцы Tesla и других самоуправляемых транспортных средств часто игнорируют это требование, были даже случаи, когда хозяин авто просто засыпал в водительском кресле.

В случае упомянутой аварии со смертельным исходом ни водитель, ни автопилот не успели заметить опасность — не распознали белый борт грузовика, с которым столкнулась Tesla, на фоне яркого неба, что и привело к ДТП. Как выяснилось, погибший водитель, Джошуа Браун, был активным членом Tesla Reddit forum и регулярно публиковал в соцсетях видео, где его автомобиль уклонялся от столкновения в режиме автопилота.

На самом деле, беспилотные автомобили — идея перспективная. Предполагается, что они сделают более эффективным дорожное движение, станут более экономичным видом транспорта, сократят выбросы в атмосферу и существенно снизят число дорожно-транспортных происшествий. По прогнозам McKinsey Global Institute, к 2025 г. суммарная экономия, которую обеспечат беспилотники, может составить более $1 трлн, а число аварий со смертельным исходом снизится на 70%. Не зря над функцией автопилота работают сейчас практически все мировые автопроизводители, включая Volvo, Nissan, Mercedes-Benz, Audi, Diamler, Tesla. Самоуправляемые технологии также в активе таких технологических гигантов, как Google и Apple.

Что касается “Теслы”, то корпорация оснастила свои электромобили S и X полноценными автопилотами в 2015 г. Теоретически машины могут самостоятельно передвигаться по шоссе, перестраиваться в нужный ряд, избегать столкновений и выбирать оптимальную скорость с учетом условий на дороге. Система ориентируется на показания камер, радаров, ультразвуковых сенсоров и навигационной системы. Специалисты говорят, что на сегодня у “Теслы” самая продвинутая технология автономного вождения на рынке, поэтому упомянутая авария со смертельным исходом стала очень показательной. Ведь если лучший автопилот дал сбой и не смог сориентироваться в ситуации, чего ожидать от других?

Конечно, водителя можно обвинить в беспечности и неосторожности, но смерть человека, причиной которой стало использование функции автопилота, в очередной раз демонстрирует несовершенство нынешних систем самоуправления. Такие технологии явно нуждаются в серьезной технической доработке. Прежде всего предстоит создать максимально эффективную систему безопасности, чтобы свести до минимума риск ДТП.

Существует и морально-этическая дилемма при использовании беспилотников: машина должна быть запрограммирована на спасение жизни пешеходов или любой ценой защитить хозяина авто? Поскольку беспилотники — по сути, роботы, к ним должен быть соответствующий подход. Знаменитый писатель-фантаст Айзек Азимов вывел еще в 1942 г. три закона робототехники. Они гласят, что робот не может причинить вред человеку или своим бездействием допустить, чтобы человек пострадал. Машина должна повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону. Робот также должен заботиться о своей безопасности, но лишь в той мере, в которой это не противоречит первому или второму законам.

Все упомянутые правила идеальны для беспилотных автомобилей, но в случае с транспортным средством, роботизированным системам рано или поздно придется делать выбор, ведь нередки ситуации на дорогах, когда можно спасти лишь одного человека: владельца авто или пешехода. Изучением этой темы занялись исследователи Массачусетского технологического института (MIT). В статье, опубликованной в свежем номере Science, они пишут, что люди, которые готовы купить авто с функцией автопилота, руководствуются в общем благородными целями: они хотят, чтобы их машины не вредили пешеходам и сделали дороги безопасными. Но, с другой стороны, ни один из опрошенных не согласился пожертвовать собственной безопасностью в пользу пешеходов.

Ученые давно рассматривают подобные этические парадоксы. К примеру, в когнитивистике используется популярная задача с вагонеткой, когда человеку предлагается перевести стрелку перед поездом, чтобы спасти пять пассажиров, но убить одного постороннего человека. Проблема в том, что компромиссного решения в таких ситуациях не существует. Аналогичная дилемма, по мнению возглавившего исследование в MIT Ияда Рахвана, может серьезно усложнить процесс внедрения самоуправляемых машин. Ведь если авто будет запрограммировано на то, чтобы спасти жизнь пассажира и, соответственно, врезаться в пешеходов, много ли найдется желающих купить машину-убийцу? Вряд ли кому-то подойдет и обратный вариант, когда погибает владелец машины. К тому же, готовы ли в принципе люди доверить свою жизнь роботу?

Кроме технических и этических, у самоуправляемых авто есть еще одна серьезная проблема. Дело в том, что их использование сделает частную жизнь людей абсолютно незащищенной. Автопилот фиксирует все передвижения водителя, а значит, эти данные поступают автопроизводителю. Такую информацию можно использовать, в частности, в судебных процессах, и в этом случае робот сдаст своего владельца с потрохами.

Прогресс, без сомнения, не остановить, и самоуправляемый транспорт слишком хорош, чтобы от него отказаться. Еще в 2012 г. власти штата Калифорния легализовали беспилотные автомобили, а в этом году узаконили использование самоуправляемых машин в Южной Австралии. Кроме того, в феврале этого года в США легализовали беспилотники Google. Эксперты считают, что законодательное закрепление использования автопилотов существенно ускорит процесс их вывода на дороги. Согласно докладу Ассоциации автомобильной промышленности Германии автопилот может получить массовое распространение к 2030 г.

Гораздо более оптимистичные прогнозы у глава Tesla Элона Маска. Вскоре после смертельного ДТП при участии авто его компании предприниматель заявил, что основные проблемы в создании автономных автомобилей уже решены, а на все необходимые технические доработки потребуется не более двух лет. Еще год Маск отвел на изменение законодательства. По прогнозам главы “Теслы”, через три года большинство автомобилей будет ездить без водителя. Похоже, он ошибается: перед тем, как на дороги мира массово выедут самоуправляемые машины, инженерам и регулирующим органам придется решить немало серьезных проблем, и три года на это явно недостаточно.

Татьяна ГРОМОВА