Не так давно эксперты говорили, что к 2020 году беспилотные автомобили станут массовым явлением и по дорогам разных стран мира будут передвигаться порядка 10 миллионов беспилотных автомобилей. Амбициозный прогноз не состоялся, а фактическое количество автомобилей в тестировании в тысячи раз меньше, и они по-прежнему двигаются в сопровождении инженера-испытателя. Несмотря на это, стремительное развитие современных технологий и робототехники порождает все больше новых этических вопросов, которые пытаются разрешить специалисты этики роботов — новой ветви философии. Кому принадлежит автомобиль, кто ответственен за решения, которые он принимает? Эти философские вопросы связаны с рисками, которые несет в себе автомобиль, а также с тем, кто должен быть ответственным за выбранную в автомобиле программу езды — пассажир, производитель автомобиля или государство? Ответственность за дорожно-транспортные происшествия всегда ложилась целиком на водителя — решение принимал только он сам. А теперь, когда такие решения должны быть заранее запрограммированы, философы вынуждены представлять всевозможные ситуации и спорить: как же запрограммировать автомобиль? На данный момент только одно государство в мире изложило руководящие принципы того, как автономные транспортные средства должны принимать решения. Этой страной является Германия, где официальные руководящие принципы придерживаются строго эгалитарной точки зрения: «Главный приоритет — защита человеческой жизни. Если аварии не избежать, и приходится выбирать между имуществом и здоровьем, необходимо сохранить здоровье. Когда автокатастрофа неминуема, необходимо минимизировать число травм. Жертвовать кем-то, исходя из его расы, пола, физического состояния и т. д., — недопустимо». Более подробно с этическими правилами можно ознакомиться на сайте Министерства транспорта Германии.
Салимжан Гафуров — к.т.н., руководитель Лаборатории автономных транспортных систем, входящей в состав Центра компетенций НТИ по направлению «Технологии компонентов робототехники и мехатроники» на базе Университета Иннополис поделился своим мнением по вопросу этики беспилотных автомобилей, а также рассказал, почему технологии беспилотных автомобилей не стоит бояться: «Сегодня автомобили стали безопаснее насколько, насколько это возможно при текущем развитии материаловедения и технологий. Остался последний «баг» – это водитель. Почему водитель является «багом» — по статистике 80% всех аварий происходит по вине водителей. Эта статистика обусловлена комплексом причин – некачественное дорожное покрытие, погодные условия, усталость и невнимательность водителя».
Какие технологии предшествовали беспилотному транспорту?
Салимжан Гафуров :«Логичным предложением для решения проблем в свое время стало внедрение ADAS- системы. Очень долгое время это была панацея – адаптивный круиз-контроль, который был в целом разработан для снижения аварийности на дорогах. ADAS-системы, если говорить про их влияние на смертность в ДТП, — это все равно что прыгать человеку с крыльями и надеяться, что однажды он полетит. Обычный автомобиль имеет прямую зависимость нажатия на педаль тормоза с количеством предотвращенных аварий. Если водитель не нажал на педаль тормоза, то он не избежал аварии. Системы-помощники водителю позволяют качественно изменить и улучшить ситуацию, но если мы добавим еще немного сенсоров, то мы получим беспилотный автомобиль, который позволяет избежать практически 100% ДТП. Это абсолютно разные системы, хотя по своей философии они достаточно близки. Система помощи водителю реагирует 0,001 раз на 1 км, а беспилотные автомобили реагируют примерно 1 000 раз на 1 км».
Насколько беспилотный автомобиль безопасен?
Салимжан Гафуров :«Система восприятия анализирует траекторию и скорость всех объектов вокруг себя. Беспилотный автомобиль всегда притормозит, если на дороге складывается непонятная ситуация, например, пешеход, который то ли собирается идти по переходу, то ли в последний момент не глядя выскочит на дорогу. Беспилотный автомобиль с помощью технологии «лидар» видит мир абсолютно точно — без привязки ко времени суток и к погодным условиям. «Лидар» видит 360 градусов, 220 метров вперед, 24 часа в сутки. Данный алгоритм смотрит на выделенную зону, постоянно анализирует светофоры, детектирует пешеходов и автомобили. Если сравнить, что видит водитель и что видит беспилотный автомобиль по сенсорам, то человек в этом соревновании проиграет. Важно понимать, что система не просто видит все объекты, но и одновременно с этим анализирует их потенциальное взаимодействие, рассчитывая траектории и скорость движения».
В чем состоит основная этическая проблема беспилотного транспорта?
Салимжан Гафуров :«Представим 2030 год, вы едете в беспилотном автомобиле, вдруг отказывают тормоза, скорость высокая, впереди пешеходный переход, что должен сделать автомобиль? Мы сталкиваемся со всем известной «проблемой вагонетки», и сегодня мы имеем прекрасную возможность проследить взаимосвязь между философскими мыслями и их воплощением в металле и в действиях на дороге. Для беспилотного автомобиля такие решения релевантны просчету вероятности, это не инстинктивное чувство водителя. Автомобили, которые мы строим в Иннополисе создают 4 096 траектории в каждый момент движения автомобиля, а горизонт прогнозирования равен 0,1 секунде. Наш опыт езды в Татарстане и Москве показывает, что мы справляемся с текущими задачами и можно даже говорить о внедрении беспилотных автомобилей без инфраструктуры. Однако, нам надо примкнуть к одному из двух философских лагерей. Иеремия Бентам предлагает утилитарную этику и говорит, что в таких случаях нужно минимизировать общий урон несмотря ни на что, то есть, жизнь пассажиров не в приоритете. Второй лагерь возглавляет Иммануил Кант, который говорит о принципе долга, где мы приоритезируем жизнь пассажиров, автомобиль не должен отклоняться от своей траектории. Итого, существует две опции: забота обо всех, где водитель может погибнуть и вторая опция – защита водителя. Человечество в целом максимизирует общее благо, однако встает вопрос, готовы ли люди покупать автомобиль, который в аварийной ситуации пожертвует водителем?»
Трагедия алгоритмических автомобилей: кто же примет решение?
Салимжан Гафуров :«Принятие такого решение может быть отдано автопроизводителям или государству. Автопроизводители могут предлагать покупателям «автомобиль-эгоист» и «автомобиль-альтруист», или можно соединить эти функции — водитель будет сам выбирать режим перед поездкой. Можно отдать принятие решение государству, где законодатели будут приоритизировать общее, что наложит негласное вето на всю беспилотную отрасль. В таком случае технологию беспилотного автомобиля не примут, и люди откажутся от нее в целом. Мне кажется разумным перенести разумные философские взгляды на язык C++. Необходимо четко и обоснованно сформировать этику на дорогах — разработать метрики и создать техническую прогнозируемую систему с математическими ожиданиями».
Напомним, в России планируют постепенно приспосабливать дороги общего пользования для движения беспилотных автомобилей, а водителям и операторам, которые станут управлять таким транспортом, надо будет выполнить ряд требований. Проект федерального закона, направленного на регулирование новой отрасли, Госсовет Татарстана направил 20 февраля 2020 года на рассмотрение в Госдуму, однако 23 июня 2020 года законопроект вернули для дальнейшей доработки. В республике уже используют беспилотники — в наукограде Иннополис пассажиров возит такси без водителя, в Набережных Челнах производят беспилотные грузовики, а в Казани во время футбольного ЧМ-2018 курсировал по изолированному маршруту пассажирский шаттл.