Действительно ли беспилотные автомобили точны? Исследователи из Университета Дьюка говорят, что их можно обмануть

Беспилотные автомобили обещают комфорт и безопасность для водителей и пассажиров, но это может измениться после открытия исследователей из Университет Дьюка. По словам команды, существует стратегия атаки, которую преступники могут использовать, чтобы обмануть датчики автономных транспортных средств (комбинация 2D-данных из камеры и 3D-данные от LiDAR), чтобы воспринимать близлежащие объекты ближе или дальше, чем они кажутся. Это может означать проблемы и значительный ущерб, особенно при использовании в военных ситуациях, когда одна машина превращается в ценную цель. Более того, исследователи подчеркнули, что хакеры могут найти способ одновременно атаковать разные транспортные средства. 

«Наша цель — понять ограничения существующих систем, чтобы мы могли защититься от атак», — сказал Мирослав Пайич, доцент кафедры электротехники и вычислительной техники Dickinson Family в Duke. «Это исследование показывает, как добавление всего нескольких точек данных в трехмерное облако точек впереди или позади того места, где на самом деле находится объект, может привести к тому, что эти системы будут принимать опасные решения».

По словам исследователей, ошибка системы начнется, когда лазерная пушка будет использована для стрельбы по датчику LIDAR. Это исказит восприятие автомобиля, вызванное добавлением ложных точек данных. По словам Пайича, система может обнаружить это атаковать если точки данных сильно отличаются от того, что видит камера автомобиля. Однако, согласно исследованиям Duke, система может быть обманута, когда точки данных 3D-лидара точно размещаются в определенной области поля зрения 2D-камеры.

Это создает зону, уязвимую для атак. Он имеет форму усеченного конуса, вытянутого перед объективом камеры, или трехмерную пирамиду со срезанным концом.

«Эта так называемая усеченная атака может обмануть адаптивный круиз-контроль, заставив его думать, что транспортное средство замедляется или ускоряется», — сказал Паджич. «И к тому времени, когда система сможет понять, что есть проблема, не будет возможности избежать столкновения с автомобилем без агрессивных маневров, которые могут создать еще больше проблем».

К счастью, у Паджича и его команды есть жизнеспособное решение этой проблемы за счет дополнительной избыточности, такой как стереокамеры с перекрывающимися полями зрения. Эти специалисты, по их словам, будут работать вместе, чтобы правильно рассчитать расстояния и определить ошибку между данными лидара и восприятием камеры.

«Стереокамеры, скорее всего, будут надежной проверкой непротиворечивости, хотя ни одно программное обеспечение не было достаточно проверено для того, чтобы определить, согласуются ли данные лидара/стереокамеры или что делать, если обнаружится, что они несовместимы», — сказал Спенсер Халлибертон, ведущий автор исследования и доктор философии. кандидат в Лабораторию кибер-физических систем Паджича. «Кроме того, для идеальной защиты всего автомобиля потребуется несколько наборов стереокамер вокруг всего его корпуса, чтобы обеспечить 100% охват».

Паджич также представил создание системы, которая позволит автомобилям, находящимся рядом друг с другом, обмениваться данными. Исследование и предложения команды будут представлены с 10 по 12 августа на симпозиуме по безопасности USENIX 2022 года.