Но защита автономных машин от сбоев, атак и других отказов увеличивает расходы.

Они связаны с характеристиками, энергопотреблением, весом и использованием полупроводниковых чипов.

Исследователи сразу из трёх университетов утверждают, что существующий компромисс между защитой машин от уязвимостей и накладными расходами обусловлен «универсальным» подходом к защите.

Авторы предлагают новый подход, который адаптируется к различным уровням уязвимости в автономных машинных системах.

Это позволит сделать их более надёжными и контролировать расходы.

Доцент факультета компьютерных наук Рочестера Юхао Чжу рассказал, что компания Tesla использует в своих автомобилях два чипа Full Self-Driving Chips (FSD Chips). Это пример современного «универсального» подхода — избыточность защищает от отказа первого чипа, но удваивает стоимость.

Чжу и его студенты применяют более комплексный подход к защите от уязвимостей аппаратного и программного обеспечения. Они распределяют защиту более разумно.

Чжу:

Основная идея заключается в том, что вы применяете разные стратегии защиты к различным частям системы. Можно уточнить подход, исходя из особенностей программного и аппаратного обеспечения.

Для передней и задней частей программного стека автономного транспортного средства нужны разные стратегии защиты. Передняя часть изучает окружающую среду с помощью камер и датчиков, а задняя обрабатывает эту информацию, планирует маршрут и отправляет команды на исполнительные механизмы.

Чжу утверждает, что передняя часть отказоустойчива и не требует больших затрат на защиту. А вот заднюю часть нужно защитить, потому что она взаимодействует с механическими компонентами автомобиля.

Чжу предлагает недорогие меры защиты для передней части, такие как фильтрация аномалий в данных. Для задней части он рекомендует создавать контрольные точки для сохранения состояния машины или дублировать критически важные модули на чипе.

Команда хочет устранить уязвимости в программных стеках автономных машин, которые основаны на нейросетевом искусственном интеллекте.

Чжу говорит, что одна из новейших моделей — это гигантская нейросетевая модель глубокого обучения. Она принимает сенсорные данные, проводит сложные вычисления и выдаёт команды исполнительному механизму.

Это значительно повышает среднюю производительность, но есть проблема: в случае сбоя нельзя определить, какой модуль вышел из строя. В целом модель эффективна, но просто нужно сделать её надёжнее.

Иллюстрация: нейросеть