Алемзаде, доцент кафедры электротехники и вычислительной техники в Школе инженерных и прикладных наук UVA, работает с профессором информатики Университета Уильяма и Мэри Евгенией Смирни и доцентом информатики Университета Джорджа Мейсона Лишаном Яном.

Алемзаде отмечает, что часто автономная система отключается из-за неверных решений ИИ на основе машинного обучения или его несвоевременной реакции.

Нас особенно интересуют случаи отключения, связанные с безопасностью, из-за проблем с оборудованием, сетью или программным обеспечением, — говорит она.

Охота за неуловимыми уязвимостями

Самоисправляющиеся события могут вызывать кратковременные сбои, поэтому их трудно найти и диагностировать.

Безопасность самоуправляемых автомобилей зависит как от программного обеспечения, принимающего решения для автономного управления, так и от физических деталей, таких как датчики и тормоза.

Если в критический момент работы активируются переходные неисправности, они могут распространиться по всей системе, обойти проверки безопасности и создать опасность.

Алемзаде рассказала, что они исследуют всю систему: от входа до выхода. Это нужно, чтобы найти уязвимые места в программном и аппаратном обеспечении. Также они изучают условия, которые приводят к сбоям и угрозам безопасности.

Исследователи собираются улучшить компоненты контроллера и машинное обучение, чтобы предотвратить аварии. С помощью межслойного анализа надёжности они определят самые серьёзные проблемы в коде и оборудовании, на которых основаны контроллер и модели машинного обучения.

Тестирование решений в режиме реального времени

Команда разработает механизмы защиты, которые можно будет применять в разное время и в разных местах. Это позволит обеспечить безопасность и максимизировать эффективность.

Команда проверит свои решения с помощью испытаний в замкнутом цикле. Во время испытаний автономная система и её функции безопасности будут тестироваться в реальном времени с помощью симуляторов вождения при различных дорожных и погодных условиях. Цель — оценить влияние неисправностей и ошибок, а также эффективность решений команды.