Исследователи из Нанкинского университета и Университета Карнеги-Меллон разработали новый метод обучения ИИ на исторических данных — без необходимости взаимодействовать с окружающей средой в реальном времени. Это особенно важно для беспилотных автомобилей и медицинских систем, где каждая ошибка может стоить дорого.

Результаты опубликованы в издании Frontiers of Computer Science.

Проблема в том, что обычные алгоритмы часто путают причину и следствие. Например, если водитель в обучающих видео включает дворники перед торможением, ИИ может решить, что именно дворники замедляют машину. Новый подход учит систему видеть настоящие причинно-следственные связи: тормоза останавливают авто, а дворники просто очищают стекло.

Как это работает:

• Алгоритм анализирует данные с помощью специальных статистических тестов, отсеивая ложные зависимости.
• Упрощает вычисления, делая систему быстрее и точнее.

В тестах метод превзошел популярные аналоги (MOPO, MOReL, COMBO) — теперь ИИ реже совершает ошибки из-за «мусорных» закономерностей. Профессор Ян Ю объясняет:Мы научили ИИ отделять сигнал от шума. Это не просто теория — такие системы уже можно внедрять в реальные устройства».

Для регуляторов и бизнеса это шанс повысить безопасность автономных систем, а для науки — шаг к созданию ИИ, который понимает мир, а не просто запоминает данные.

Где пригодится:

• Медицина: Алгоритм, анализирующий истории болезней, не спутает симптом (температуру) с причиной (инфекцией) и предложит верное лечение.
• Логистика: Беспилотники перестанут «накручивать» пробег из-за ошибочных паттернов в данных.
• Робототехника: Промышленные манипуляторы будут реже ломать детали, понимая истинные причины успешных операций.

Ключевое преимущество — снижение рисков там, где цена ошибки высока.

Метод требует качественных размеченных данных — если в исторических записях нет четких указаний на причинность (например, в медицинских архивах не фиксировали прием лекарств), эффективность снизится. Кроме того, тестирование проводилось в ограниченных сценариях — как поведет себя алгоритм в хаотичной городской среде, пока неясно.

Ранее ученые сообщили, что ИИ, заблуждаясь из-за ошибок в базе, по которой обучается, впоследствии усиливает заблуждение пользователей.