Почему нейросети до сих пор не понимают, что творят

Максим Наговицын11.07.2025624

Триллионы параметров, миллиарды вычислений — но почему ИИ все еще ошибается в простых вещах?

Почему нейросети до сих пор не понимают, что творят
Источник: нейросеть

Исследователи Ли Го и Цзинхай Ли в своей статье, опубликованной в журнале Engineering, предлагают свежий взгляд на развитие искусственного интеллекта (ИИ). Они считают, что, несмотря на впечатляющие успехи в обработке статистических данных, современные ИИ-системы все еще плохо справляются с воспроизведением пространственно-временных закономерностей сложных систем.

Главная проблема, по их мнению, — в отсутствии согласованности между логической структурой данных, моделей ИИ, программного обеспечения и аппаратного обеспечения. В инженерии такая согласованность — основа надежности и масштабируемости систем. Логическая структура — это каркас системы, ее базовые модули и связи между ними. Если все элементы работают в одной логике, код легче поддерживать, а модель точнее отражает эволюцию объекта.

Но сегодняшний ИИ, построенный на искусственных нейронных сетях (ИНС) и глубоком обучении, слишком груб. Даже успешные применения — например, в компьютерном зрении или обработке естественного языка — используют модели с триллионами параметров, которые никак не связаны с логикой реальных процессов. В результате обучение превращается в «черный ящик», а модель не улавливает сложные пространственно-временные закономерности.

Авторы предлагают пересмотреть архитектуру ИИ, чтобы она лучше отражала многоуровневую природу сложных систем. Они ссылаются на принцип «компромисса в конкуренции» (КВК) из мезонауки, который можно применить к проектированию и обучению ИИ.

Принцип компромисса в конкуренции (КВК) — это идея о том, что в сложных системах разные силы (например, гравитация и давление в газах) не подавляют друг друга, а находят баланс. Этот баланс определяет поведение системы. В ИИ его можно использовать, чтобы модели лучше отражали реальные процессы.

Что делать дальше

  • Изучить принципы многоуровневой сложности.
  • Создать датасеты и модели на основе новой логики.
  • Разработать единую архитектуру, где данные, модели, софт и железо будут работать согласованно.

Если это получится, ИИ сможет предсказывать поведение сложных систем даже на малых данных. Но для этого нужна междисциплинарная работа — физики, математики и инженеры должны объединиться.

Этот подход может перевернуть индустрию. Если ИИ научится отражать реальные физические процессы, а не просто находить статистические корреляции, это даст:

  • Точные прогнозы — от климатических моделей до предсказания поломок оборудования.
  • Экономию ресурсов — меньше данных для обучения, меньше вычислительных мощностей.
  • Прозрачность — модели перестанут быть «черными ящиками», их можно будет проверять и дорабатывать.
    Особенно выиграет инженерия, медицина и наука о материалах — там, где важно понимать многоуровневые процессы.

Авторы делают ставку на согласованность логических структур, но не объясняют, как ее добиться на практике. Сложные системы часто хаотичны, и их «логика» может меняться. Неясно, как ИИ сможет адаптироваться к таким изменениям без постоянного переобучения. Кроме того, предложенный подход требует радикального пересмотра существующих алгоритмов — а это годы работы.

Ранее мы разбирались, из каких профессий ИИ может вытеснить людей.

Подписаться: Телеграм | Дзен | Вконтакте


Net&IT

Поиск на сайте

Лента новостей

Пресс-релизы