Почему нейросети до сих пор не понимают, что творят
Триллионы параметров, миллиарды вычислений — но почему ИИ все еще ошибается в простых вещах?

Исследователи Ли Го и Цзинхай Ли в своей статье, опубликованной в журнале Engineering, предлагают свежий взгляд на развитие искусственного интеллекта (ИИ). Они считают, что, несмотря на впечатляющие успехи в обработке статистических данных, современные ИИ-системы все еще плохо справляются с воспроизведением пространственно-временных закономерностей сложных систем.
Главная проблема, по их мнению, — в отсутствии согласованности между логической структурой данных, моделей ИИ, программного обеспечения и аппаратного обеспечения. В инженерии такая согласованность — основа надежности и масштабируемости систем. Логическая структура — это каркас системы, ее базовые модули и связи между ними. Если все элементы работают в одной логике, код легче поддерживать, а модель точнее отражает эволюцию объекта.
Но сегодняшний ИИ, построенный на искусственных нейронных сетях (ИНС) и глубоком обучении, слишком груб. Даже успешные применения — например, в компьютерном зрении или обработке естественного языка — используют модели с триллионами параметров, которые никак не связаны с логикой реальных процессов. В результате обучение превращается в «черный ящик», а модель не улавливает сложные пространственно-временные закономерности.
Авторы предлагают пересмотреть архитектуру ИИ, чтобы она лучше отражала многоуровневую природу сложных систем. Они ссылаются на принцип «компромисса в конкуренции» (КВК) из мезонауки, который можно применить к проектированию и обучению ИИ.
Принцип компромисса в конкуренции (КВК) — это идея о том, что в сложных системах разные силы (например, гравитация и давление в газах) не подавляют друг друга, а находят баланс. Этот баланс определяет поведение системы. В ИИ его можно использовать, чтобы модели лучше отражали реальные процессы.
Что делать дальше
- Изучить принципы многоуровневой сложности.
- Создать датасеты и модели на основе новой логики.
- Разработать единую архитектуру, где данные, модели, софт и железо будут работать согласованно.
Если это получится, ИИ сможет предсказывать поведение сложных систем даже на малых данных. Но для этого нужна междисциплинарная работа — физики, математики и инженеры должны объединиться.
Этот подход может перевернуть индустрию. Если ИИ научится отражать реальные физические процессы, а не просто находить статистические корреляции, это даст:
- Точные прогнозы — от климатических моделей до предсказания поломок оборудования.
- Экономию ресурсов — меньше данных для обучения, меньше вычислительных мощностей.
- Прозрачность — модели перестанут быть «черными ящиками», их можно будет проверять и дорабатывать.
Особенно выиграет инженерия, медицина и наука о материалах — там, где важно понимать многоуровневые процессы.
Авторы делают ставку на согласованность логических структур, но не объясняют, как ее добиться на практике. Сложные системы часто хаотичны, и их «логика» может меняться. Неясно, как ИИ сможет адаптироваться к таким изменениям без постоянного переобучения. Кроме того, предложенный подход требует радикального пересмотра существующих алгоритмов — а это годы работы.
Ранее мы разбирались, из каких профессий ИИ может вытеснить людей.



















