Искусственный интеллект обычно требует огромных вычислительных мощностей и энергии — а это проблема для интернета вещей (IoT), где крошечные датчики работают с ограниченными ресурсами: слабым процессором, минимумом памяти и маленькими батарейками.

В проекте E-MINDS команда из Pro2Future, Технического университета Граца и Университета Санкт-Галлена научилась запускать ИИ прямо на таких устройствах — без облачных вычислений. Например, они смогли внедрить специализированные ИИ-модели в сверхширокополосный (UWB) локационный датчик с памятью всего 4 КБ — теперь он сам определяет источники помех.

Конечно, на таких устройствах не запустишь ChatGPT, — объясняет Михаэль Криспер, руководитель проекта в Pro2Future. — Но узкоспециализированные модели, например для расчета расстояний, — вполне. Правда, их сначала нужно «ужать». Для этого мы применили несколько хитростей.

Результат — модульная система из разных методов, которые вместе дают нужный эффект.

Как это работает:

• Вместо одной универсальной модели — несколько маленьких, каждая для своего типа помех: одна корректирует искажения от металлических стен, другая — от людей, третья — от стеллажей.
• Оркестрационная модель на чипе за 100 мс определяет тип помехи и загружает подходящий алгоритм. Для складов или дронов этого достаточно.
• Другой метод — SCN (Subspace Configurable Networks) — адаптивные модели, которые подстраиваются под входящие данные. В тестах они обрабатывали изображения в 7,8 раз быстрее облачных аналогов, хоть и были компактнее.
• Дополнительно модели «сжимали»: упрощали математику, заменяли дробные числа целыми, отсекали лишние части — точность почти не страдала, а энергопотребление падало.

Хотя проект заточен под локацию в промышленности (например, для дронов в цехах), технологию можно использовать и в других сферах:

• Как защиту от взлома ключей с бесконтактным доступом — ИИ отличит настоящий сигнал брелока от поддельного.
• В «умных» домах — чтобы пульты работали годами без замены батареек.
• В библиотеках — для автоматического учета книг.

Мы заложили основу для будущих продуктов, — говорит Криспер. — Команда идеально дополнила друг друга: Pro2Future работал с «железом», TU Graz — с оптимизацией моделей, а Университет Санкт-Галлена — с алгоритмами локации.

Это исследование решает две ключевые проблемы IoT: энергопотребление и автономность. Если ИИ-модели смогут работать прямо на датчиках без облака, это:

• Уменьшит задержки (актуально для дронов или роботов).
• Снизит риски утечек данных (все обрабатывается локально).
• Увеличит срок службы устройств — например, датчики на складах не придется заряжать каждую неделю.
  Особенно ценна адаптивность: одна система может применяться и в логистике, и в умных городах, и даже в потребительской электронике.

Главный вопрос — масштабируемость. Методы тестировались на узких задачах (локация, классификация изображений), но неясно, как они поведут себя в сложных средах с десятками одновременных помех. Кроме того, «обрезка» моделей может снизить их гибкость: если условия работы резко изменятся (например, датчик перенесут из цеха в открытое пространство), потребуется перезагрузка алгоритмов — а это не всегда возможно.

Ранее мы разбирались, зачем создают цифровых двойников людей.