Искусственный интеллект (ИИ) стремительно распространяется в здравоохранении, финансах, государственных службах и повседневной жизни. Однако он сталкивается с постоянными «ахиллесовыми пятами» в виде доверия и эффективности. По мере того как передовые системы берут на себя все более важные функции по принятию решений, в обществе все сильнее звучат призывы к созданию справедливого, сохраняющего конфиденциальность и экологически безопасного ИИ.

В настоящее время европейский ландшафт ИИ формируется под влиянием новой волны нормативных актов, в частности Закона ЕС об ИИ, который внедряет подход, основанный на оценке рисков, для обеспечения соответствия приложений ИИ строгим требованиям безопасности, справедливости и управления данными. На этом фоне проект ACHILLES, получивший поддержку в размере 8 млн евро по программе Horizon Europe, направлен на создание комплексной основы для создания продуктов на базе ИИ, которые будут более легкими (экологически и вычислительно устойчивыми), более понятными (прозрачными, интерпретируемыми и соответствующими требованиям) и более безопасными (надежными, сохраняющими конфиденциальность и соответствующими требованиям).

Междисциплинарный консорциум: Экспертиза в каждом измерении ИИ

Основной силой проекта ACHILLES является его разнообразный консорциум, состоящий из 16 ведущих организаций из десяти стран, каждая из которых привносит в проект специализированные знания. Ведущие университеты и институты продвигают передовые достижения в области справедливости, объяснимого ИИ, методов сохранения конфиденциальности и эффективности моделей. Высокотехнологичные компании и малые и средние предприятия занимаются разработкой инструментов, инновациями в области данных и экспериментальными проверками, чтобы убедиться, что решения ACHILLES отвечают реальным потребностям. Организации здравоохранения и клинические организации предоставляют конфиденциальные медицинские данные и практический опыт в области диагностики, помогая создавать надежные решения ИИ для здравоохранения.

Известные центры юридических исследований и специалисты по этике гарантируют соответствие ACHILLES новым законодательным актам (EU AI Act, Data Governance Act, GDPR). Они также прогнозируют будущие изменения в законодательстве, чтобы помочь проекту оставаться на переднем крае соблюдения политики. Специалисты по открытой науке, коммуникациям и эксплуатационным инициативам помогают координировать междисциплинарные семинары, взаимодействовать с органами стандартизации и следить за тем, чтобы результаты проекта доходили до широкой аудитории.

Благодаря такому богатому сочетанию перспектив этические, правовые и общественные аспекты разрабатываются наряду с техническими модулями, что обеспечивает целостный подход к решению сложных проблем развития ИИ.

Связь с Законом ЕС об искусственном интеллекте и более широкими нормативными актами

Одной из основных задач ACHILLES является оптимизация соответствия развивающимся нормативным актам, особенно Закону ЕС об искусственном интеллекте, что подразумевает:

• Согласование с учетом рисков. Соотнесение уровня риска каждого компонента ИИ с соответствующими проверками, от аудита данных до снижения предвзятости.
• Конфиденциальность и управление данными. Обеспечение соответствия или превышения требований GDPR, Закона об управлении данными и соответствующих рамочных документов.
• Зеленый ИИ. Интеграция эффективности моделей и оптимизация развертывания, чтобы помочь организациям достичь целей устойчивого развития, изложенных в европейской программе Green Deal.

Хотя соблюдение требований может показаться пугающим, ACHILLES опирается на трехкомпонентную систему, которая повторяет закон об искусственном интеллекте, настаивающий на строгой подотчетности:

• Цели. Четко сформулированные цели, согласованные с нормативными актами, стандартами (например, ISO/IEC 42001) и передовым опытом.
• Поддержка соблюдения. Практические инструменты и процессы, внедренные на протяжении всего жизненного цикла ИИ, обеспечивающие встроенное, а не прикрученное соответствие.
• Верификация. Надежный процесс аудита, сочетающий карты данных и моделей, а также непрерывный мониторинг для подтверждения того, что каждый этап соответствует или превосходит целевые показатели соответствия.
• Итеративный цикл. От идеи до внедрения и обратно

Вдохновляясь клиническими испытаниями с отдельными фазами разработки и тестирования и недетерминированной оценкой, ACHILLES разработала итеративный цикл разработки, который проходит через четыре перспективы (с пятью этапами). На каждом этапе в центре внимания остаются человеческие ценности, конфиденциальность данных, эффективность модели и устойчивость развертывания.

1. Ориентированность на человека. Семинары по проектированию с учетом ценностей (VSD) и совместному проектированию позволяют выявить потребности конечных пользователей, общественные ценности и первоначальные правовые ограничения, чтобы воплотить их в технических спецификациях. Оценка этического воздействия выявляет потенциальные риски и определяет направление развития ИИ-решения с первого дня.
2. Операции, ориентированные на данные. Аудит и проверка данных путем выявления выбросов, обеспечения разнообразия и качества данных; выявление и устранение предвзятости с использованием передовых методов для создания репрезентативных и справедливых обучающих наборов данных (например, с использованием синтетических данных); проверка конфиденциальности с помощью автоматизированных инструментов для выявления и анонимизации персональных данных в соответствии с требованиями GDPR.
3. Стратегии, ориентированные на модели. Обучение на распределенных источниках данных без централизации конфиденциальной информации (например, федеративное обучение), что значительно снижает риск конфиденциальности; генерация синтетических данных для повышения надежности моделей или замены реальных данных с сохранением важнейших статистических свойств; инструменты повышения эффективности, такие как обрезка, квантификация и эффективная настройка гиперпараметров, для снижения энергопотребления и времени обучения.
4. Оптимизация, ориентированная на развертывание. Сжатие моделей для минимизации объема памяти и времени вывода модели с целью экономии энергии и затрат; рекомендации по инфраструктуре для запуска моделей на облачных GPU, FPGA или граничных устройствах с учетом стоимости производительности; целевые показатели устойчивости.
5. Человекоцентричность. Объяснимый ИИ (XAI) и квантификация неопределенности, обеспечивающие интерпретируемые результаты, подчеркивающие потенциальные крайние случаи и измеряющие степень уверенности модели; непрерывный мониторинг для отслеживания дрейфа производительности, проверки справедливости и автоматического запуска переобучения в случае накопления погрешностей или ошибок; полуавтоматизированная отчетность путем создания динамических «карточек» данных/модели, которые повторяют фармацевтические листовки, суммируя рекомендации по использованию, известные ограничения и уровни риска.

Этот итеративный цикл обеспечивает соответствие решений ИИ реальным потребностям и их адаптацию к изменениям в нормативных актах и общественных ожиданиях.

ACHILLES IDE: Преодоление разрыва

Особым новшеством в ACHILLES является интегрированная среда разработки (IDE), призванная устранить разрыв между лицами, принимающими решения, разработчиками и конечными пользователями на протяжении всего жизненного цикла ИИ:

• Проектирование на основе спецификаций. Обеспечивает соответствие каждого решения ИИ совместно разработанным требованиям к соответствию и потребностям пользователей с самого начала. Согласование каждой итерации работы с данными и моделями с установленными нормами (GDPR, EU AI Act и т. д.).
• Всеобъемлющий инструментарий. Предлагает расширенные функциональные возможности (через API) для выявления предвзятости, аудита данных, мониторинга моделей и сохранения конфиденциальности. Способствует энергоэффективному обучению и выводу моделей за счет обрезки, квантификации и других «зеленых» методов ИИ.
• Smart Copilot. Выступает в роли помощника, управляемого искусственным интеллектом, который направляет разработчиков в режиме реального времени, предлагая лучшие практики, показывая соответствующие нормативные документы и рекомендуя дальнейшие шаги для эффективного развертывания с сохранением конфиденциальности.

Интегрированный подход IDE на всех этапах — от разработки до развертывания и далее — призван устранить догадки о соблюдении нормативных требований и устойчивом развитии, упростив и сделав более интуитивно понятным для организаций внедрение ответственных стратегий ИИ.

Четыре реальных примера использования: Доказательство адаптивности и влияния

ACHILLES проверяет свою систему в различных секторах, отражающих различные уровни риска, интенсивности регулирования и чувствительности данных:

1. Здравоохранение. Офтальмологическая диагностика (например, скрининг глаукомы) объединяет клинические изображения с данными пациента, предъявляя высокие требования к сохранению конфиденциальности, интерпретируемости и прозрачности отчетности.
2. Проверка личности. Автоматизация проверки документов и сопоставления лиц при минимизации погрешностей и строгих ограничениях конфиденциальности. Кроме того, демонстрируется, как непрерывный мониторинг модели позволяет устранить дрейф данных (например, новые форматы удостоверений личности).
3. Создание контента (SCRIPTA). Сценарии для фильмов или литературных произведений, созданные искусственным интеллектом, с этическим контролем для фильтрации вредного или защищенного авторским правом контента, что обеспечивает баланс между креативностью и ответственностью.
4. Фармацевтика (HERA). Контроль соблюдения требований и управление знаниями с помощью ИИ для оптимизации клинических испытаний и контроля качества. Иллюстрирует важность надежности данных в рамках сложных нормативных требований.

Каждый сценарий проходит итерационный цикл ACHILLES — от проектирования с учетом ценностей до непрерывного аудита после развертывания. В ходе реализации этих сценариев ACHILLES использует процесс Z-Inspection® для оценки надежности ИИ, обеспечивая структурированную основу для оценки того, насколько решения проекта соответствуют этическим принципам, потребностям общества и нормативным требованиям.

Измерение успеха

ACHILLES отслеживает успех по нескольким ключевым показателям эффективности (KPI), включая, но не ограничиваясь ими:

• Снижение предвзятости. Устранение до 40% обнаруженной предвзятости в определенных эталонах и реальных наборах данных.
• Показатели конфиденциальности. Синтетические данные с потерей производительности менее 5% по сравнению с реальными данными и проверка соответствия личной информации пользователей на 90%+.
• Доверие и удовлетворенность пользователей. Предварительные и последующие опросы для конечных пользователей и разработчиков с целью улучшения на 30-40% восприятия справедливости и прозрачности ИИ, включая не менее пяти пользовательских исследований взаимодействия человека и ИИ.
• Снижение энергопотребления. По крайней мере, на 35% меньше джоулей на предсказание по сравнению с установленными базовыми показателями и 50%+ обрезанных параметров нейронной сети с потерей производительности менее 5%.

Хронология

ACHILLES стартует в ноябре 2024 года и рассчитан на четыре года. Основные этапы включают:

• Год 1: Разработка основной архитектуры, определение этических/правовых рамок и начальная работа над техническими инструментами, вдохновленными реальными примерами использования.
• Год 2: Выпуск ранних прототипов (включая наборы инструментов для обеспечения соответствия и расширенные операции с данными) и итеративные усовершенствования, проверенные в ходе пилотных испытаний в реальных условиях.
• Год 3: Масштабирование демонстрационных сценариев, доработка надежных модулей сохранения конфиденциальности и интеграция результатов в отраслевые развертывания.
• Год 4: Бета-версия ACHILLES IDE, окончательная проверка на реальных примерах использования (включая всесторонние исследования пользователей) и консолидированная стратегия использования фреймворка после окончания срока действия проекта.

На каждом этапе партнеры встречаются на междисциплинарных семинарах для перекрестного контроля прогресса, обмена результатами на основе открытого научного подхода и передачи результатов в стандартные органы. К завершению проекта ACHILLES планирует создать полноценную экосистему для ответственного, экологичного и законного ИИ.

Открытая наука, стандарты и совместная работа с общественностью

Руководствуясь принципами Horizon Europe, проект ACHILLES способствует развитию открытой науки и сотрудничества:

• Инструментарий с открытым исходным кодом и распространение научных данных. Многие модули и библиотеки будут выпущены на открытых платформах (например, GitHub) под разрешительными лицензиями, чтобы максимально увеличить вклад сообщества. Эти и другие научные результаты будут представлены на ключевых конференциях и в журналах с открытым доступом.
• Публичные семинары. Регулярные междисциплинарные мероприятия объединят разработчиков, политиков, специалистов по этике и представителей гражданского общества для доработки модулей системы.
• Взаимодействие с органами стандартизации. Члены консорциума будут активно участвовать в обсуждениях ISO, комитетов CEN-CENELEC и других рабочих групп, связанных с ИИ, чтобы помочь сформировать будущие технические стандарты по обмену данными, XAI и конфиденциальности.

Такая культура открытости способствует формированию более широкой экосистемы ответственного развития ИИ, где лучшие практики распространяются, совершенствуются и постоянно проверяются в реальных условиях.

На пути к надежному будущему ИИ

ACHILLES предлагает проект современного ИИ, который уважает человеческие ценности, соответствует строгим нормам и работает эффективно. Сочетая технические прорывы с этико-правовыми нормами, проект демонстрирует, как ИИ может стать силой добра: прозрачной, инклюзивной и устойчивой. Открытая и модульная архитектура проекта, воплощенная в удобной для пользователя среде ACHILLES IDE, демонстрирует стремление Европы к лидерству в управлении данными и цифровом суверенитете, минимизации воздействия на окружающую среду и максимизации прозрачности, справедливости и доверия.

По мере приближения полной реализации Закона ЕС об искусственном интеллекте такие проекты, как ACHILLES, играют важную роль в обеспечении связи между политикой и практикой. Цель состоит в том, чтобы ИИ реализовал свой потенциал для улучшения жизни людей и повышения эффективности бизнеса без ущерба для этики, конфиденциальности и устойчивости. Соблюдение требований не является препятствием для инноваций, и благодаря строгому, непрерывному циклу обратной связи ACHILLES устанавливает эталон надежного ИИ не только в Европе, но и во всем мире.

Ранее мы опубликовали 10 трендов и инноваций умного города в 2025 году.