Машинное обучение в медицине: новая модель ИИ поможет избежать ошибок и предвзятости

Исследователи Университета Ватерлоо разработали новую объяснимую модель искусственного интеллекта, позволяющую уменьшить предвзятость и повысить доверие и точность в процессе принятия решений и организации знаний на основе машинного обучения.

Традиционные модели машинного обучения часто дают необъективные результаты, отдавая предпочтение группам с большой численностью населения или подвергаясь влиянию неизвестных факторов, и требуют значительных усилий для идентификации из экземпляров, содержащих паттерны и подпаттерны, поступающие из различных классов или первичных источников.

Медицина — одна из областей, где необъективные результаты машинного обучения чреваты серьезными последствиями. Сотрудники больниц и медицинские работники опираются на наборы данных, содержащие тысячи медицинских записей, и сложные компьютерные алгоритмы для принятия важнейших решений по уходу за пациентами. Машинное обучение используется для сортировки данных, что позволяет экономить время. Однако отдельные группы пациентов с редкой симптоматикой могут остаться незамеченными, а неправильно помеченные пациенты и аномалии могут повлиять на результаты диагностики. Такая необъективность и запутанность шаблонов приводит к ошибочным диагнозам и несправедливым результатам в здравоохранении для отдельных групп пациентов.

Благодаря новому исследованию, проведенному под руководством д-ра Эндрю Вонга, заслуженного профессора кафедры системного проектирования Университета Ватерлоо, инновационная модель призвана устранить эти барьеры путем распутывания сложных закономерностей в данных, чтобы связать их с конкретными глубинными причинами, на которые не влияют аномалии и неправильно помеченные экземпляры. Это может повысить доверие и надежность объяснимого искусственного интеллекта (Explainable Artificial Intelligence, XAI).

Это исследование представляет собой значительный вклад в область объяснимого искусственного интеллекта», — сказал Вонг.

Анализируя огромное количество данных о связывании белков, полученных с помощью рентгеновской кристаллографии, моя команда выявила статистику физико-химических закономерностей взаимодействия аминокислот, которые были замаскированы и перемешаны на уровне данных из-за запутанности множества факторов, присутствующих в среде связывания. Мы впервые показали, что запутанную статистику можно распутать и дать правильное представление о глубоких знаниях, упущенных на уровне данных, с помощью научных доказательств.

Это открытие привело Вонга и его команду к разработке новой модели XAI, получившей название Pattern Discovery and Disentanglement (PDD, — не путать с правилами дорожного движения).

С помощью PDD мы стремимся преодолеть разрыв между технологиями ИИ и человеческим пониманием, чтобы обеспечить принятие надежных решений и раскрыть глубокие знания из сложных источников данных, — сказал доктор Пэйюань Чжоу, ведущий исследователь из группы Вонга.

Профессор Энни Ли, соавтор и сотрудник Университета Торонто, специализирующийся на обработке естественного языка, предвидит огромную ценность вклада PDD в принятие клинических решений.

Модель PDD произвела революцию в области обнаружения закономерностей. В различных тематических исследованиях PDD демонстрирует способность предсказывать результаты лечения пациентов на основе их истории болезни. Система PDD также может обнаруживать новые и редкие закономерности в наборах данных. Это позволяет как исследователям, так и практикам обнаруживать неверные метки или аномалии в машинном обучении.

Полученный результат показывает, что медицинские работники могут ставить более надежные диагнозы, подкрепленные строгой статистикой и объяснимыми закономерностями, для более точных рекомендаций по лечению различных заболеваний на разных стадиях.

Исследование Theory and rationale of interpretable all-in-one pattern discovery and disentanglement system опубликовано в журнале npj Digital Medicine.

08.08.2023


Подписаться в Telegram



Net&IT

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

ИИ помогает математикам находить закономерности
ИИ помогает математикам находить закономерности

Применение машинного обучения для поиска ...

Scientific Reports: Борьба с недоверием в Интернете может быть неэффективной
Scientific Reports: Борьба с недоверием в Интернете может быть неэффективной

Новое исследование, проведенное Университетом ...

JRCS: ChatGPT перегружает пользователей выбором
JRCS: ChatGPT перегружает пользователей выбором

За последние несколько лет в области...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Optica Quantum: Ученые разработали новый метод определения квантовых состояний
Optica Quantum: Ученые разработали новый метод определения квантовых состояний
Новая реалистичная компьютерная модель поможет роботам собирать лунную пыль
Новая реалистичная компьютерная модель поможет роботам собирать лунную пыль
С помощью GPT-4 создали видеоуроки по педиатрии для слабо обеспеченных больниц
С помощью GPT-4 создали видеоуроки по педиатрии для слабо обеспеченных больниц
Телескоп Джеймс Уэбб обнаружил следы нейтронной звезды в легендарной сверхновой
Телескоп Джеймс Уэбб обнаружил следы нейтронной звезды в легендарной сверхновой
Нервная анорексия у мужчин опасна для жизни
Нервная анорексия у мужчин опасна для жизни
Nicotine & Tobacco Research: Запрет сигарет с ментолом помогает бросить курить
Nicotine & Tobacco Research: Запрет сигарет с ментолом помогает бросить курить
Мальротацию кишечника новорожденных помогут распутать лягушачьи икринки
Мальротацию кишечника новорожденных помогут распутать лягушачьи икринки
Новое исследование роли дофамина поможет лечить болезнь Паркинсона
Новое исследование роли дофамина поможет лечить болезнь Паркинсона
Nature Comm: Младенцев с синдромом Дауна в древности почитали как особенных
Nature Comm: Младенцев с синдромом Дауна в древности почитали как особенных
Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее
Освоение космоса: остановить нельзя развивать
Освоение космоса: остановить нельзя развивать
Гигантские антарктические морские пауки удивили всех отношением к потомству
Гигантские антарктические морские пауки удивили всех отношением к потомству
Геномы бабочек и мотыльков практически не изменились за 250 млн лет эволюции
Геномы бабочек и мотыльков практически не изменились за 250 млн лет эволюции
Ученые намерены глубже понять жизнь на Земле благодаря имиджеомике
Ученые намерены глубже понять жизнь на Земле благодаря имиджеомике
Как выглядит работающий рекламный баннер
Как выглядит работающий рекламный баннер

Новости компаний, релизы

НАИРИТ объявит итоги Всероссийского инновационного конкурса 21 февраля
НАИРИТ объявит итоги Всероссийского инновационного конкурса 21 февраля
«Инструменты инновационного развития»
«Инструменты инновационного развития»
3 причины перехода с печатной рекламы на цифровую
3 причины перехода с печатной рекламы на цифровую
Виды резервирования серверов для задач АСУ ТП
Виды резервирования серверов для задач АСУ ТП
Выбор клиники и лечащего врача с помощью специализированного сервиса
Выбор клиники и лечащего врача с помощью специализированного сервиса