Диагностические ошибки — одна из самых серьезных проблем в медицине. Искусственный интеллект, особенно языковые модели вроде ChatGPT-4, Gemini или Claude 3, может помочь врачам ставить диагнозы быстрее и точнее. Но у ИИ есть и слабые места: он иногда выдает ложную информацию, повторяет человеческие предубеждения и ошибается так, что даже специалисты не всегда понимают, почему.

Международная группа ученых из Института Макса Планка, проекта Human Diagnosis Project (Сан-Франциско) и Итальянского национального исследовательского совета решила проверить, как лучше объединить усилия врачей и ИИ. Оказалось, что гибридные коллективы — где диагнозы ставят и люди, и алгоритмы — справляются с задачами лучше, чем чисто человеческие или чисто машинные группы. Особенно это заметно в сложных случаях, где возможных диагнозов много.

Результаты опубликованы в издании Proceedings of the National Academy of Sciences.

Как проверяли

Использовали более 2100 клинических случаев — кратких описаний болезней с правильными диагнозами. Сравнили, как с ними справляются врачи, пять ведущих ИИ-моделей и разные комбинации людей и алгоритмов. Всего проанализировали свыше 40 000 диагнозов.

Что выяснилось

• Группы из нескольких ИИ в среднем точнее 85% врачей-одиночек.
• Но в некоторых случаях люди находили верный ответ там, где алгоритмы ошибались.
• Лучший результат показали смешанные команды: когда к группе врачей добавляли хотя бы одну ИИ-модель (или наоборот), точность росла.

Почему это так работает

Люди и машины ошибаются по-разному. Если ИИ не справляется, врач может его поправить — и наоборот. Эта взаимная компенсация ошибок делает гибридные коллективы эффективнее.

Но есть нюансы:

• Исследование проводили на текстовых описаниях, а не на реальных пациентах.
• Не проверяли, как ИИ повлияет на выбор лечения.
• Неясно, как врачи и пациенты отнесутся к таким системам на практике.

Где это пригодится

Прежде всего — в регионах, где не хватает специалистов. Но подход можно использовать и в других сферах: юриспруденции, климатической политике, ликвидации катастроф.

Главный плюс — снижение диагностических ошибок, которые ежегодно приводят к тысячам осложнений. Если ИИ добавит даже 5-10% точности, это спасет множество жизней. Второе — доступность медицины: в глубинке, где нет узких специалистов, гибридные системы смогут помочь терапевтам. Третье — экономия времени: врачи тратят часы на рутинные диагнозы, а ИИ возьмет эту работу на себя, освободив их для сложных случаев.

Исследование не учитывает контекст реальной медицины:

• В клиниках данные часто неполные или искажены (например, пациент забыл упомянуть симптом).
• Нет оценки, как ИИ поведет себя при мультиморбидности (когда у человека несколько болезней сразу).
• Не проверено, как модель реагирует на редкие заболевания, которых не было в обучающей выборке.

Без этих тестов рано говорить о надежности системы.

Ранее мы писали, как технологии помогают врачам спасать жизни.