HV&I: ChatGPT помогает выявлять фейки о вакцинации

Чат-бот ChatGPT может помочь увеличить количество вакцин, развенчивая мифы о безопасности прививок, считают авторы исследования, опубликованного в рецензируемом журнале Human Vaccines and Immunotherapeutics.

Исследователи задали чат-боту с искусственным интеллектом (ИИ) 50 наиболее часто задаваемых вопросов о вакцине Covid-19. В их число входили вопросы, основанные на мифах и вымышленных историях, например, о том, что вакцина вызывает Ковид-19.

Результаты показали, что в среднем ChatGPT набрал девять баллов из десяти за точность. В остальных случаях он был корректен, но оставлял некоторые пробелы в предоставляемой информации, говорится в исследовании.

Основываясь на этих результатах, эксперты, руководившие исследованием из исследовательской группы GenPoB, расположенной в Институте санитарных исследований (IDIS) — Клиническом университетском госпитале Сантьяго-де-Компостела, считают, что инструмент искусственного интеллекта является «надежным источником нетехнической информации для населения», особенно для людей, не имеющих специальных научных знаний.

Тем не менее, полученные результаты свидетельствуют о некоторых опасениях, связанных с этой технологией, например, о том, что в некоторых ситуациях ChatGPT меняет свои ответы.

В целом ChatGPT строит рассказ в соответствии с имеющимися научными данными, развенчивая мифы, циркулирующие в социальных сетях, — говорит ведущий автор исследования Антонио Салас, который не только возглавляет исследовательскую группу GenPoB, но и является профессором медицинского факультета Университета Сантьяго-де-Компостела (Испания).

Таким образом, это потенциально может способствовать увеличению количества вакцин. ChatGPT может выявлять поддельные вопросы, связанные с вакцинами и вакцинацией. Язык, на котором работает этот ИИ, не слишком техничен и поэтому легко понятен широкой публике, но при этом не теряет научной строгости.

Мы признаем, что современная версия ChatGPT не может заменить эксперта или научные данные. Но полученные результаты говорят о том, что она может стать надежным источником информации для населения.

В 2019 году Всемирная организация здравоохранения (ВОЗ) включила нерешительность в отношении вакцин в число 10 главных угроз для глобального здравоохранения.

Во время пандемии дезинформация, распространяемая через социальные сети, способствовала недоверию населения к вакцинации против вируса Ковид-19.

Среди авторов данного исследования — сотрудники Клинического университета Сантьяго (Hospital Clinico Universitario de Santiago), который в 2018 г. был включен ВОЗ в число центров сотрудничества по безопасности вакцин.

Исследователи этого центра изучают мифы о безопасности вакцин и медицинские ситуации, которые ошибочно считаются причиной отказа от вакцинации. Эти необоснованные опасения способствуют нерешительности в отношении вакцин.

Авторы исследования поставили перед собой задачу проверить способность ChatGPT правильно излагать факты и распространять достоверную информацию о безопасности вакцины Covid в соответствии с современными научными данными.

ChatGPT позволяет людям вести человекоподобные разговоры и взаимодействовать с виртуальным помощником. Технология очень удобна в использовании, что делает ее доступной для широких слоев населения.

Однако правительства многих стран обеспокоены возможностью мошеннического использования ChatGPT в образовательных учреждениях, например, в университетах.

Цель исследования заключалась в том, чтобы испытать чатбота, задав ему вопросы, наиболее часто поступающие в сотрудничающий центр ВОЗ в Сантьяго.

Запросы касались трех тем. Первая — ложные представления о безопасности, например, о том, что вакцина вызывает болезнь Лонг-Ковида. Далее речь шла о ложных противопоказаниях — медицинских ситуациях, при которых вакцина безопасна, например у кормящих женщин.

Вопросы также касались истинных противопоказаний — состояний здоровья, при которых вакцина не должна применяться, и случаев, когда врачи должны соблюдать меры предосторожности, например, в случае пациента с воспалением сердечной мышцы.

Затем эксперты проанализировали ответы и оценили их достоверность и точность в соответствии с современными научными данными, а также рекомендациями ВОЗ и других международных организаций.

По мнению авторов, это важно, поскольку алгоритмы, создаваемые социальными сетями и поисковыми системами в Интернете, часто основываются на привычных предпочтениях человека. Это может привести к «предвзятым или неправильным ответам», добавляют авторы.

Результаты показали, что на большинство вопросов были даны правильные ответы со средним баллом 9 из 10, что определяется как «отлично» или „хорошо“. Ответы на три темы вопросов были в среднем на 85,5% точными или на 14,5% точными, но с пробелами в информации, предоставленной ChatGPT.

ChatGPT давал правильные ответы на вопросы, связанные с реальными мифами о вакцинах, а также на вопросы, которые в клинических рекомендациях рассматриваются как ложные или истинные противопоказания.

Однако исследовательская группа отмечает и недостатки ChatGPT в предоставлении информации о вакцинах.

Профессор Салас, специализирующийся на генетике человека, заключает:

Chat GPT дает разные ответы, если вопрос повторяется «с задержкой в несколько секунд».

Еще одно опасение, которое мы наблюдаем, заключается в том, что этот инструмент искусственного интеллекта в его нынешней версии может быть обучен давать ответы, не соответствующие научным данным.

Можно «пытать» систему таким образом, чтобы она давала желаемый ответ. Это справедливо и для других контекстов, отличных от вакцин. Например, можно заставить чатбота согласиться с абсурдными нарративами, такими как теория плоской Земли, отрицать изменение климата или возражать против теории эволюции, и это только несколько примеров.

Однако важно отметить, что эти ответы не являются поведением ChatGPT по умолчанию. Таким образом, результаты, полученные в отношении безопасности вакцин, можно с большой долей вероятности экстраполировать на многие другие мифы и псевдонауку.

05.09.2023


Подписаться в Telegram



Net&IT

Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр
Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр

В сериале Звездный путь: Следующее поколение к...

Physical Review X: Сеть квантовых датчиков повышает точность измерений
Physical Review X: Сеть квантовых датчиков повышает точность измерений

Квантовые системы, используемые в квантов...

Scientific Reports: ИИ показал больший творческий потенциал, чем человек
Scientific Reports: ИИ показал больший творческий потенциал, чем человек

Еще один балл в пользу искусственного инт...

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

JCI: Тяжелая форма COVID-19, возможно, связана с аутоантителами
JCI: Тяжелая форма COVID-19, возможно, связана с аутоантителами
Разгадана тайна снижения производительности перспективного катодного материала
Разгадана тайна снижения производительности перспективного катодного материала
Каждый четвертый родитель говорит, что ребенок не может уснуть из-за тревоги
Каждый четвертый родитель говорит, что ребенок не может уснуть из-за тревоги
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Богатый белком рацион меняет микробиом кишечника и общее состояние организма
Богатый белком рацион меняет микробиом кишечника и общее состояние организма
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
Nature Communications: Открыто революционное явление в жидких кристаллах
Nature Communications: Открыто революционное явление в жидких кристаллах
Высокоточные измерения ставят под сомнение наше понимание Цефеид
Высокоточные измерения ставят под сомнение наше понимание Цефеид
Останется ли магний снотворным для кузнечиков в результате потепления?
Останется ли магний снотворным для кузнечиков в результате потепления?
Nature Communications: В мигрирующих нейронах найден конус роста
Nature Communications: В мигрирующих нейронах найден конус роста
Physical Review Letters: Ученые описали альтернативный магнетизм
Physical Review Letters: Ученые описали альтернативный магнетизм
Current Biology: Исследование брачного поведения показывает эволюцию влечения
Current Biology: Исследование брачного поведения показывает эволюцию влечения
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи

Новости компаний, релизы

Новая "Кантиана" поможет студентам быстрее адаптироваться к калининградскому климату
Российские ученые предложили тушить пожары с помощью газогидратного огнетушителя
Минералоги СПбГУ нашли на острове Диско возможный источник фосфора для возникновения первых живых организмов
Московский Политех внедряет ИИ для повышения эффективности приемной кампании и трансформации обучения
Астрономы СПбГУ узнали возраст одного из самых мощных метеорных потоков