HV&I: ChatGPT помогает выявлять фейки о вакцинации

Чат-бот ChatGPT может помочь увеличить количество вакцин, развенчивая мифы о безопасности прививок, считают авторы исследования, опубликованного в рецензируемом журнале Human Vaccines and Immunotherapeutics.

Исследователи задали чат-боту с искусственным интеллектом (ИИ) 50 наиболее часто задаваемых вопросов о вакцине Covid-19. В их число входили вопросы, основанные на мифах и вымышленных историях, например, о том, что вакцина вызывает Ковид-19.

Результаты показали, что в среднем ChatGPT набрал девять баллов из десяти за точность. В остальных случаях он был корректен, но оставлял некоторые пробелы в предоставляемой информации, говорится в исследовании.

Основываясь на этих результатах, эксперты, руководившие исследованием из исследовательской группы GenPoB, расположенной в Институте санитарных исследований (IDIS) — Клиническом университетском госпитале Сантьяго-де-Компостела, считают, что инструмент искусственного интеллекта является «надежным источником нетехнической информации для населения», особенно для людей, не имеющих специальных научных знаний.

Тем не менее, полученные результаты свидетельствуют о некоторых опасениях, связанных с этой технологией, например, о том, что в некоторых ситуациях ChatGPT меняет свои ответы.

В целом ChatGPT строит рассказ в соответствии с имеющимися научными данными, развенчивая мифы, циркулирующие в социальных сетях, — говорит ведущий автор исследования Антонио Салас, который не только возглавляет исследовательскую группу GenPoB, но и является профессором медицинского факультета Университета Сантьяго-де-Компостела (Испания).

Таким образом, это потенциально может способствовать увеличению количества вакцин. ChatGPT может выявлять поддельные вопросы, связанные с вакцинами и вакцинацией. Язык, на котором работает этот ИИ, не слишком техничен и поэтому легко понятен широкой публике, но при этом не теряет научной строгости.

Мы признаем, что современная версия ChatGPT не может заменить эксперта или научные данные. Но полученные результаты говорят о том, что она может стать надежным источником информации для населения.

В 2019 году Всемирная организация здравоохранения (ВОЗ) включила нерешительность в отношении вакцин в число 10 главных угроз для глобального здравоохранения.

Во время пандемии дезинформация, распространяемая через социальные сети, способствовала недоверию населения к вакцинации против вируса Ковид-19.

Среди авторов данного исследования — сотрудники Клинического университета Сантьяго (Hospital Clinico Universitario de Santiago), который в 2018 г. был включен ВОЗ в число центров сотрудничества по безопасности вакцин.

Исследователи этого центра изучают мифы о безопасности вакцин и медицинские ситуации, которые ошибочно считаются причиной отказа от вакцинации. Эти необоснованные опасения способствуют нерешительности в отношении вакцин.

Авторы исследования поставили перед собой задачу проверить способность ChatGPT правильно излагать факты и распространять достоверную информацию о безопасности вакцины Covid в соответствии с современными научными данными.

ChatGPT позволяет людям вести человекоподобные разговоры и взаимодействовать с виртуальным помощником. Технология очень удобна в использовании, что делает ее доступной для широких слоев населения.

Однако правительства многих стран обеспокоены возможностью мошеннического использования ChatGPT в образовательных учреждениях, например, в университетах.

Цель исследования заключалась в том, чтобы испытать чатбота, задав ему вопросы, наиболее часто поступающие в сотрудничающий центр ВОЗ в Сантьяго.

Запросы касались трех тем. Первая — ложные представления о безопасности, например, о том, что вакцина вызывает болезнь Лонг-Ковида. Далее речь шла о ложных противопоказаниях — медицинских ситуациях, при которых вакцина безопасна, например у кормящих женщин.

Вопросы также касались истинных противопоказаний — состояний здоровья, при которых вакцина не должна применяться, и случаев, когда врачи должны соблюдать меры предосторожности, например, в случае пациента с воспалением сердечной мышцы.

Затем эксперты проанализировали ответы и оценили их достоверность и точность в соответствии с современными научными данными, а также рекомендациями ВОЗ и других международных организаций.

По мнению авторов, это важно, поскольку алгоритмы, создаваемые социальными сетями и поисковыми системами в Интернете, часто основываются на привычных предпочтениях человека. Это может привести к «предвзятым или неправильным ответам», добавляют авторы.

Результаты показали, что на большинство вопросов были даны правильные ответы со средним баллом 9 из 10, что определяется как «отлично» или „хорошо“. Ответы на три темы вопросов были в среднем на 85,5% точными или на 14,5% точными, но с пробелами в информации, предоставленной ChatGPT.

ChatGPT давал правильные ответы на вопросы, связанные с реальными мифами о вакцинах, а также на вопросы, которые в клинических рекомендациях рассматриваются как ложные или истинные противопоказания.

Однако исследовательская группа отмечает и недостатки ChatGPT в предоставлении информации о вакцинах.

Профессор Салас, специализирующийся на генетике человека, заключает:

Chat GPT дает разные ответы, если вопрос повторяется «с задержкой в несколько секунд».

Еще одно опасение, которое мы наблюдаем, заключается в том, что этот инструмент искусственного интеллекта в его нынешней версии может быть обучен давать ответы, не соответствующие научным данным.

Можно «пытать» систему таким образом, чтобы она давала желаемый ответ. Это справедливо и для других контекстов, отличных от вакцин. Например, можно заставить чатбота согласиться с абсурдными нарративами, такими как теория плоской Земли, отрицать изменение климата или возражать против теории эволюции, и это только несколько примеров.

Однако важно отметить, что эти ответы не являются поведением ChatGPT по умолчанию. Таким образом, результаты, полученные в отношении безопасности вакцин, можно с большой долей вероятности экстраполировать на многие другие мифы и псевдонауку.

05.09.2023