CHB: Чтобы повысить доверие к ИИ в медицине, нужно напомнить о врачебных ошибках

Люди привыкают к персональным помощникам на базе искусственного интеллекта, чат-ботам и финансовым консультантам. Однако в сфере медицины большинство людей по-прежнему хотят человеческого отношения.

Это понятно, ведь получение медицинской помощи — глубоко личный опыт. Но стремление к более широкому применению искусственного интеллекта может принести пользу и пациентам, и поставщикам услуг. Ведь искусственный интеллект способен повысить качество, эффективность и результативность медицины.

Как индустрия может помочь людям спокойнее относиться к медицинскому ИИ?

Проведённое исследование показало, что здесь сработает более наглядное представление о предвзятости в мышлении.

Исследование изучает «осознание предвзятости

Исследование, опубликованное в журнале Computers in Human Behavior, показало, что пациенты больше доверяют рекомендациям искусственного интеллекта, когда осознают предвзятость человеческих решений в области здравоохранения.

Ребекка Дж. Х. Ванг, доцент кафедры маркетинга в Колледже бизнеса Лихай, объясняет это тем, что предвзятость воспринимается как фундаментальный человеческий недостаток. Поэтому, когда становится очевидна предвзятость людей, доверие к искусственному интеллекту возрастает.

В исследовании приняли участие почти 1900 человек. Им предложили 6 экспериментов. Участникам напоминали о человеческих предубеждениях, например, о том, что медики могут по-разному относиться к пациентам в зависимости от их пола. После этого участники исследования стали больше доверять рекомендациям искусственного интеллекта.

Участникам предлагали представить ситуацию, когда им нужен совет или диагноз (например, при необходимости коронарного шунтирования или обследования на рак кожи). Затем их спрашивали, от кого они хотели бы услышать рекомендацию — от человека или компьютера/ИИ-помощника.

Предварительно участникам показали инфографику о распространённых когнитивных предубеждениях и их влиянии, в том числе возрастном (для тех, кому за 50) и гендерном.

Результаты показали:

• Когда участники узнали о возможной предвзятости в работе людей из сферы здравоохранения, они стали считать искусственный интеллект более честным и заслуживающим доверия.
• Хотя люди всё равно предпочитают человеческое здравоохранение, осознание предвзятости снижает сопротивление медицинскому искусственному интеллекту. Вероятно, это происходит потому, что предвзятость чаще ассоциируется с людьми.
• Если человек не осознаёт предвзятость, он может считать субъективность врача положительным фактором. Но когда уровень осознания предвзятости высок, пациенты выше ценят объективность искусственного интеллекта.

Будущее ИИ в медицине

Авторы считают, что при разработке и внедрении систем искусственного интеллекта (ИИ) важно учитывать человеческие предубеждения. Разработчики должны стремиться минимизировать предвзятость в данных, на которых обучается медицинский ИИ, а также информировать пользователей о возможной необъективности.

Может стать популярнее использование искусственного интеллекта в медицине, например, для диагностики и наблюдения за пациентами.

По мнению Ванга, медицинские работники могут создать доверительные отношения между пациентами и новыми технологиями, если развеют опасения пациентов по поводу искусственного интеллекта и подчеркнут ограниченность человеческих суждений.

16.10.2024