Исследование: люди меньше доверяют профилактическим вмешательствам, предложенным ИИ

Исследователи во главе с Наньянским технологическим университетом в Сингапуре (NTU Singapore) обнаружили, что люди меньше доверяют профилактическим вмешательствам, предложенным искусственным интеллектом (ИИ), чем тем, когда те же вмешательства подсказываются экспертами в области здравоохранения.

Профилактические вмешательства — это мероприятия, направленные на снижение риска для здоровья, такие как проведение медицинского осмотра, повышение физической активности и вакцинация.

Изучив 15 000 пользователей мобильного приложения для здоровья в Южной Корее, исследователи обнаружили, что акцент на участии эксперта в области здравоохранения человека в предложенном ИИ вмешательстве может повысить его приемлемость и эффективность.

Эти результаты показывают, что человеческий фактор остается важным, даже несмотря на то, что сектор здравоохранения все чаще использует ИИ для более эффективного скрининга, диагностики и лечения пациентов. По словам исследователей, полученные результаты могут также способствовать разработке более эффективных профилактических мероприятий с использованием ИИ.

Assistant Professor Hyeokkoo Eric Kwon from NTU Nanyang Business School (NBS), who led the study, said: «Despite the potential of artificial intelligence to provide higher quality interventions, we found that people have lower trust in health interventions suggested by or derived from AI alone, as compared to those they perceive to be based on human expert opinion. Our study shows that the affective human element, which is linked to emotions and attitudes, remains important even as health interventions are increasingly guided by AI, and that such technology works best when complementing humans, rather than replacing them.»

Это исследование отражает усилия NTU по NTU2025, пятилетнему стратегическому плану Университета, направленному на решение серьезных проблем человечества, таких как влияние технологий на человечество. Исследование, проведенное NTU NBS на стыке технологий бизнеса и здравоохранения, также подчеркивает силу NTU и его внимание к междисциплинарным исследованиям.

Выводы были опубликованы в статье в научном журнале Production and Operations Management , написанной в соавторстве с доцентом Nakyung Kyung из Национального университета Сингапура.

Более широкое признание вмешательства в области здравоохранения с участием человека

Чтобы изучить восприятие пользователями профилактических вмешательств в здоровье, предложенных искусственным интеллектом (ИИ), по сравнению с теми, которые предложены людьми, исследовательская группа набрала 9000 пользователей мобильного приложения для здоровья в Южной Корее.

Через приложение эти пользователи получали всплывающее уведомление, побуждающее их пройти определенное количество шагов, сгенерированное для каждого пользователя с помощью алгоритма искусственного интеллекта. Затем приложение измерило количество шагов, предпринятых пользователями, которые решили принять это вмешательство в отношении здоровья.

Для 3000 пользователей в группе вмешательства, предложенной ИИ, их всплывающее уведомление гласило: «ИИ рекомендует вам ходить (персонализированная цель по шагам) в течение следующих семи дней. Хотите участвовать?» Еще 3000 участников вмешательства, предложенного человеком, получили уведомление, которое гласило: «Эксперт в области здравоохранения рекомендует вам ходить (персонализированная цель) в течение следующих семи дней». Хотите ли Вы поучаствовать?»

Контрольная группа из 3000 пользователей получила нейтральное вмешательство, в котором не упоминалось ни ИИ, ни эксперт в области здравоохранения.

Из пользователей, получивших предложенное ИИ вмешательство, 19% согласились на вмешательство. Около 10% этой группы впоследствии достигли своей личной цели по шагам в конце недели. Больше пользователей в группе, получившей предложенное человеком вмешательство, приняли вмешательство (22%) и достигли своей цели (13%).

Повышение эффективности вмешательств, предложенных ИИ

Затем исследовательская группа расширила свое исследование, включив в него еще две группы по 3000 пользователей одного и того же мобильного приложения.

Одна группа получила вмешательство, в котором было раскрыто использование ИИ совместно с экспертами в области здравоохранения. Другая группа получила вмешательство, в котором объяснялось, как ИИ генерировал вмешательства (см. Таблицу 1 ниже).

Пользователи больше приняли вмешательство в области здравоохранения, которое показало, как ИИ использовался для дополнения мнения эксперта в области здравоохранения (27%), по сравнению с вмешательствами, предложенными исключительно ИИ или людьми. Из этой группы 19% достигли своей персональной цели по шагам.

Открытость в отношении того, как ИИ использовался для создания персонализированной цели по шагам, также привела к более высокому уровню принятия (21%). Из этой группы 13% достигли своей цели.

Хотя исследование проводилось в контексте профилактического здравоохранения, исследователи считают, что их результаты могут быть применены в других контекстах, где аффективное доверие играет важную роль, таких как путешествия, образование, юридические и страховые услуги.