Искусственный интеллект играет всё более значимую роль в различных измерениях жизни современного человека и меняет основные сферы общества, где институт медицины не является исключением. Однако прежде чем полностью принимать преимущества внедрения технологий искусственного интеллекта, следует обратиться к дискуссиям [1-3, 5-11], касающимся социальных аспектов их применения в столь важной сфере как здравоохранение. Среди потенциальных социальных рисков использования технологий искусственного интеллекта в сфере здравоохранения особое беспокойство вызывают такие, как цифровое и социальное неравенство [1], угроза конфиденциальности данных [5, 6], возможная девальвация медицинского образования [7, 8], снижение компетенций медицинского персонала [4, 5] и изменения в модели коммуникации между врачом и пациентом [6]. Несмотря на вышеуказанные риски, развитие технологий искусственного интеллекта в медицине сулит возможные улучшения процессов диагностики и лечения, прогнозировании и оптимизации лечебных процессов, а также процессов, связанных с управлением данными пациентов [9-11], что заставляет расширять их использование.

Большинство алгоритмов искусственного интеллекта являются довольно сложными системами, вследствие чего возникает эффект «черного ящика», то есть непонимания причин принятие тех или иных решений. Это лишь усиливает сложность взаимодействия с интеллектуальными системами и снижает доверие к применению искусственного интеллекта в здравоохранении как пациентами, так и врачами [7]. Как результат, обсуждается вопрос о необходимости разработки принципов ответственного искусственного интеллекта и этического управления в области его применения, особенно в сфере здравоохранения, чтобы гарантировать безопасность, справедливость и прозрачность медицинских технологий [8]. Цель этой статьи — выявить основные социальные риски, возможные в случае активного использования технологий искусственного интеллекта в сфере здравоохранения, обозначенные в современных эмпирических и теоретических исследованиях.

Государства с высокоразвитой цифровой инфраструктурой получают доступ к современным интеллектуальным системам в медицине значительно раньше, чем страны с ограниченными цифровыми ресурсами, что формирует неравенство в доступе к качественной цифровой медицине и новым технологиям [1, 9] и является отражением первого уровня цифрового разрыва [27]. Кроме того, значительная доля населения даже в странах с высоким доступом к цифровым технологиям сталкивается с трудностями в части использования цифровых медицинских сервисов. Согласно данным Всемирной организации здравоохранения, в 2022 году свыше 30% граждан в странах Европейского Союза признавались в недостаточном уровне цифровой грамотности для использования медицинских цифровых сервисов [10], что свидетельствует о высоком социальном значении и второго уровня цифрового разрыва [27].

Для обучения интеллектуальных систем необходимо обладать огромными массивами данных, а в случае со сферой здравоохранения, им потребуется информация о пациентах, их медико-генетических, а также биометрических характеристиках. По данным IBM Security, в последние годы наблюдается рост утечек медицинской информации; в 2023 году средние затраты на одну утечку в этой области составили 10,93 миллионов долларов, что значительно выше в сравнении с другими отраслями [11]. В России, как и в других странах, медицинские учреждения зачастую являются источниками утечек конфиденциальной информации [30], что в значительной степени влияет на опасения пациентов и подрывает доверие к новым технологиям. В современных исследованиях также отмечается, что сфера медицины является объектом интереса со стороны кибер-преступников [12], увеличивая риски несанкционированного доступа, нарушения целостности данных и способствует подрыву доверия к медицинским учреждениям [13].

Модели искусственного интеллекта, в особенности, использующие глубокое обучение (deep learning), отличаются высокой точностью, но в то же время, они не обеспечивают прозрачность для своих решений и выводов. Данный феномен получил название «чёрный ящик» [7]. Непрозрачность логики некоторых моделей искусственного интеллекта приводит к недоверию со стороны медперсонала и может затруднять различные процессы, например, клиническую интерпретацию полученных данных. В некоторых исследованиях отмечается нежелание и неготовность врачей следовать рекомендациям искусственного интеллекта, в частности, по причине отсутствия прозрачной, чёткой, понятной логики, а также из-за опасений возможной юридической ответственности в случае ошибки [14]. Таким образом, отсутствие чётких принципов логики и интерпретируемости интеллектуальных систем снижает уровень доверия к таковым среди медицинского персонала, а также, может ограничивать их применение в медицинских учреждениях.

Активное внедрение интеллектуальных систем в ежедневную врачебную практику, например, автоматизация процессов диагностики с их помощью может послужить причиной девальвации медицинского образования и снижению профессиональных компетенций молодых специалистов. По данным одного из исследований, студенты направления подготовки «Лечебное дело», регулярно использующие интеллектуальные технологии, например, чат GPT, в рамках своей академической деятельности, имеют меньшую мотивацию к выполнению сложных клинических задач, чем ограничивают развитие своих профессиональных аналитических навыков [1]. Говоря о привычке молодых медицинских специалистов обращаться к технологиям искусственного интеллекта, исследователи выявили феномен, который назвали «эффект ленивого врача» (lazy doctor effect). Его суть такова: медицинские работники систематически обращаются к алгоритмам с целью принятия решений, что ведёт к потери способности мыслить самостоятельно [4, 5] и может привести к фатальным ошибкам в случае столкновения с нетипичной клинической картиной, поскольку в нестандартных ситуациях технологии искусственного интеллекта неэффективны или даже способны выдавать неверные рекомендации и выводы [15, 16].

Применение новых технологий в медицине также может внести коррективы в традиционные модели взаимодействия врача и пациента, так как использование автоматизированных решений в рамках врачебной практики может нарушать некоторые этические принципы и подрывать доверие к медицинским специалистам [6]. По данным ряда исследований [15, 16], модели на базе технологий искусственного интеллекта могут превосходить точность диагностики некоторых заболеваний, например, рака легких, диабетической ретинопатии, что потенциально может заставить пациентов усомниться в авторитете и компетенции врачей.

Этические вопросы использования технологий искусственного интеллекта в медицине обусловлены, в первую очередь, отсутствием четкого правового регулирования, поскольку это относительно новая практика для сферы здравоохранения. Как результат, один из самых спорных моментов связан с тем, что не вполне очевидно, кто должен нести юридическую ответственность за возможные ошибки, совершенные врачами при использовании искусственного интеллекта. При совершении ошибочных действий, таких как некорректное назначение медицинских обследований и процедур, неточности на этапе диагностики из-за использования алгоритмических систем и т.д. возникает неопределенность в аспекте выявления ответственных за произошедшую ошибку. Ответственность за нее можно возложить не только на врачей, использующих интеллектуальную систему, но и на разработчиков программного обеспечения, а также на медицинскую организацию, которая допустила применение искусственного интеллекта [17, 18]. ВОЗ, Европейская комиссия и ЮНЕСКО подчеркивают необходимость разработки международных стандартов, норм и правовых документов, которые будут обеспечивать этичное и безопасное использование технологий искусственного интеллекта в здравоохранении [19], так как без четкого регламента возможны судебные разбирательства, снижение доверия к институту медицины и правовая незащищенность врачей и пациентов.

В качестве ответа на данные вызовы была разработана концепция ответственного искусственного интеллекта (Responsible AI), согласно которой на каждом этапе создания и применения технологий искусственного интеллекта следует опираться на принципы проектирования, разработки, внедрения и управления, которые защищали бы права пользователей и поддерживали бы этические стандарты [28]. Кроме того, концепция ответственного искусственного интеллекта подразумевает, что в процессе принятия медицинских решений обязательно должен участвовать человек (human-in-the-loop), что позволит сохранить гуманистическую составляющую в сфере здравоохранения [20]. Концепция основывается на таких принципах, как объяснимость, справедливость, прозрачность и подотчетность [8]. Предполагается, что следование этим принципам поможет снизить риски, обеспечить активное информированное согласие пациентов в процессе принятия решений, нивелировать последствия возможных ошибочных действий.

Глобальный индекс ответственного искусственного интеллекта (GIRAI) – это первый инструмент, позволяющий установить глобально значимые ориентиры для развития новых технологий и оценить их влияние в странах по всему миру. В своем первом издании данный индекс охватывает 138 стран, в том числе 41 страну Африки [28-29].

Таким образом, применение искусственного интеллекта в медицине может предоставить принципиально новые способы диагностики, помочь оптимизировать временные затраты на принятие клинических решений и способствовать более широкому использованию персонализированной терапии. Однако при применении технологий искусственного интеллекта в медицине также следует учитывать новые социальные риски, начиная с усиления цифрового неравенства и угрозы конфиденциальности данных, и снижения врачебных компетенций и изменения устоявшихся моделей взаимодействия врач-пациент, и, в конечном итоге, росту судебных процессов, связанных с отсутствием законов, регулирующих подобные ситуации. Для безопасной и этически обоснованной интеграции новых технологий в медицину требуются национальные и международные правовые нормы, внедрение принципов ответственного искусственного интеллекта, повышение цифровой грамотности всеми участниками процесса – медиками и пациентами, критический мониторинг последствий автоматизации медицинских решений. Только подобный комплексный подход позволит использовать возможности искусственного интеллекта во благо общества и не ставить под угрозу фундаментальные ценности здравоохранения.