ESMO опубликовало гайдлайны по применению ИИ в медицинской практике

«Ценность искусственного интеллекта зависит от того, кто и как им пользуется», — отмечают составители гайдлайнов. По сути, гайдлайны документируют необходимость корректно задавать вопросы и проверять ответы — для всех участников лечебного процесса.

ESMO опубликовало первые рекомендации по использованию больших языковых моделей (Large Language Models, LLM) искусственного интеллекта (ИИ) в онкологической практике. Документ ESMO Guidance on the Use of Large Language Models in Clinical Practice (ELCAP) опубликован в открытом доступе в журнале Annals of Oncology.

Работа над ELCAP велась с ноября 2024 по февраль 2025 года международной рабочей группой ESMO Real World Data & Digital Health Task Force, в которую вошли 20 экспертов из разных областей — онкологии, искусственного интеллекта, биостатистики, цифрового здравоохранения, этики, а также представители пациентов.

Панель выделила три категории применения больших языковых моделей в онкологии.

Тип 1

Приложения для пациентов

Тип 2

Инструменты для медицинских специалистов

Тип 3

Инструменты для администрирования системы здравоохранения

Авторы подчёркивают, что ИИ способен снять значительную часть рутинной нагрузки, снизить давление на врача и тем самым укрепить систему здравоохранения, позволив алгоритмам взять на себя часть задач.

«ELCAP признаёт, что ценность языковых моделей зависит от того, кто и как ими пользуется», — отметила соавтор руководства Мириам Купман (Miriam Koopman, MD, PhD), председатель рабочей группы ESMO Real World Data & Digital Health Task Force и профессор медицинской онкологии в Университетском медицинском центре Утрехта (Нидерланды).

Рекомендации не имеют степеней доказательности — они основаны на экспертном консенсусе, принятом рабочей группой. По сути, этот документ представляет собой дорожную карту того, как работать с ИИ, чтобы он действительно стал эффективным помощником врача.

Рекомендации по применению ИИ пациентами

Пациентам рекомендуется чётко формулировать вопросы и обязательно проверять все советы, сгенерированные ИИ, в надёжных источниках или у лечащего врача.

LLM не могут использоваться вместо очных консультаций при острых состояниях

«Хотя ИИ может снизить информационную нагрузку, он не должен заменять взаимодействие врача и пациента или увеличивать нагрузку на специалистов из-за неэффективных первичных процессов. В будущем планируется уточнение этих принципов, например формальное закрепление того, что ИИ-системы типа 1 (пациентские) должны встраиваться в клинические рабочие процессы под контролем человека, а не действовать автономно», — отмечено в документе.

Рекомендации по применению ИИ врачами

Медицинским специалистам следует проверять всю информацию, предлагаемую ИИ, на соответствие существующим клиническим рекомендациям, рецензированным исследованиям или экспертным консенсусам, сохраняя человеческий контроль при принятии клинических решений.

Специалисты не должны перекладывать ответственность за общение с пациентами, составление планов лечения или постановку диагнозов на ИИ и не могут предполагать, что его ответы всегда корректны или беспристрастны.

ИИ не должен заменять живое общение между врачами и пациентами — человеческое взаимодействие должно оставаться центральным элементом онкологической помощи.

Также подчёркивается необходимость строгой защиты данных: нельзя загружать конфиденциальную информацию пациентов на внешние платформы без надёжной защиты и одобрения учреждения и самого пациента.

Рекомендации по использованию ИИ в административной работе клиник

Учреждения должны обеспечивать, чтобы клиническая документация была точной и полной, так как качество данных напрямую влияет на результаты, генерируемые LLM.

Перед внедрением необходимо проверить методы извлечения данных в стандартных и новых клинических сценариях. Требуется постоянный мониторинг работы ИИ, чтобы выявлять ошибки, смещения или деградацию моделей со временем.

Персонал должен быть обучен критически оценивать результаты ИИ и замечать неожиданные или сомнительные выводы.

Гайдлайны предостерегают от замены человеческой проверки полностью автоматическими решениями в критически важных задачах (например, диагностике) и требуют повторной валидации инструментов ИИ при изменении рабочих процессов или источников данных.

Наконец, учреждения должны оценивать реальное влияние этих систем на клинические процессы до их внедрения, чтобы избежать непреднамеренных сбоев или рисков для безопасности пациентов.

12.11.2025