Обновлено:
Когда врач и ИИ расходятся: что должна записывать система
Авторы комментария в npj Digital Medicine предлагают записывать не только итог, но и расхождение врача с ИИ. Какие вопросы задать поставщику.
Представьте, что система на основе искусственного интеллекта (ИИ) подсказывает оценку риска, а врач или медсестра с ней не согласны. Или, наоборот, соглашаются, не вникая. В записи остаётся только итог: подсказка принята или отклонена. Почему так решили и что знала каждая сторона, нигде не сохраняется. 13 октября 2026 года в журнале npj Digital Medicine вышел короткий комментарий американских авторов, которые предлагают вести отдельную запись самого «расхождения» (полный текст). Разберём идею и то, что из неё может взять больница.
Что предлагают авторы
Сначала оговорка: это комментарий, то есть мнение авторов. Новых данных в нём нет, идея опирается на ссылки на другие работы.
Авторы говорят о «расхождении», а не о «несогласии». У врача и у системы разная информация: врач видит пациента, система опирается на электронную карту и опыт по множеству прежних случаев. Выводы расходятся по одной из трёх причин: у сторон разные сведения, они по-разному читают одни и те же данные или одна из сторон ошиблась. Если причина в разных сведениях, мнение третьего врача проблему не снимает. Поэтому запись должна показывать, что рабочий процесс и экран позволили увидеть и сделать, что внесла каждая сторона и как врач обращался с логикой ИИ, а не только с его итоговым выводом. Новой отчётности для врачей авторы не предлагают: сбор таких сведений, по их мнению, можно автоматизировать.
Порядок действий важнее модели
Два способа включить ИИ в работу на одном и том же этапе (подсказка, встроенная в экран врача, и ИИ, работающий параллельно) получили по шкале авторов 4 и 15 баллов из 15. Разница, как пишут авторы, лишь в том, записывается ли самостоятельное суждение врача до того, как он увидел ответ ИИ. Баллы выставили сами авторы, данных для их проверки в комментарии нет.
Для сестринской службы это особенно понятно: оповещение о риске ухудшения состояния может сработать до того, как оценка у постели записана, а может после. Если система сработала первой и самостоятельная оценка не записана, расхождения как события не возникает, даже когда модель точна.
Два примера из исследований
Рекомендации принимают неравномерно. В ретроспективной оценке языковой модели-подсказчика в электронной карте 16 клиник первичной помощи в Кении группа врачей-экспертов проверила 1 469 записей. Потенциально вредные рекомендации нашлись в 115 случаях (7,8%), и 67 из них (58%) персонал принял полностью или частично. А из всех случаев, когда модель дала полезный совет, его учли лишь примерно в 22%. Неблагоприятных исходов для пациентов последующая проверка не выявила. Это другая страна и другая система помощи, переносить цифры на российские больницы нельзя (Agweyu и соавт., Nature Health, 2026).
Сигнал и его основание. Система раннего предупреждения CONCERN оценивает риск ухудшения по закономерностям в записях медсестёр о наблюдении за пациентом. В кластерном рандомизированном исследовании участвовали 74 отделения двух систем здравоохранения и 60 893 госпитализации. Там, где команды получали сигнал, мгновенный риск смерти в стационаре был ниже на 35,6% (скорректированное отношение мгновенных рисков, HR, 0,64; 95% доверительный интервал 0,53–0,78), срок пребывания короче на 11,2%, а мгновенный риск незапланированного перевода в реанимацию выше на 24,9%. О нежелательных событиях не сообщалось (Rossetti и соавт., Nature Medicine, 2025). Авторы комментария связывают результат с тем, что команде показывали и сигнал, и его основание. Это их трактовка, в аннотации исследования такого вывода нет.
Что спросить у поставщика
Ниже не требование закона и не официальная методика. Первые три вопроса взяты из «структурной оси» комментария, четвёртый добавлен нами. Их можно включить в проверку перед внедрением, например в пятиэтапную систему, о которой мы писали раньше.
- Просит ли система сначала записать собственную оценку врача или медсестры и только потом показывает ответ ИИ? Без самостоятельной оценки сравнивать нечего.
- Что видит пользователь, когда его оценка и вывод ИИ различаются?
- Можно ли записать несогласие, или предупреждение можно только закрыть?
- Где хранится запись об этом эпизоде, кто её видит и кто разбирает?
Для пилота стоит заранее решить то же самое внутри больницы: где фиксируется причина отклонённой подсказки и кто её периодически просматривает. Правовую часть комментария (ответственность, суды) нельзя автоматически переносить на российское право. Сами авторы признают, что вопрос о том, как суды будут читать такие записи, остаётся нерешённым.
Главное
- Комментарий предлагает записывать расхождение между врачом и ИИ, а не только итоговое решение. Это мнение авторов, данных в нём нет.
- Многое зависит от порядка: записана ли самостоятельная оценка врача или медсестры до ответа ИИ.
- В кенийской оценке персонал принял полностью или частично 58% потенциально вредных рекомендаций. В испытании CONCERN сигнал на основе записей медсестёр сопровождался меньшей смертностью, но и более частыми незапланированными переводами в реанимацию.
- Поставщику можно задать четыре вопроса о записи расхождений; правовые выводы статьи для России нужно проверять отдельно.
Источники
- Doo F. и соавт. Realizing the value of the divergence event in clinical human-AI interaction. npj Digital Medicine (13.10.2026). DOI: 10.1038/s41746-026-03394-8
- Agweyu A. и соавт. Safety of a large language model-based clinical decision support system in African primary healthcare. Nature Health, 2026, 1:607–618
- Rossetti S.C. и соавт. Real-time surveillance system for patient deterioration: a pragmatic cluster-randomized controlled trial. Nature Medicine, 2025
- Vademecum, 15.10.2026: Учёные предложили фиксировать расхождения между врачом и ИИ
Материалы этого сайта носят общий информационный и образовательный характер и не заменяют медицинскую консультацию по конкретному пациенту.