Лаборатория ИИ для больниц HOSPITAL AI LAB — практическая информация о медицинском ИИ

Обновлено:

ИИ советует один бренд препарата: что важно больнице

Nature Health: языковые модели почти всегда называют один и тот же продукт из аналогов. Что это значит для закупок и персонала больницы.

Всё больше людей — и пациентов, и сотрудников больниц — задают вопросы о лекарствах чат-ботам на основе искусственного интеллекта (ИИ). Обычно мы проверяем, правильно ли ИИ назвал действующее вещество. Но есть и другой вопрос: какой именно торговый продукт он предлагает, если одно и то же вещество выпускают несколько компаний? Свежее исследование показывает, что здесь ИИ ведёт себя далеко не нейтрально. Для администрации, отдела закупок и аптеки больницы это повод присмотреться.

Что выяснили исследователи

В октябре 2026 года в журнале Nature Health вышла статья под названием «Large language models show product name convergence in drug recommendations». По данным Crossref, авторы проверили пять больших языковых моделей (так называют программы вроде ChatGPT, которые пишут текст). Моделям дали 177 120 вымышленных клинических ситуаций по 123 парам «заболевание — действующее вещество» и просили назвать одобренный в США (FDA) продукт с этим веществом.

Главный результат: самый часто рекомендуемый продукт в среднем получал 97,5% первых рекомендаций. То есть из нескольких аналогов модель почти всегда называла один и тот же. Разные модели при этом почти всегда сходились во мнении. Выбранные продукты часто отличались от того, что реально назначают врачи, и были дороже по расчётной закупочной цене. Чаще всего модели выбирали оригинальные препараты и продукты, которые заметнее в интернете.

Авторы попробовали менять формулировку запроса. Это сдвигало выбор в нужную сторону, но модели всё равно держались за узкий набор продуктов. Вывод авторов: перед широким применением такие системы нужно тщательно проверять и принимать меры против этого перекоса.

Похожая картина и на русском языке

Vademecum 28 октября рассказал о собственном исследовании агентства «Ашманов и партнёры». Специалисты изучили 350 ответов семи ИИ-сервисов, включая GigaChat и Алису AI, по пяти категориям препаратов (боль и жар, ЖКТ, аллергия, простуда и ОРВИ, венотоники). Хотя бы один бренд из пятёрки лидеров категории встретился в 75% ответов. По данным издания, многое зависело от формулировки: на вопрос с выбором конкретного продукта бренды появлялись часто, а на общий вопрос о том, что пить при простуде, — не появились ни разу. Сами авторы оговаривают, что результаты относятся к их выборке запросов.

Что это значит для больницы

Ниже — наши рассуждения на основе этих данных, а не выводы самих исследований.

  • Закупки и формуляр. Если сотрудники готовят обоснования или сравнения с помощью ИИ, модель может незаметно подталкивать к одному, нередко более дорогому продукту. Решения о закупке должны опираться на утверждённые справочники и данные о ценах, а не на ответ чат-бота.
  • Памятки для пациентов. При подготовке материалов с помощью ИИ проверяйте, не появились ли в тексте торговые названия там, где достаточно названия вещества.
  • Формулировка вопроса. Исследования показывают, что от слов запроса зависит, появится ли бренд. Полезно договориться внутри отдела, как формулировать такие запросы, — но это не заменяет проверку.
  • Оценка ИИ-продуктов. При выборе ИИ-системы, которая касается лекарств, стоит спросить поставщика, проверялась ли она на коммерческую нейтральность.

Конкретные назначения остаются решением врача и проверяются по официальным источникам.

Коротко

  • В исследовании Nature Health пять языковых моделей в среднем в 97,5% случаев первым называли один и тот же продукт из аналогов; выбор часто был дороже реальной практики.
  • Изменение запроса помогало лишь частично.
  • Для больницы это повод не опираться на ответы ИИ при закупках и проверять торговые названия в материалах.

Источники


Материалы сайта носят общий информационный, исследовательский и образовательный характер и не заменяют медицинский диагноз или консультацию по конкретному пациенту.

← Блог