Лаборатория ИИ для больниц HOSPITAL AI LAB — практическая информация о медицинском ИИ

Обновлено:

Теневой ИИ: чем опасны публичные нейросети в больнице

Опрос директоров по ИБ показал: главный риск ИИ — то, как им пользуются сотрудники. Разбираем, что это значит для администрации больницы.

Сотрудник копирует в публичный чат-бот текст письма, таблицу или фрагмент документа и просит «сделать покороче». Это занимает минуту и выглядит безобидно. Но если в тексте были данные пациента, они уже ушли за пределы больницы, и вернуть их нельзя. Такое использование искусственного интеллекта (ИИ) без ведома ИТ-службы называют «теневым ИИ». На этой неделе CNews опубликовал материал о том, что именно этот риск больше всего беспокоит руководителей служб информационной безопасности (ИБ). Разберём, что в нём сказано и что из этого полезно администрации больницы.

Что показал опрос

По данным CNews (12 октября 2026 года), 85% руководителей служб ИБ в Казахстане считают главным вопросом, связанным с ИИ, его безопасное использование внутри компании. Их больше тревожит то, как нейросетями пользуются собственные сотрудники, чем защита самих моделей от внешних атак. Кроме того, 76% опрошенных ожидают, что злоумышленники начнут применять новые, более эффективные способы кибератак (CNews).

Главный риск в материале описан так: сотрудники пользуются публичными сервисами без согласования с ИТ-службой и подразделением ИБ. В такие сервисы могут попадать корпоративные документы, персональные данные и коммерческая тайна. При этом компания часто не знает, какие нейросети используются и сохраняет ли поставщик введённые данные.

Важная оговорка. В публикации не названы ни организация, проводившая опрос, ни число участников. Опрос показывает обеспокоенность руководителей, но не число реальных утечек. Речь идёт о бизнесе в целом, а не о медицинских организациях. Поэтому цифры стоит воспринимать как сигнал о настроениях специалистов, а не как измерение риска.

Почему полный запрет не решает задачу

В материале приведено мнение Виктора Гулевича, руководителя направления информационной безопасности управления международного бизнеса ГК Softline. По его словам, полный запрет публичных нейросетей не даёт организации контроля над реальным поведением сотрудников. Вместо этого он предлагает три вещи: разрешённые инструменты, понятные правила работы с данными и технический мониторинг.

Для больницы эта логика понятна и без технических деталей. Если удобного разрешённого инструмента нет, сотрудник, которому нужно срочно сократить текст или составить письмо, воспользуется тем, что есть в телефоне. Запрет на бумаге при этом останется, а данные всё равно уйдут.

Что можно перенести в больницу

В публикации перечислены рекомендации для компаний. Ниже мы переложили их на язык больничной администрации. Это не требования закона и не официальная методика, а список вопросов для обсуждения с ИТ-службой и специалистом по защите информации.

  • Список разрешённых инструментов. В материале это названо реестром разрешённых ИИ-моделей. Для больницы достаточно начать с одной страницы: какими сервисами пользоваться можно, для каких задач и кто за это отвечает.
  • Правила передачи данных заранее. Авторы советуют не ждать подтверждённых инцидентов. Сотрудник должен знать до того, как откроет чат-бот: сведения о пациентах в публичные сервисы не вводятся.
  • Закрытые модели для конфиденциальных данных. Если задача требует работы с медицинскими сведениями, её стоит решать только в инструменте, который организация контролирует сама.
  • Журнал запросов. Запись того, что и когда отправлялось в ИИ-сервис, помогает понять, где он реально используется.
  • Контроль передачи чувствительной информации. В материале упомянуты системы предотвращения утечек (DLP). Есть ли такая система и видит ли она обращения к ИИ-сервисам — вопрос к ИТ-службе.

Среди ориентиров для разработки правил в публикации названы стандарты ISO/IEC 42001, NIST AI RMF и OWASP Top 10 for LLM Apps. Администрации не обязательно читать их самой, но полезно спросить у поставщика или у своей ИТ-службы, на что они опираются.

Что это значит для администрации и медсестёр

Решение о том, какие инструменты разрешить и купить, принимает администрация. Поэтому вопрос «чем сотрудники пользуются уже сейчас» лучше задать до закупки, а не после. Простой анонимный опрос по отделениям может дать более честную картину, чем проверка.

Для старших медсестёр и постовых сотрудников главное — короткое и ясное правило. Формулировка «не вводите в публичный чат-бот ничего, по чему можно узнать пациента» запоминается лучше многостраничной инструкции. И сотрудник должен знать, к кому обратиться, если данные уже были отправлены по ошибке: страх наказания заставляет молчать, а молчание мешает исправить ситуацию.

Главное

  • По данным CNews, 85% руководителей служб ИБ в Казахстане считают главным вопросом безопасное использование ИИ внутри организации.
  • Основной риск — «теневой ИИ»: публичные сервисы, которыми сотрудники пользуются без согласования.
  • Опрос отражает обеспокоенность, а не число утечек; его организатор и выборка в публикации не названы.
  • Эксперт Softline считает, что полный запрет не работает без разрешённых инструментов, понятных правил и мониторинга.
  • Больнице стоит начать со списка разрешённых сервисов и одного ясного правила о данных пациентов.

Материалы этого сайта носят общий информационный и образовательный характер и не заменяют медицинскую консультацию по конкретному пациенту.

Эта статья входит в серию

Все серии

← Блог