Лаборатория ИИ для больниц HOSPITAL AI LAB — практическая информация о медицинском ИИ

Обновлено:

100 ИИ-агентов пытались взломать автора: урок для больниц

Сотня ИИ-агентов пыталась взломать аккаунты автора, пять попыток удались. Что это значит для паролей, старых систем и писем сотрудникам больницы.

Когда говорят о кибербезопасности больницы, обычно представляют сложные атаки на серверы. Но недавний эксперимент показывает, что даже простая задача, поставленная ИИ-агентам, может дойти до реального результата — и затрагивает самые обычные вещи: пароли, забытые тестовые системы и письма сотрудникам. Ниже — краткий разбор для администраторов и старших медсестёр, которые отвечают за порядок в рабочих системах.

Что описал автор эксперимента

Хабр опубликовал перевод статьи Shrivu Shankar, оригинал которой вышел в его блоге под названием «I asked 100 agents to hack me». Автор около пяти часов в выходные дал примерно сотне ИИ-агентов, работавших на его собственной инфраструктуре, задачу найти и взломать любой из его онлайн-аккаунтов. Использовались три языковые модели с открытыми весами, у которых заранее убрали механизм отказов. Запрос был намеренно простым — как у неопытного злоумышленника. По оценке автора, пять часов обошлись примерно в 210 долларов.

Результат, по его описанию, такой:

  • Три аккаунта взломали через уязвимости в программах — это были старые личные проекты и демонстрации с хакатонов.
  • Два аккаунта взломали подбором паролей: агенты составили больше 20 вариантов из утёкших данных и открытых сведений об авторе. В одном случае подошёл слегка изменённый старый пароль.
  • 16 попыток обмана людей (социальная инженерия): сообщения, приглашения на встречи, комментарии со ссылкой на поддельную страницу.
  • До важнейших аккаунтов — почты, менеджера паролей, банковских — агенты не добрались.

Сам автор отмечает: пока такие агенты заметно уступают опытным специалистам, но порог входа снижается, и он ожидает, что стоимость одного успешного взлома упадёт.

Что из этого касается больницы

Важно оговорить: эксперимент проводился на личных аккаунтах одного человека, а не на медицинской организации. Выводы для больницы — это наши рассуждения, а не результат исследования.

  • Старые и забытые системы. Взломаны были именно давно не используемые проекты. В больнице их аналог — устаревшие тестовые стенды, старые учётные записи уволенных сотрудников, редко обновляемые программы. Полезно составить список всех систем и закрыть те, которыми никто не пользуется.
  • Пароли. Слегка изменённый старый пароль оказался слабым местом. Повторное использование одного пароля в разных сервисах остаётся риском, а смена только одной цифры его не устраняет.
  • Письма и сообщения сотрудникам. Попытки обмана были персональными и правдоподобными. Регистратура, посты медсестёр и бухгалтерия получают много писем со ссылками, поэтому им нужны простые правила: что делать, если сообщение просит срочно перейти по ссылке или назвать пароль.

Вопросы, которые стоит задать

  • Есть ли у нас актуальный перечень всех систем и учётных записей и кто отвечает за его обновление?
  • Блокируется ли доступ уволенных и перешедших в другое отделение сотрудников в тот же день?
  • Знают ли сотрудники, куда сообщить о подозрительном письме и как это делается?

Коротко

  • Автор поручил около сотни ИИ-агентов взломать его собственные аккаунты; за пять часов удалось взломать пять, но самые важные аккаунты остались нетронутыми.
  • Успех принесли старые забытые проекты и подбор слегка изменённых прежних паролей, а также попытки обмана людей.
  • Для больницы это повод проверить перечень систем, учётные записи и правила обращения с подозрительными сообщениями; это наш вывод, а не результат исследования больниц.

Источники


Материалы сайта носят общий информационный, исследовательский и образовательный характер и не заменяют медицинский диагноз или консультацию по конкретному пациенту.

Эта статья входит в серию

Все серии

← Блог