Обновлено:
100 ИИ-агентов пытались взломать автора: урок для больниц
Сотня ИИ-агентов пыталась взломать аккаунты автора, пять попыток удались. Что это значит для паролей, старых систем и писем сотрудникам больницы.
Когда говорят о кибербезопасности больницы, обычно представляют сложные атаки на серверы. Но недавний эксперимент показывает, что даже простая задача, поставленная ИИ-агентам, может дойти до реального результата — и затрагивает самые обычные вещи: пароли, забытые тестовые системы и письма сотрудникам. Ниже — краткий разбор для администраторов и старших медсестёр, которые отвечают за порядок в рабочих системах.
Что описал автор эксперимента
Хабр опубликовал перевод статьи Shrivu Shankar, оригинал которой вышел в его блоге под названием «I asked 100 agents to hack me». Автор около пяти часов в выходные дал примерно сотне ИИ-агентов, работавших на его собственной инфраструктуре, задачу найти и взломать любой из его онлайн-аккаунтов. Использовались три языковые модели с открытыми весами, у которых заранее убрали механизм отказов. Запрос был намеренно простым — как у неопытного злоумышленника. По оценке автора, пять часов обошлись примерно в 210 долларов.
Результат, по его описанию, такой:
- Три аккаунта взломали через уязвимости в программах — это были старые личные проекты и демонстрации с хакатонов.
- Два аккаунта взломали подбором паролей: агенты составили больше 20 вариантов из утёкших данных и открытых сведений об авторе. В одном случае подошёл слегка изменённый старый пароль.
- 16 попыток обмана людей (социальная инженерия): сообщения, приглашения на встречи, комментарии со ссылкой на поддельную страницу.
- До важнейших аккаунтов — почты, менеджера паролей, банковских — агенты не добрались.
Сам автор отмечает: пока такие агенты заметно уступают опытным специалистам, но порог входа снижается, и он ожидает, что стоимость одного успешного взлома упадёт.
Что из этого касается больницы
Важно оговорить: эксперимент проводился на личных аккаунтах одного человека, а не на медицинской организации. Выводы для больницы — это наши рассуждения, а не результат исследования.
- Старые и забытые системы. Взломаны были именно давно не используемые проекты. В больнице их аналог — устаревшие тестовые стенды, старые учётные записи уволенных сотрудников, редко обновляемые программы. Полезно составить список всех систем и закрыть те, которыми никто не пользуется.
- Пароли. Слегка изменённый старый пароль оказался слабым местом. Повторное использование одного пароля в разных сервисах остаётся риском, а смена только одной цифры его не устраняет.
- Письма и сообщения сотрудникам. Попытки обмана были персональными и правдоподобными. Регистратура, посты медсестёр и бухгалтерия получают много писем со ссылками, поэтому им нужны простые правила: что делать, если сообщение просит срочно перейти по ссылке или назвать пароль.
Вопросы, которые стоит задать
- Есть ли у нас актуальный перечень всех систем и учётных записей и кто отвечает за его обновление?
- Блокируется ли доступ уволенных и перешедших в другое отделение сотрудников в тот же день?
- Знают ли сотрудники, куда сообщить о подозрительном письме и как это делается?
Коротко
- Автор поручил около сотни ИИ-агентов взломать его собственные аккаунты; за пять часов удалось взломать пять, но самые важные аккаунты остались нетронутыми.
- Успех принесли старые забытые проекты и подбор слегка изменённых прежних паролей, а также попытки обмана людей.
- Для больницы это повод проверить перечень систем, учётные записи и правила обращения с подозрительными сообщениями; это наш вывод, а не результат исследования больниц.
Источники
Материалы сайта носят общий информационный, исследовательский и образовательный характер и не заменяют медицинский диагноз или консультацию по конкретному пациенту.
Эта статья входит в серию
Данные и безопасность11 / 13