AI 알림이 많아질수록 무뎌진다 — '경보 피로'와 병원이 확인할 점

병원에 AI 도구가 늘면서 함께 늘어나는 것이 하나 있습니다. 화면과 단말기에 뜨는 ‘알림’입니다. 패혈증 위험, 낙상 위험, 약물 상호작용, 부정맥 신호까지, 많은 AI·전산 도구가 결국 알림 한 줄로 현장에 도착합니다. 그런데 알림이 많아지면 오히려 사람이 무뎌진다는 것이 오래전부터 환자안전 연구에서 반복 확인된 사실입니다. 이를 경보 피로(alarm fatigue) 또는 알림 피로(alert fatigue)라고 부릅니다. AI 도입을 검토하는 행정과, 알림에 실제로 대응하는 간호 현장 모두가 알아둘 개념입니다.

경보 피로란 무엇인가

미국 의료안전 연구기관 AHRQ의 환자안전 보고서는 경보 피로를 “임상 인력이 수많은 기기 알림에 계속 노출되면서 알림에 둔감해지고, 그 결과 중요한 알림을 놓치거나 대응이 늦어지는 현상”으로 정의합니다. 핵심 원인은 ‘헛경보’가 너무 많다는 데 있습니다. 같은 보고서는 여러 연구에서 거짓 알림(false alarm, 실제 사건이 없는데 울린 알림)의 비율이 72%에서 99%에 이른다고 정리합니다. 열 번 울리면 일고여덟 번, 많게는 아홉 번 넘게가 실제로는 조치가 필요 없는 알림이라는 뜻입니다. 이런 상황이 반복되면 사람은 자연히 알림을 ‘또 헛것’으로 여기게 됩니다.

무뎌짐이 왜 안전 문제가 되나

문제는 그 많은 헛경보 사이에 진짜 위험이 섞여 있다는 점입니다. 위 AHRQ 자료에 따르면, 미국 식품의약국(FDA)의 의료기기 이상사례 보고 시스템에는 2005년부터 2008년까지 감시장치 알림과 관련된 환자 사망 566건이 접수됐습니다. 이 문제가 커지자 미국의 의료기관 인증기구인 조인트커미션(The Joint Commission)은 2013년 의료기기 경보 안전에 관한 경고를 발표하고, 이듬해 ‘경보 관리’를 국가환자안전목표로 지정했습니다.

같은 문제는 처방·진단을 돕는 소프트웨어에서도 나타납니다. AHRQ의 알림 피로 해설 자료는 임상의가 전산 처방 시스템의 경고 대부분을, 심지어 ‘중요’ 표시가 붙은 경고까지도 그냥 넘긴다고 지적합니다. 이 자료가 인용한 한 중환자실 연구에서는 생체감시장치가 환자 한 명당 하루 187건의 경고를 냈습니다. 이 정도면 하나하나를 진지하게 판단하기가 물리적으로 어렵습니다.

병원이 AI 알림 도구를 볼 때 확인할 점

경보 피로 연구가 주는 교훈은 분명합니다. 알림은 ‘많을수록 안전한’ 것이 아니라, 오히려 너무 많으면 안전을 해칩니다. AI 도입 제안서를 검토할 때 성능 숫자만큼이나 ‘이 도구가 알림을 얼마나, 어떻게 내보내는가’를 물어야 하는 이유입니다. 위 AHRQ 자료가 정리한 해법의 방향은 세 가지입니다. 첫째, 임상적으로 의미 없는 알림을 줄여 알림의 정확도를 높입니다. 둘째, 알림을 심각도별로 나눠 정말 급한 것만 강하게 띄웁니다. 셋째, 같은 알림이라도 받는 사람(예: 처방의와 약사)에 맞춰 다르게 보냅니다.

행정·구매 검토에서는 이렇게 물을 수 있습니다. “하루 예상 알림 건수와 헛경보 비율은 얼마인가”, “알림을 심각도별로 조정할 수 있는가”, “우리 병동 상황에 맞게 기준을 조절할 수 있는가”. 이는 도입 체크리스트에서 확인하는 항목들과 이어집니다. 양성 알림 중 진짜 위험의 비율(정밀도)이 낮으면 왜 알림 대부분이 헛경보가 되는지는 용어 사전에서 더 볼 수 있습니다.

핵심 요약

• 경보 피로·알림 피로는 알림이 너무 많아 사람이 둔감해지고 중요한 알림까지 놓치는 현상으로, 환자안전 연구에서 오래 확인돼 온 문제입니다.
• 거짓 알림 비율이 72~99%에 이른다는 연구가 있을 만큼 헛경보가 많고, 그 사이에 섞인 진짜 위험을 놓치면 사고로 이어질 수 있습니다(FDA 보고 감시장치 관련 사망 566건, 2005~2008년).
• 조인트커미션은 2013년 경보 안전 경고에 이어 2014년 ‘경보 관리’를 국가환자안전목표로 지정했습니다.
• AI 도구 상당수가 ‘알림’으로 작동하므로, 성능뿐 아니라 알림 빈도·헛경보 비율·심각도 구분·역할별 맞춤 가능 여부를 함께 확인해야 합니다.