개발사 성적표와 우리 병원 성적표는 다르다 — 패혈증 예측 AI 검증 연구가 남긴 교훈
미국 수백 개 병원이 쓰던 패혈증 예측 AI를 한 대학병원이 자기 환자 데이터로 다시 검증해 보니, 개발사가 밝힌 성능에 크게 못 미쳤습니다. 도입을 검토하는 행정과 알림을 받아내는 간호 현장이 이 연구에서 챙길 지점을 정리합니다.
AI 업체 제안서에는 늘 성능 숫자가 붙어 있습니다. “정확도 90%”, “질병 예측 성능 0.8 이상” 같은 것들입니다. 행정 입장에서 이 숫자를 어디까지 믿고 예산과 결재를 진행해야 할까요. 이 질문에 관해 가장 자주 인용되는 실제 사례가 있습니다. 2021년 미국의사협회 내과학회지(JAMA Internal Medicine)에 실린, 패혈증 예측 AI 검증 연구입니다.
수백 개 병원이 쓰던 AI의 실제 성적표
패혈증은 감염에 대한 몸의 반응이 잘못되어 장기가 손상되는 응급 상황으로, 빨리 발견할수록 살릴 가능성이 커집니다. 그래서 미국에서 널리 쓰이는 전자의무기록 회사인 에픽(Epic)은 입원 환자의 기록을 실시간으로 살펴 패혈증 위험을 점수로 알려주는 예측 모델을 만들었고, 수백 개 병원이 이를 도입했습니다.
미시간대학교 병원 연구팀은 이 모델을 자기 병원 데이터로 독립 검증했습니다. 약 10개월간 입원 환자 27,697명, 입원 38,455건을 분석한 결과, 모델의 구분 능력은 0.63이었습니다. 개발사 내부 자료가 밝힌 0.76~0.83에 크게 못 미치는 수치입니다.
여기서 ‘구분 능력’(AUC)은 위험한 환자와 아닌 환자를 얼마나 잘 가려내는지를 0.5에서 1 사이 숫자로 나타낸 것입니다. 1이면 완벽하게 가려내는 것이고, 0.5면 동전 던지기와 같다는 뜻입니다. 0.63은 동전 던지기보다는 낫지만, 병원이 기대하고 도입한 수준과는 거리가 멀었습니다.
놓친 환자 3명 중 2명, 그리고 계속 울리는 알림
숫자를 현장의 언어로 바꾸면 문제가 더 뚜렷해집니다. 이 병원에서 실제로 패혈증이 생긴 환자 2,552명 가운데 모델이 미리 알림을 준 경우는 3명 중 1명 꼴(33%)이었습니다. 3명 중 2명(1,709명, 67%)은 놓쳤습니다.
반대로 알림은 아주 많이 울렸습니다. 전체 입원의 18%에서 위험 점수가 알림 기준을 넘었는데, 알림이 울린 사례 100건 중 실제 패혈증은 12건 정도였습니다. 나머지 88건은 간호사와 의료진이 확인하고 지나가야 하는 알림이었다는 뜻입니다. 연구팀은 이를 두고 알림 피로(알림이 너무 잦아 정작 중요한 알림에 무뎌지는 현상)의 큰 부담을 만들었다고 지적했습니다. 알림 피로가 왜 환자 안전 문제가 되는지는 별도 글에서 자세히 다뤘습니다. 알림 대응은 고스란히 간호 현장의 업무이기 때문에, 이 숫자는 행정만이 아니라 간호 부서가 도입 논의에 참여해야 하는 이유이기도 합니다.
왜 이런 차이가 났고, 그 후 어떻게 됐나
개발사의 성능 수치는 개발사가 정한 환경과 데이터에서 측정된 것입니다. 병원마다 환자 구성, 진료 관행, 기록 방식이 다르기 때문에 같은 모델도 병원이 바뀌면 성능이 달라질 수 있습니다. 이 연구가 남긴 교훈이 바로 그것입니다 — 다른 곳의 성적표가 우리 병원의 성적표는 아니라는 것.
후속 이야기도 있습니다. 개발사는 2022년 이 모델을 사실상 새로 만들었고, 2026년 발표된 4개 기관 공동 검증 연구에서는 각 병원이 자기 데이터로 모델을 조정해 쓴 결과 구분 능력이 0.820.92로 크게 개선된 것으로 나타났습니다. 다만 개선된 뒤에도 알림 100건 중 실제 패혈증은 1326건 수준이어서, 알림 부담 문제까지 사라진 것은 아닙니다. 독립 검증이 공개되자 개발사가 모델을 고치고, 고친 모델을 여러 병원이 다시 검증하는 흐름이 만들어진 셈입니다. AI는 한 번 사서 끝나는 장비가 아니라, 계속 검증하고 조정해야 하는 도구라는 점을 보여줍니다.
우리 병원 실무에서 챙길 것
이 연구를 우리 상황에 대입하면 도입 검토 때 물어볼 질문이 분명해집니다. 제안서의 성능 숫자가 어느 병원, 어느 환자군에서 측정된 것인지 확인하고, 우리 병원 데이터로 검증한 결과(또는 시범 운영 계획)를 요구하는 것입니다. 알림형 AI라면 “하루에 알림이 몇 건이나 울리는지, 그중 실제 상황은 얼마나 되는지”를 간호 부서와 함께 따져보아야 합니다. 도입 후에도 성능을 주기적으로 다시 확인할 방법을 계약 단계에서 정해두면 좋습니다. 이런 점검 항목은 의료 AI 도입 체크리스트에 정리해 두었습니다.
핵심 요약
- 미국 수백 개 병원이 쓰던 패혈증 예측 AI를 미시간대 병원이 독립 검증한 결과, 구분 능력이 개발사 발표(0.76~0.83)에 못 미치는 0.63이었습니다(JAMA Internal Medicine, 2021).
- 실제 패혈증 환자의 67%를 놓치면서도 전체 입원의 18%에 알림을 울려, 간호 현장에 알림 피로 부담을 얹었습니다.
- 개발사는 2022년 모델을 개편했고, 2026년 다기관 검증에서는 각 병원 데이터로 조정한 뒤 0.82~0.92로 개선됐습니다(알림 부담은 여전히 과제). 공개 검증이 제품을 바꾼 사례입니다.
- 실무 교훈: 제안서의 성능 숫자는 “그 병원의 성적표”입니다. 우리 환자 데이터 검증, 알림 건수 확인, 도입 후 재검증 계획을 요구하세요.