실패 0건이라는 AI 성능 수치, 안전을 보장할까요
AI 의료기기 제안서에 흔한 '시험 실패 0건' 문구가 착시를 줄 수 있는 이유를 통계학의 3의 법칙으로 풀어보고, 식약처의 2026년 6월 LLM 의료기기 허가 가이드라인이 이 위험을 어떻게 다루는지 정리합니다.
칼럼
의료 AI 규제·개인정보·저작권 등 병원 현장에서 마주치는 주제를 다룹니다.
AI 의료기기 허가는 쉬워지는데, 검증 부담은 병원으로
식약처가 임상시험 자료를 성능 검증으로 대체하는 등 AI 의료기기 허가를 간소화하면서, 도입 후 성능·안전성 확인 책임이 병원 쪽으로 옮겨간다는 우려를 정리합니다.
AI 제안서의 '안전합니다', 무엇으로 뒷받침되나요
의료 AI가 안전하다는 문구를 제안서에서 만났을 때, 그 주장이 어떤 근거에 기대는지 묻는 방법을 최근 논문 두 편과 함께 정리합니다.
미국 FDA, 의료 AI에 모델 공개 의무화 착수
미국 FDA가 AI 의료기기 목록에 LLM·파운데이션모델 사용 여부를 표기하도록 추진합니다. 병원이 AI 제안서를 검토할 때 새로 물어야 할 질문을 정리했습니다.
병원마다 등장하는 'AI 비서', 챗봇과 무엇이 다른가
용인세브란스와 고려대 구로병원이 잇따라 병원용 'AI 에이전트'를 선보였습니다. 질문에 답만 하는 챗봇과 무엇이 다른지, 행정·간호 실무자가 도입·이용 전 확인할 점을 정리했습니다.
AI 의료기기가 재심사 없이 바뀔 수 있습니다 — 변경관리 계획서 제도
식약처가 2026년 6월 AI 디지털의료기기의 '변경관리 계획서' 허가·심사 가이드라인을 냈습니다. 허가받은 제품이 추가 심사 없이 업데이트될 수 있다는 뜻인데, 병원 행정·간호 실무에서 무엇을 확인해야 하는지 정리합니다.
세계 최초 AI 기본법, 병원 실무자가 알아야 할 부분
2026년 1월 22일 시행된 인공지능기본법이 의료 분야를 '고영향 AI' 대상으로 지목했습니다. 병원이 쓰는 진단·예측 보조 AI에 어떤 의무가 새로 생기는지, 계도기간 중에도 왜 준비가 필요한지 정리합니다.
'정확도 95%'로는 알 수 없는 것 — AI 제안서 성능 숫자 읽기
의료 AI 제안서에는 성능이 한 줄로 요약돼 있는 경우가 많습니다. 그런데 그 한 줄만으로는 우리 병원 병동에서 알림이 몇 번 울리고 그중 몇 번이 진짜일지 알 수 없습니다. 정확도·민감도·특이도·양성예측도를 초등학교 산수 수준으로 풀어서 정리합니다.
환자가 'AI 말고 사람이 봐 달라'고 하면 — 자동화된 결정과 병원 실무
개인정보 보호법에는 AI가 내린 결정을 거부하거나 설명을 요구할 수 있는 조항이 이미 있습니다. 병원의 AI가 여기에 해당하는지, 해당한다면 무엇을 미리 공개해 두어야 하는지를 행정·간호 실무 눈높이로 정리했습니다.
AI로 '안 올 환자'를 미리 맞힌다면 — 예약부도 예측의 쓸모와 함정
예약부도(노쇼)를 AI로 미리 예측하자는 제안이 늘고 있습니다. 16만여 건 분석 연구와 메타분석을 근거로, AI 예측의 근거와 '예측'이 '차별'이 될 수 있는 이유, 예약 실무가 챙길 기본을 정리합니다.
의료 AI가 '무엇을' 예측하는지 봐야 하는 이유 — 알고리즘 편향
같은 위험 점수인데도 특정 환자군에게만 도움이 덜 가는 AI가 있습니다. 미국 건강관리 알고리즘 사례와 국제 권고를 근거로, AI가 무엇을 예측하도록 설계됐는지가 왜 형평성을 좌우하는지 정리합니다.
의료 AI 성능 저하 — 병원 도입 후 점검 항목
한 번 검증하고 들인 AI라도 시간이 지나면 성능이 조용히 달라집니다. 예측모델을 9년간 추적한 연구를 근거로, 무엇이 성능을 갉아먹는지와 계약·운영에서 확인할 점을 정리합니다.
의료 AI 식약처 허가와 건강보험 급여의 차이 — 제안서 검토 기준
제안서에 '식약처 허가 완료'라고 적혀 있어도 건강보험에서 값이 나온다는 뜻은 아닙니다. 허가와 급여를 판단하는 기관이 왜 다른지, 통합심사·평가 제도가 무엇을 줄여 주는지, 그리고 다른 병원이 실제로 받는 금액을 어디서 직접 확인하는지를 식약처와 심사평가원 공식 자료로 정리합니다.
병원 데이터를 AI 업체와 나눌 때 — 가명처리를 행정이 확인하는 법
AI 업체가 병원 데이터를 요청할 때 '개인정보라 안 된다'와 '동의를 다 받아야 한다' 사이에 가명처리라는 제3의 길이 있습니다. 보건복지부 가이드라인을 축으로, 행정이 실제로 확인할 지점을 정리합니다.
병원 AI 입문, 첫 한 달 로드맵 — 공개 문서와 주 2시간
AI를 하나도 모르는 병원 행정·간호 입문자를 위한 실행 로드맵. 먼저 5분짜리 영상과 실제로 만들어진 앱을 구경하며 감을 잡고, 그다음 무료 공식 문서를 딱 필요한 부분만 보는 순서로 짰습니다. 주 2시간, 첫 4주 시간표까지 그대로 따라 하시면 됩니다.
병원 행정·간호가 지금 AI를 공부해야 하는 이유 — 판단의 문제
AI 의료기기 도입 검토는 행정의 책상에, 알림 대응은 간호의 병동에 이미 도착해 있습니다. 필요한 것은 코딩 실력이 아니라 제안서의 성능 숫자를 읽고 질문하는 판단력입니다. 병원 기획 7년의 경험을 바탕으로, 행정·간호 실무자가 무엇부터 보면 되는지 정리합니다.