AI 도입 검토 체크리스트
이 체크리스트는 병원에서 AI 의료기기·솔루션 도입 제안을 검토할 때 행정·간호 부서가 확인할 항목을 주제별로 정리한 일반 가이드입니다.
특정 제품·기관에 대한 권고나 도입 결정 기준이 아니라, 제안서·계약서를 검토하고 공급사에 질문할 때 참고하는 점검 틀입니다. 병원마다 규모·진료과·전산 환경·예산 절차가 다릅니다. 실제 도입 때는 각 병원의 규정을 따르고, 관련 부서(의료정보실, 감염관리·질향상, 개인정보보호 담당, 법무·구매)와 필요하면 외부 전문가의 검토를 함께 받으시기 바랍니다.
성능·검증
- 제시된 성능 수치(정확도, 민감도·특이도, AUROC 등)가 어떤 데이터로 측정된 것인지 확인했는가 — 공급사 내부 데이터인지, 우리 병원과 유사한 환자군에서의 외부검증 결과인지 구분해 질문한다.
- 성능을 뒷받침하는 근거가 동료심사(peer-review) 논문·공식 임상시험 결과인지, 아니면 공급사 자체 발표 자료뿐인지 확인한다.
- 우리 병원의 환자 구성·장비(예: 특정 CT·MRI 기종, 검사 프로토콜)와 학습·검증 데이터가 얼마나 유사한지, 다른 환경에서 성능이 떨어질 수 있는지 물어본다.
- 도입 후 일정 기간 우리 병원 데이터로 성능을 재확인하는 절차(시범 운영(파일럿)·현장 검증)를 계약에 포함할 수 있는지 확인한다.
- 모델이 업데이트될 때 성능이 어떻게 관리·재검증되는지, 변경 이력이 문서로 제공되는지 확인한다.
규제·인증
- 해당 제품이 식약처 허가·인증을 받은 '의료기기'인지, 아니면 규제 대상이 아닌 일반 소프트웨어인지 명확히 구분한다 — 진단·판독 보조 등 의료 목적을 표방하면 통상 의료기기 허가 대상이다.
- 허가·인증 여부와 등급, 품목명·허가번호를 식약처 의료기기 전자민원시스템(emedi.mfds.go.kr)에서 직접 조회해 제안서 내용과 일치하는지 확인한다.
- 허가받은 '사용목적'(적응증·사용 범위)이 우리 병원에서 실제로 쓰려는 용도와 일치하는지 확인한다 — 허가 범위를 벗어난 사용은 별도 검토가 필요하다.
- 생성형 AI가 포함된 제품이라면 식약처의 관련 허가·심사 가이드라인 취지에 맞게 검증 자료가 갖춰져 있는지 공급사에 확인한다.
- 제품 변경(모델 재학습·기능 추가) 시 허가 유지·변경허가가 어떻게 관리되는지 확인한다.
개인정보·보안
- 환자 데이터가 병원 내부에서만 처리되는지, 외부 서버·클라우드로 전송되는지, 전송된다면 어떤 항목이 어디로 가는지 데이터 흐름을 서면으로 확인한다.
- 학습·품질개선 목적으로 환자 데이터를 활용한다면, 개인정보보호법상 처리 근거(동의 또는 가명처리)와 절차가 마련되어 있는지 확인한다.
- 보건의료 분야는 보건복지부·개인정보보호위원회의 '보건의료데이터 활용 가이드라인'과 '가명정보 처리 가이드라인'을 우선 참고한다.
- 개인정보 처리를 외부에 맡기는 경우(수탁), 위탁 계약과 재위탁 여부, 국외 이전 여부가 명확한지 확인한다.
- 접근권한 관리, 전송·저장 구간 암호화, 접속기록 보관 등 기술적·관리적 안전조치가 갖춰졌는지 확인하고 필요 시 병원 개인정보보호 담당·정보보안 부서의 검토를 받는다.
- 도입 전 개인정보 영향평가(해당 시)나 병원 내부 개인정보보호 심의 절차가 필요한지 확인한다.
- 계약 종료 시 병원 데이터의 반환·파기 방법과 증빙 제공 여부를 확인한다.
업무흐름·운영
- 기존 전자의무기록(EMR)·영상저장전송시스템(PACS)·검사 시스템과 실제로 연동되는지, 별도 화면·이중 입력이 생기지는 않는지 확인한다.
- AI가 만들어내는 알림·경보의 빈도와 우선순위가 조절 가능한지, 알림이 과도해 현장 피로(알람 피로)를 유발하지 않는지 간호·현장 관점에서 점검한다.
- AI 결과를 누가 확인하고 최종 판단·책임은 어떻게 지는지(의료진 확인 절차) 업무 규정에 반영할 수 있는지 확인한다.
- 오작동·오류·시스템 장애 시 대체 업무 절차(수기 백업)와 공급사가 약속하는 장애 대응·복구 시간(서비스 수준 협약, SLA)이 정해져 있는지 확인한다.
- 현장 교육·매뉴얼·초기 안정화 지원이 제공되는지, 담당 부서와 문의 창구가 명확한지 확인한다.
- 도입 효과(시간 절감·업무 부담·오류 감소 등)를 어떤 지표로 언제 점검할지 사전에 정한다.
계약·비용
- 전체 비용 구조를 초기 도입비·연간 유지보수비·사용량 기반 과금·업데이트 비용으로 나누어 확인하고, 숨은 비용(연동 개발, 하드웨어, 교육)이 있는지 물어본다.
- 건강보험 급여·비급여 적용 여부와 수가 산정 가능성을 확인한다 — AI 기반 의료기술의 급여화는 건강보험심사평가원(HIRA)의 평가 절차를 따르며, 제품마다 상황이 다르므로 개별 확인이 필요하다.
- 계약 기간, 자동 갱신 조건, 중도 해지 조건과 위약금, 데이터·설정의 이관(다른 시스템으로의 전환) 가능성을 확인한다.
- 성능 미달·잦은 장애 시의 책임과 손해배상, 사고 발생 시 배상책임보험 가입 여부를 확인한다.
- 공급사의 사업 지속성(재무·유지 인력·유사 병원 도입 실적)과 제품 단종·서비스 종료 시 대응 방안을 확인한다.
- 구매·계약 절차상 병원 내부 규정(구매심의, 정보화 심의 등)과 필요 시 법무 검토를 거쳤는지 확인한다.