AI로 만든 교육자료, 검증해보니 목표보다 세 배 높은 오류가 나왔습니다

신규 직원 오리엔테이션 자료나 전공의 교육자료를 생성형 AI로 빠르게 만드는 병원이 늘고 있습니다. 그런데 “AI가 만들고 AI가 한 번 더 검증했다”는 자료조차 실제로는 얼마나 정확할까요. 서울아산병원 연구팀이 이 질문에 직접 답한 검증 결과를 최근 공개했습니다. 결론부터 말하면, 목표로 잡았던 오류 기준보다 세 배 넘는 오류가 나왔습니다.

무엇을 만들고 어떻게 검증했나

서울아산병원 융합의학과 김남국 교수·남유진 연구원과 삼성창원병원 영상의학과 홍파 교수 연구팀은 영상의학 전문의 시험 대비용 교육자료를 생성형 AI로 만들었습니다. 플래시카드 6,000개와 인포그래픽 833개 규모입니다. 이 가운데 플래시카드 1,284개를 뽑아, 전공의 9명과 전문의 11명 총 20명이 하나하나 직접 검토했습니다.

목표보다 세 배 높았던 오류율

연구팀이 미리 정한 허용 오류율은 1,000개 중 3개 미만, 즉 0.3%였습니다. 그런데 실제 검증 결과 약 1.0%에서 오류가 발견됐습니다. 이 수치는 AI가 스스로 1차 검증까지 마친 자료를 대상으로 한 것이라, “AI에게 검증까지 맡기면 되지 않을까”라는 기대와는 다른 결과입니다. 기사에는 오류의 세부 유형까지는 나오지 않았지만, 평가자들은 사실관계가 맞는지와 교육 자료로서 적절한지 두 기준으로 검토했습니다.

”AI 단독”이 아니라 “AI와 사람이 함께”

연구팀은 “완전히 자동화된 의료교육 콘텐츠 제작보다는 전문가가 최종 검증하는 체계가 반드시 필요하다”고 밝혔습니다. 흥미로운 점은 AI가 준 참고 의견(피드백)을 함께 본 평가자들이 오류를 더 많이 찾아냈다는 것입니다. 즉 이번 결과가 말하는 것은 “AI를 쓰지 말자”가 아니라, AI가 만들고 사람이 마지막에 확인하는 구조(흔히 ‘휴먼 인 더 루프’라고 부릅니다)가 필요하다는 쪽에 가깝습니다. AI가 붙인 출처가 실제로는 존재하지 않는 문헌일 때가 있다는 점을 다룬 예전 글과 같은 맥락입니다.

우리 병원 교육자료에 적용한다면

신규 직원 교육자료나 전공의 대상 자료를 AI로 만드는 경우에도 같은 원칙이 적용됩니다. AI가 1차로 만들고 스스로 검증까지 마쳤다고 해서 그대로 배포하는 것은 이번 연구 결과와 맞지 않습니다. 배포 전에 사람이 사실관계를 확인하는 단계를 반드시 넣고, 가능하다면 이번 연구처럼 “오류율 몇 퍼센트 이하”라는 구체적인 목표를 미리 정해 두고 검토하는 편이 좋습니다. AI로 안내문·교육자료 초안을 쓸 때 입력 단계에서 주의할 점은 다른 글에서 다뤘습니다.

핵심 요약

• 서울아산병원 등 연구팀이 생성형 AI로 만든 영상의학 교육자료(플래시카드 6,000개·인포그래픽 833개) 중 1,284개를 20명이 직접 검증했습니다.
• AI 자체 검증을 통과한 자료에서도 목표(0.3%)의 세 배가 넘는 약 1.0%의 오류가 발견됐습니다.
• 연구팀은 “전문가 최종 검증”이 반드시 필요하다고 결론지었습니다 — AI 단독 제작보다 AI와 사람이 함께 검토하는 구조를 권합니다.
• 병원 교육자료를 AI로 만들 때도 배포 전 사람이 확인하는 단계와, 구체적인 오류 허용 기준을 함께 두는 것이 좋습니다.

출처: 병원신문, “AI 활용 의학 교육자료도 오류 존재…전문가 최종 감수 필요” · 메디칼타임즈, “영상의학과 전문의 시험 AI에게 맡겼더니…’오류 예상 상회’”