생성형 AI 의료기기 규제, 미국 FDA가 던진 질문들

병원에 들어오는 AI 제품 제안서에 ‘생성형 AI’라는 표현이 부쩍 늘었습니다. 진료기록을 요약해 주거나, 환자 문의에 답하거나, 간호 기록 초안을 만들어 주는 기능들입니다. 그런데 이런 생성형 AI는 지금까지의 영상 판독 AI 같은 의료기기와 성격이 꽤 다릅니다. 미국 식품의약국(FDA)이 2026년 8월 18일 낸 논의 문서 「생성형 AI 탑재 의료기기 규제에 대한 고려사항」은, 규제기관이 이 기술의 어떤 점을 걱정하는지 보여줍니다. 국내 언론도 이 소식을 다뤘습니다(메디칼타임즈, 2026.9.9.).

무엇이 다른가

FDA 문서는 생성형 AI 의료기기의 특징을 이렇게 정리합니다. 정해진 입력만 받는 것이 아니라 자유로운 문장을 입력받고, 비슷한 질문에도 매번 조금씩 다른 답을 내놓으며, 그럴듯해 보이지만 사실이 아닌 내용(환각)을 만들 수 있다는 것입니다. 또 많은 제품이 다른 회사가 만든 ‘파운데이션 모델’을 가져다 씁니다. 이 경우 모델을 만든 회사가 성능이나 안전장치를 바꾸면, 제품을 판 회사가 손대지 않았는데도 병원에서 쓰는 기기의 동작이 달라질 수 있습니다.

위험도를 두 축으로 본다

FDA는 생성형 AI 기능의 위험을 두 축으로 나눠 생각하자고 제안합니다. 한 축은 그 기능이 하는 ‘활동’입니다. 단순히 정보만 주는지, 특정 행동을 하도록 방향을 정해 주는지(예: “리시노프릴 용량을 늘리세요”), 아니면 직접 행동을 실행하는지(예: 처방 입력, 검사 오더 실행)로 갈립니다. 다른 축은 그 답이 틀렸을 때 생기는 ‘피해의 크기’입니다. 가벼운 증상에 바르는 연고를 잘못 안내하는 것과 인슐린 용량 조정을 잘못 안내하는 것은 위험이 다르다는 뜻입니다. 두 축 모두 오른쪽·위로 갈수록 위험이 커집니다.

여기서 눈여겨볼 지적이 있습니다. FDA는 “정보 제공”과 “행동 지시”의 경계가 칼로 자르듯 나뉘지 않는다고 봅니다. 그리고 환자용 안내에 “의사와 상담하세요” 같은 문구를 덧붙였다고 해서 그 안내가 덜 위험해지는 것은 아니라고 적었습니다.

병원이 확인할 점

이 문서는 규정이 아니라 의견을 모으기 위한 논의 자료입니다. 의견 접수는 2026년 10월 19일까지이고(문서 번호 FDA-2026-N-7874), 지금 당장 병원이 지켜야 할 의무가 생기는 것은 아닙니다. 다만 규제의 방향을 미리 읽고 제안서를 검토할 때 질문거리로 삼을 수는 있습니다.

• 평가 방식: FDA는 사람 의사를 교육·자격 검증하는 방식에서 착안한 ‘역량 평가’를 검토 중입니다. 표준 시험처럼 다양한 상황을 넣어 보는 벤치마킹과, 실제 진료 환경에서 확인하는 임상 확인을 함께 하자는 개념입니다. 제안서에 성능 근거가 어떤 방식으로 확인됐는지 물어볼 수 있습니다.
• 모델 변경 관리: 다른 회사 파운데이션 모델을 쓰는 제품이라면, 그 모델이 바뀌었을 때 병원이 어떻게 알 수 있고 누가 재점검하는지 계약과 절차를 확인하는 것이 좋습니다.
• 도입 후 점검: FDA는 도입 후 모니터링에 제조사뿐 아니라 병원·의료진·학회도 역할이 있다고 명시했습니다. 도입으로 끝이 아니라, 주기적으로 성능 저하를 점검하는 책임이 병원에도 있다는 시각입니다.

핵심 요약

• 생성형 AI 의료기기는 자유로운 입력, 매번 달라지는 답, 환각, 외부 모델 의존이라는 점에서 기존 AI 의료기기와 다릅니다.
• FDA는 위험을 ‘활동의 종류’와 ‘틀렸을 때 피해 크기’ 두 축으로 보자고 제안했고, “의사와 상담하세요” 문구가 위험을 낮추지 않는다고 지적했습니다.
• 이 문서는 규정이 아닌 논의 자료(의견 접수 2026년 10월 19일까지)이며, 국내 식약처 규제와는 별개입니다.
• 제안서를 볼 때 성능 검증 방식, 외부 모델 변경 관리, 도입 후 점검 책임을 확인 질문으로 삼을 수 있습니다.

출처: FDA, “Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback”(2026.8.) · FDA 보도자료(2026.8.18.) · 메디칼타임즈(2026.9.9.)

---

본 사이트의 콘텐츠는 일반적인 정보 제공과 연구·교육 목적이며, 특정 환자에 대한 의학적 진단이나 조언을 대신하지 않습니다.