챗GPT에 병원 업무를 맡기기 전에 — '그럴듯한 오답'과 환자정보라는 두 개의 선

병원 행정실에서 공문 초안을 잡거나, 간호 현장에서 교육자료 문구를 다듬을 때 챗GPT 같은 생성형 AI를 열어 보는 분이 많아졌습니다. 빠르고 편합니다. 그런데 편한 만큼 놓치기 쉬운 두 가지 위험이 있습니다. 하나는 AI가 ‘그럴듯하지만 틀린’ 답을 내놓는다는 점이고, 다른 하나는 그 입력창에 환자 정보를 붙여넣는 순간 생기는 문제입니다. 이 두 개의 선만 지키면 생성형 AI는 병원 업무의 좋은 도구가 됩니다. 어렵지 않게 정리합니다.

AI는 모르면 ‘지어낸다’ — 환각이라는 성질

생성형 AI의 가장 중요한 성질부터 짚겠습니다. 이 도구는 사실을 ‘찾아서’ 답하는 검색엔진이 아니라, 그럴듯한 다음 문장을 ‘만들어내는’ 방식으로 작동합니다. 그래서 아는 게 없어도 자신 있게 문장을 지어내는 일이 생깁니다. 이렇게 근거 없이 생성된 그럴듯한 오답을 흔히 ‘환각(할루시네이션)‘이라고 부릅니다.

세계보건기구(WHO)는 2023년 5월 성명에서 이 점을 분명히 경고했습니다. 챗GPT 같은 대규모 언어모델(사람의 말을 흉내 내 문장을 만들어 주는 AI)이 내놓는 답은 “권위 있고 그럴듯해 보이지만, 특히 건강 관련 답변에서는 완전히 틀리거나 심각한 오류를 담을 수 있다”는 것입니다. 문제는 이 오답이 어설퍼 보이지 않는다는 데 있습니다. 문장은 매끄럽고 전문용어까지 그럴듯하게 섞여 있어, 읽는 사람이 틀렸다고 알아채기 어렵습니다. 그래서 AI가 알려준 법 조항 번호, 통계 수치, 논문 제목은 그대로 믿지 말고 반드시 원출처에서 다시 확인해야 합니다.

환자 정보를 붙여넣는 순간

두 번째 선은 개인정보입니다. 많은 생성형 AI 서비스는 이용자가 입력한 내용을 외부 서버로 보내 처리하고, 경우에 따라 저장하거나 서비스 개선에 활용합니다. 환자 이름·생년월일·진단명이 담긴 기록을 그대로 붙여넣으면, 그 정보가 병원 밖 서버로 나가는 셈입니다. WHO도 같은 성명에서 이런 도구가 이용자가 제공한 민감한 건강정보를 제대로 보호하지 못할 수 있다는 점을 우려로 꼽았습니다.

국내 규제 기관도 이 문제를 다루기 시작했습니다. 개인정보보호위원회는 2025년 8월 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」를 내놓아, 생성형 AI를 다루는 전 과정에서 개인정보를 어떻게 보호해야 하는지 단계별 기준을 제시했습니다. 실무자가 새길 요점은 분명합니다. 공개된 AI 서비스에 환자를 알아볼 수 있는 정보를 넣는 일은 피해야 합니다. 병원 데이터를 정식으로 활용해야 할 때는 별도의 절차(가명처리 등)가 필요한데, 이 부분은 앞선 글에서 자세히 다뤘습니다.

그래도 잘 쓰는 세 가지 습관

첫째, ‘사실’과 ‘표현’을 나눠 맡깁니다. 문장을 다듬고, 딱딱한 공문을 부드럽게 바꾸고, 긴 자료를 짧게 요약하는 일(표현)은 AI가 잘합니다. 반대로 법 조항, 수치, 날짜 같은 사실은 사람이 원출처에서 확인합니다.

둘째, 환자·직원을 특정할 수 있는 정보는 넣지 않습니다. 이름·주민등록번호·연락처는 물론, 조합하면 누구인지 알 수 있는 정보(날짜+진단+병동 등)도 마찬가지입니다. 필요하면 ‘OO 환자’, ‘A 병동’처럼 지운 뒤 물어봅니다.

셋째, AI의 답은 ‘초안’으로만 씁니다. 그대로 발송하거나 게시하지 않고, 담당자가 검토하고 책임지는 마지막 단계를 반드시 둡니다.

핵심 요약

• 생성형 AI는 검색이 아니라 ‘문장 생성’ 도구여서, 그럴듯하지만 틀린 답(환각)을 낼 수 있습니다. WHO도 건강 관련 답변에서 이 위험을 경고했습니다.
• AI가 알려준 법 조항·수치·출처는 반드시 원문에서 다시 확인하세요.
• 공개 AI 서비스에 환자를 알아볼 수 있는 정보를 붙여넣지 마세요. 입력한 정보는 병원 밖으로 나갈 수 있습니다(개인정보보호위원회 안내서, 2025.08).
• 표현은 AI에, 사실 확인과 최종 책임은 사람에게. AI의 답은 언제나 ‘초안’입니다.