직원이 AI로 직접 만든 업무 도구, 병원은 어떻게 관리할까
행정안전부가 현업 공무원이 생성형 AI로 직접 만든 서비스 사례를 소개했습니다. 개인정보보호위원회의 사전 점검 안내와 함께, 병원이 직원 제작 도구를 다루는 순서를 정리합니다.
원무과나 간호부의 한 직원이 AI와 대화하며 업무용 작은 프로그램을 직접 만들었다고 해 봅시다. 시간을 아끼는 좋은 일이지만, 그 프로그램을 누가 관리하고 어떤 정보에 닿는지 아는 사람이 없다면 병원에는 새로운 위험이 생깁니다. 2026년 10월 19일 행정안전부와 개인정보보호위원회가 같은 날 낸 보도자료를 나란히 놓고 보면, 이 문제를 생각할 단서가 있습니다. 병원 사례는 아니지만 행정·간호 현장에 옮겨 볼 수 있는 부분을 정리했습니다.
행정안전부가 소개한 사례
행정안전부는 현업 공무원이 생성형 AI로 직접 개발한 국정 모니터링 서비스 「국정ON」을 공무원 주도 업무혁신 사례로 소개했습니다. 이 서비스는 국회나 국무회의에서 관심 키워드가 언급되면 실시간으로 알려 주고, 주요 발언을 주제별로 정리해 줍니다. 발언이 언제 나올지 몰라 생방송을 계속 지켜봐야 했던 담당 공무원이 생성형 AI와 대화하며 코드를 만드는 방식으로 기능을 직접 구현했고, 현재 서비스 중이라고 합니다. 질문에 답하거나 문서를 쓰는 데서 나아가 실제 업무와 AI를 결합한 사례라는 것이 행정안전부의 설명입니다.
다만 연구소가 확인한 보도자료 본문에는 만든 프로그램의 보안 점검이나 품질 검증을 어떻게 했는지가 나오지 않습니다(첨부 자료는 확인하지 못했습니다). 소개된 것은 가능성이고, 관리 방법은 아닙니다.
같은 날 개인정보위가 낸 안내
개인정보보호위원회는 인공지능을 활용한 해킹이 늘고 개인정보 유출 뒤의 2차 피해 우려가 커졌다며 국민과 기업·기관에 보호수칙을 안내했습니다. 기관에 강조한 것은 네 가지입니다.
- 정보자산 파악
- 불필요한 서비스 정리
- 외부 연계 서비스와 인증정보 점검
- 개인정보 보호조치의 정기 점검과 취약점 개선
붙임 자료에는 개인정보 유출 예방을 위한 API 점검사항도 들어 있습니다. API는 서로 다른 프로그램이 데이터를 주고받게 해 주는 연결 방식입니다. 개인정보위는 직원이 만든 도구를 따로 언급하지 않았으므로, 이 안내를 그쪽으로 읽는 것은 연구소의 해석입니다.
AI가 쓴 코드는 안전하다고 믿기 쉽습니다
2023년 ACM 컴퓨터·통신 보안 학회(CCS)에 발표된 사용자 실험에서, AI 코드 도우미를 쓴 참가자는 쓰지 않은 참가자보다 유의하게 덜 안전한 코드를 썼고, 자신의 코드가 안전하다고 믿는 경우는 더 많았습니다. AI를 덜 신뢰하고 질문을 다듬어 가며 쓴 참가자의 코드에는 보안 취약점이 더 적었습니다. 이 실험은 프로그램을 짜는 과제를 맡은 참가자를 대상으로 한 것이어서 병원 직원에게 그대로 적용할 수는 없지만, 결과물이 그럴듯해 보여도 검증은 따로 해야 한다는 점을 보여 줍니다.
병원에서 옮겨 본다면
아래는 공식 지침이 아니라 연구소의 제안입니다.
- 환자 식별정보가 닿지 않는 업무부터 시작합니다. 일정 알림, 공지 정리처럼 틀려도 바로잡기 쉬운 일입니다.
- 직원이 만든 도구도 정보자산 목록에 올립니다. 이름, 만든 사람, 용도, 연결된 서비스, 담당 부서를 한 줄씩 적습니다.
- 외부 서비스나 계정, API에 연결하는 도구는 정보보호 담당자가 먼저 확인합니다.
- 쓰지 않게 되면 정리합니다. 마지막 점검일과 사용을 멈추는 기준을 정해 두면 방치된 도구가 남지 않습니다.
- AI가 만든 결과는 사람이 검증합니다. 수식이나 코드를 확인하는 방법은 엑셀 수식 검증 글에서 다뤘고, 부서별 규칙은 사용 규칙 한 장에서 정리했습니다.
핵심 요약
- 행정안전부는 현업 공무원이 생성형 AI로 직접 만든 「국정ON」을 사례로 소개했지만, 보안 점검 방법은 밝히지 않았습니다.
- 개인정보위는 기관에 정보자산 파악, 불필요한 서비스 정리, 외부 연계 서비스와 인증정보 점검, 정기 점검을 강조했습니다.
- 연구 결과, AI 코드 도우미를 쓴 참가자가 더 안전하지 않은 코드를 쓰면서 더 안전하다고 믿었습니다.
- 병원이라면 환자정보와 무관한 업무에서 시작하고, 직원 제작 도구를 정보자산으로 관리하는 것부터 정할 수 있습니다.
출처
- 행정안전부 보도자료, 현장의 불편, 공무원이 AI로 직접 해결한다(KDI 경제정책자료 게재본)
- 개인정보보호위원회 보도자료, 개인정보 보호, 생활 속 실천과 사전 점검이 중요합니다(KDI 경제정책자료 게재본)
- Perry 외, Do Users Write More Insecure Code with AI Assistants? (ACM CCS 2023, arXiv)
본 사이트의 콘텐츠는 일반적인 정보 제공과 연구·교육 목적이며, 특정 환자에 대한 의학적 진단이나 조언을 대신하지 않습니다.