연합학습, 데이터가 병원 밖으로 안 나가면 안전한가
신약개발 연합학습 사업 K-MELLODDY가 1단계 성과보고회를 연다고 밝혔습니다. 데이터를 기관에 두고 AI를 함께 학습하는 방식의 원리와 한계를 풀어 봅니다.
AI 업체와 공동 개발을 논의하다 보면 “데이터는 병원 밖으로 나가지 않습니다”라는 설명을 들을 수 있습니다. 대개 연합학습이라는 방식을 뜻합니다. 병원신문(10월 15일)에 따르면 한국제약바이오협회 K-MELLODDY사업단은 연합학습 기반 신약개발 1단계 성과보고회를 10월 16일에 연다고 밝혔습니다. 보건복지부와 과학기술정보통신부가 공동 추진하는 국가연구개발사업으로, 2024~2028년 총 348억 원 규모입니다. 연합학습이 무엇이고, ‘나가지 않는다’는 말을 어디까지 믿어도 되는지 정리합니다.
연합학습은 어떻게 하는 건가요
기존에는 여러 기관의 데이터를 한곳에 모아 AI를 학습시켰습니다. 연합학습은 거꾸로 AI 모델을 각 기관에 보내 기관 안에서 학습시킵니다. 각 기관은 데이터 대신 ‘학습하며 바뀐 부분’만 돌려보내고, 이를 합쳐 공동 모델을 만듭니다. 병원신문 보도도 원본 데이터는 각 기관 안에 두고 학습에 필요한 정보만 주고받는 기술로 설명합니다.
여러 병원이 차트를 한곳에 모아 공부하는 대신, 병원마다 자기 차트로 공부한 뒤 ‘배운 점’만 모아 교재 한 권을 만드는 모습을 떠올리시면 됩니다. 2020년 리뷰 논문(npj Digital Medicine)도 환자 데이터를 기관 밖으로 옮기지 않고 공동 모델을 얻는 것을 핵심으로 봅니다.
보도에 따르면 K-MELLODDY가 다루는 데이터는 비임상·독성·약동학 데이터이고, 연합학습 플랫폼 구축과 함께 약물의 흡수·분포·대사·배설·독성을 예측하는 모델 개발이 주요 목표입니다. 진료 기록을 다루는 사업이라고 소개되어 있지는 않습니다.
실제로 효과가 있을까요
- 뇌종양 MRI 영상 연구(Scientific Reports, 2020): 10개 기관의 연합학습으로 만든 모델이 데이터를 한곳에 모아 학습한 모델 품질의 99%에 이르렀다고 보고했습니다.
- 제약사 10곳 연구(Journal of Chemical Information and Modeling, 2024): 서로 공개하지 않는 26억 건 이상의 실험 데이터를 프라이버시·보안 감사를 받은 플랫폼에서 함께 학습했고, 10곳이 각자 자사 모델의 성능 향상을 얻었다고 보고했습니다.
둘 다 특정 과제의 결과이므로, 다른 업무나 우리 병원 데이터에서 같은 결과가 나온다는 뜻은 아닙니다.
데이터가 나가지 않아도 위험은 남습니다
앞의 리뷰 논문은 연합학습이 모든 개인정보 문제를 해결하지는 못하고, 위험이 늘 어느 정도 남는다고 정리합니다. 환자 데이터를 직접 공유하지 않아도 주고받는 학습 결과에서 학습에 쓰인 데이터가 간접적으로 드러날 수 있다는 지적입니다.
실험으로 보인 연구도 있습니다. 2019년 공개된 한 논문(arXiv)은 학습 중 공유되는 값(기울기)에서 원래의 학습 데이터를 복원할 수 있다고 보고했습니다. 이미지는 픽셀 단위로 정확하게, 글은 토큰(글을 쪼갠 단위) 단위로 일치하게 복원됐다고 합니다. 다만 연구 환경에서의 실험이어서 실제 사업의 보안 설계와는 다를 수 있습니다.
대응책으로 리뷰 논문은 주고받는 정보의 세밀함을 제한하거나 잡음을 섞는 방법 등을 들며, 이 분야가 아직 활발히 연구 중이라고 합니다. 이런 기법은 최종 모델의 정확도에 영향을 줄 수 있어 절충이 따릅니다. 참여자 간 신뢰도 변수입니다. 모두 신뢰할 만하고 집행 가능한 협력 계약에 묶여 있으면 정보를 빼내려는 동기를 상당 부분 없앨 수 있지만, 계약이 어려운 큰 규모에서는 암호화와 참여자 인증 같은 대책이 따로 필요하다고 합니다.
제안을 받았을 때 확인할 점
같은 리뷰는 병원이 환자 데이터를 계속 직접 통제할 수 있지만, 그러려면 원내 컴퓨터 설비나 전용 클라우드, 표준화된 데이터 형식에 투자가 필요하다고 봅니다. 아래는 공식 요건이 아니라 연구소의 제안입니다.
- 무엇이 밖으로 나가는지: 원본은 아니어도 학습 결과는 나갑니다. 형식, 보내는 주기, 받는 곳을 문서로 확인합니다.
- 누가 합치는지: 학습 결과를 모으는 운영 주체와 그곳의 보안 점검, 외부 감사 여부를 묻습니다.
- 유출 방어 조치: 암호화나 잡음 추가를 쓰는지, 그것이 모델 성능에 주는 영향까지 설명을 요청합니다.
- 완성된 모델의 소유와 사용 범위: 병원이 쓸 수 있는지, 다른 기관에도 제공되는지를 계약에 적습니다.
- 병원 내부 절차: 정보보호·연구윤리 담당의 검토를 받습니다. 연합학습이라서 검토를 건너뛸 수 있다는 근거는 확인하지 못했습니다. 가명처리 확인법은 이전 글에서 다뤘습니다.
- 비용과 인력: 학습을 돌릴 설비와 데이터를 정리할 담당자를 누가 마련하는지 정합니다.
핵심 요약
- 연합학습은 데이터를 한곳에 모으지 않고, 각 기관이 학습한 결과만 모아 공동 AI를 만드는 방식입니다.
- 뇌종양 영상과 신약 후보 물질 예측 연구에서 효과가 보고됐지만, 모두 특정 과제의 결과입니다.
- 데이터가 나가지 않아도 주고받는 학습 결과에서 원본이 드러날 수 있다는 연구가 있고, 방어 기법은 아직 연구 중입니다.
- 병원은 무엇이 나가는지, 누가 합치는지, 방어 조치, 모델의 소유, 내부 절차, 비용을 문서로 확인할 수 있습니다.
출처
- 병원신문, K-MELLODDY, 연합학습 기반 신약개발 1단계 성과 공개 (2026.10.15)
- Rieke 외, The future of digital health with federated learning (npj Digital Medicine, 2020)
- Sheller 외, Federated learning in medicine: facilitating multi-institutional collaborations without sharing patient data (Scientific Reports, 2020)
- Heyndrickx 외, MELLODDY: Cross-pharma Federated Learning at Unprecedented Scale (Journal of Chemical Information and Modeling, 2024)
- Zhu 외, Deep Leakage from Gradients (arXiv, 2019)
본 사이트의 콘텐츠는 일반적인 정보 제공과 연구·교육 목적이며, 특정 환자에 대한 의학적 진단이나 조언을 대신하지 않습니다.