病院AI研究所 HOSPITAL AI LAB — 医療AIの実務情報 韓国語版(한국어)

更新日:

導入チェックリスト

このチェックリストは、AI医療機器やソリューションの導入提案を検討するときに、医事課・経営企画と看護部が確認しておきたい項目を主題ごとに整理した一般的なガイドです。特定の製品や企業を推奨するものでも、導入の可否を決める基準でもありませんので、提案書や契約書を読み、ベンダーに質問するときの下敷きとしてお使いください。病院ごとに規模も診療科もシステム環境も異なりますので、実際の導入では自院の規程に従い、医療情報部門、医療安全管理部門、個人情報保護責任者、法務・調達といった関係部署の確認を受けてください。

6区分・全35項目

性能・検証

提示された数値そのものより、その数値がどこで、どのような患者を対象に得られたものかを確認します。開発時の環境と自院の環境が離れているほど、実際の精度は想定と異なることがあります。

  • 提示された性能の数値(感度・特異度、正確度、AUCなど)が、どのデータで測定されたものかを確認します。ベンダーの内部データなのか、自院と似た患者群での外部検証の結果なのかを分けて質問します。
  • 性能を裏づける根拠が、査読を経た論文や公表された臨床研究の結果なのか、ベンダーの自社資料だけなのかを確認します。
  • 自院の患者構成や使用している機器(CT・MRIの機種、撮影・検査プロトコルなど)が、学習・検証に使われたデータとどの程度近いか、環境が変わると性能が下がる可能性があるかを尋ねます。
  • 導入後の一定期間、自院のデータで性能を再確認する手順(試行運用、現場での検証)を契約に含められるかを確認します。
  • モデルが更新されたときに性能をどう管理・再検証するのか、変更の履歴が書面で提供されるのかを確認します。

規制・薬事

医療機器に該当するかどうかで、確認すべき書類も院内の手続も変わります。提案書の記載をそのまま受け取らず、公的なデータベースで照合します。

  • その製品が薬機法上の医療機器に該当するのか、規制の対象外の一般ソフトウェアなのかを、はじめに切り分けます。疾病の診断や治療などに寄与する医療機器としての目的性があり、機能不全が生じた場合に人の生命や健康へ影響を与えるおそれのあるプログラムは、プログラム医療機器として規制の対象になります。
  • 医療機器に該当する場合、承認・認証・届出のいずれを受けているかと、一般的名称・販売名・承認(認証)番号を確認します。PMDAの「医療機器 添付文書等情報検索」で販売名や承認番号から直接調べ、提案書の記載と一致するかを照合します。
  • 添付文書に記載された使用目的又は効果が、自院で実際に使おうとしている用途と一致しているかを確認します。記載の範囲を外れる使い方は、別に検討が必要です。
  • 該当性の判断に迷う場合の相談先を把握しておきます。厚生労働省は「プログラムの医療機器該当性に関するガイドライン」とあわせて医療機器該当性判断事例、医療機器プログラム事例データベースを公表しており、相談はPMDAのSaMD一元的相談窓口(医療機器プログラム総合相談)で受け付けられています。
  • 生成AIを含む製品でも、判断の出発点は同じです。医療機器に該当するのか、業務支援用の一般ソフトウェアなのかを切り分けたうえで、検証資料が揃っているかを製造販売業者に確認します。
  • モデルの再学習や機能追加といった製品の変更があったとき、承認・認証をどのように維持・変更するのか、変更の内容と再検証の結果を書面で受け取れるのかを確認します。

個人情報・セキュリティ

患者データがどこへ流れるかを、書面で確認します。診療情報は要配慮個人情報にあたるため、取得や提供の扱いは一般の個人データより慎重になります。

  • 患者データが院内だけで処理されるのか、外部のサーバーやクラウドへ送られるのか、送られる場合はどの項目がどこへ渡るのかを、データの流れとして書面で確認します。
  • 診療録に記載された病歴、医療従事者が知り得た診療情報や調剤情報、健康診断の結果などは、個人情報保護法上の要配慮個人情報にあたります。取得には原則として本人の同意が必要で、オプトアウトによる第三者提供は認められていません。学習や品質改善のために患者データを使う提案が含まれていないか、含まれる場合の根拠と手順を確認します。
  • 個人データの取扱いを外部に委託する場合は、委託契約の内容、再委託の有無、外国にある第三者への提供にあたるかどうかを確認します。委託先の監督は個人情報保護委員会のガイドライン通則編に、外国への提供の取扱いは外国にある第三者への提供編に示されています。
  • アクセス権限の管理、通信および保存時の暗号化、アクセスログの保存といった安全管理の仕組みが備わっているかを確認します。厚生労働省の「医療情報システムの安全管理に関するガイドライン」第7.0版には、概説編・経営管理編・企画管理編・システム運用編・保守委託機関編があり、院内と委託先のどちらが何を担うかを整理する拠りどころになります。
  • 同ガイドラインとあわせて公表されている「医療機関・薬局におけるサイバーセキュリティ対策チェックリスト」を使い、院内の対策状況と新しい仕組みの前提が食い違っていないかを点検します。
  • 導入前に院内のどの手続を通す必要があるかを、稟議に入る前に確認します。個人情報保護責任者、医療情報部門、医療安全管理部門のうち、どこの確認が要るかを整理しておきます。
  • 契約が終了したときに、院内データの返却や廃棄をどの方法で行うのか、その証跡が提供されるのかを確認します。

業務フロー・運用

導入の成否は精度よりも運用で決まることが少なくありません。誰の手間が増えるのかを、看護部と事務部門の双方の目で見ておきます。

  • 既存の電子カルテ、PACS、検査システムと実際に連携するのか、別画面での二重入力が生じないのかを確認します。
  • AIが出すアラートの頻度と優先度を調整できるか、通知が過剰になっていわゆるアラート疲れを招かないかを、看護部と現場の視点で点検します。
  • AIの出力を誰が確認し、最終的な判断と責任をどう扱うのかを、院内の運用規程に落とし込めるかを確認します。
  • 誤作動やシステム障害が起きたときの代替手順(紙運用への切替え)と、ベンダーが示す障害対応・復旧の目標時間(SLA)が定められているかを確認します。
  • 職員研修、操作マニュアル、稼働初期の支援が提供されるか、院内の担当部署と問い合わせ窓口が明確かを確認します。
  • 導入の効果(時間の削減、業務負担、エラーの減少など)をどの指標でいつ点検するのかを、稼働前に決めておきます。

契約・費用

見積書の金額だけでは総額を把握できません。薬機法に基づく承認等と保険上の扱いが別の手続になる点も、費用の見通しに直結します。

  • 費用の内訳を、初期導入費、年間の保守費、利用量に応じた課金、更新費用に分けて確認し、連携開発・ハードウェア・研修といった見えにくい費用がないかを尋ねます。
  • 公的医療保険で算定できるのか、自費として扱うのかを確認します。薬機法に基づく承認等と保険適用は別々の手続で、承認を受けた製品であれば必ず診療報酬を算定できるというわけではありません。医事課にとってはこの区分が費用の見通しを左右します。
  • 契約期間、自動更新の条件、中途解約の条件と違約金、データや設定を他のシステムへ移せるかどうかを確認します。
  • 性能が示された水準に届かない場合や障害が続く場合の責任と損害賠償、事故が起きたときの賠償責任保険の加入状況を確認します。
  • ベンダーの事業継続性(財務状況、保守要員、同規模の医療機関での導入実績)と、製品の販売終了・サービス終了時の対応を確認します。
  • 購買・契約の手続が院内規程(購買委員会、情報システム委員会の審議など)に沿っているか、必要に応じて法務・調達部門の確認を経ているかを確認します。

確認に使える公式の情報源

提案書の記載を照合するときは、ベンダーの資料ではなく次の一次情報にあたってください。いずれも公開されており、事務部門から直接確認できます。

  • PMDA「医療機器 添付文書等情報検索」(https://www.pmda.go.jp/PmdaSearch/kikiSearch/)。販売名、一般的名称、承認・認証番号などから、添付文書や審査報告書を調べられます。
  • 厚生労働省「医療機器プログラムについて」(https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000179749_00004.html)。プログラムの医療機器該当性に関するガイドライン、医療機器該当性判断事例、医療機器プログラム事例データベースが掲載されています。
  • 厚生労働省「医療情報システムの安全管理に関するガイドライン 第7.0版」(https://www.mhlw.go.jp/stf/shingi/0000516275_00006.html)。概説編・経営管理編・企画管理編・システム運用編・保守委託機関編と、「医療機関・薬局におけるサイバーセキュリティ対策チェックリスト」が公開されています。
  • 個人情報保護委員会の法令・ガイドライン等のページ(https://www.ppc.go.jp/personalinfo/legal/)。通則編や外国にある第三者への提供編などのガイドラインと、厚生労働省との連名による「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」を確認できます。
  • 厚生労働省「医療機器・体外診断用医薬品の保険適用について」(https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000176120.html)。保険適用上の区分や保険適用希望書の提出に関する通知・事務連絡がまとめられています。