更新日：
よくあるご質問
医療AIの導入を検討する立場でよく出てくる疑問をまとめました。質問をクリックすると回答が開きます。
AI医療機器を導入するとき、最初に確認すべきことは何ですか。
まず、その製品が薬機法上の医療機器に該当するかどうか、該当する場合は承認・認証・届出のいずれを受けているかを確認します。医療機器としての目的性があり、意図したとおりに機能しない場合に患者の生命や健康へ影響を与えるおそれのあるソフトウェアは、プログラム医療機器として規制の対象になります。承認・認証の内容や添付文書は、PMDAの「医療機器 添付文書等情報検索」で一般的名称や販売名から調べられます。次に見るのは、どのような患者を対象に検証された製品か、自院の患者構成と合っているかという点です。あわせて、既存の業務フローや電子カルテと連携できるか、個人情報をどのように取り扱うか、保守や不具合発生時の責任分担がどうなっているかも、契約前に書面で確認しておくと安全です。
提案書に出てくる感度・特異度といった性能の数字は、どう読めばよいですか。
感度は、実際に疾患がある人のうち検査が陽性になる割合、特異度は、疾患がない人のうち陰性になる割合です。いずれも検査そのものの性能を表します。ただし現場で本当に知りたいのは「陽性と出た人が実際に疾患を持っている確率」、すなわち陽性的中率です。この値は、感度と特異度が同じであっても、対象集団におけるその疾患の頻度、つまり有病率によって大きく変わります。疾患がまれな集団に用いるほど、陽性者に占める偽陽性の割合が増え、陽性的中率は下がります。したがって提案書の数値を見るときは、数字の大小だけを比べるのではなく、その数字がどのような患者群で、どの程度の有病率のもとで得られたのかを必ず確認してください。自院の患者構成が検証時と異なれば、同じ製品でも現場で感じる精度は変わります。
開発企業が示した性能の数値を、そのまま信じてよいですか。
開発時の性能と、実際の医療機関での性能は一致しないことがあります。そのため、別の施設のデータで再評価した外部検証の結果を確認するのが安全です。よく知られた例として、広く導入されていた市販の敗血症予測モデルを米国ミシガン大学の研究チームが外部検証した、JAMA Internal Medicine（2021年）の論文があります。この研究では入院単位の判別能（AUC）が0.63で、開発元が報告していた0.76～0.83より大きく低い結果でした。これは特定の製品を非難するためのものではなく、開発した環境と実際に使う環境が異なれば性能は変わりうる、ということを示す事例です。提案書を読むときは、誰が、どのデータで、どこで検証したのかをあわせて尋ねてください。自院と患者構成が近い施設での検証結果があるかどうかが、判断の助けになります。
薬事承認と保険適用は、どう違うのですか。
この二つは目的も担当部署も異なる、別々の手続です。薬機法に基づく承認・認証・届出は、その製品の品質・有効性・安全性を確認し、国内で製造販売できるようにするための手続で、審査はPMDAが担います。一方、保険適用は、その製品やそれを用いた診療行為を公的医療保険で算定できるかどうかを決める手続で、厚生労働省保険局が所管します。医療機器の保険適用には複数の区分があり、既存の技術料に包括されるのか、新たな点数が設定されるのかで院内の扱いが変わります。承認を受けた製品であれば必ず診療報酬を算定できる、というわけではありません。導入を検討する際は、承認等の有無と、保険上どの区分で扱われるのか、あるいは自費となるのかを分けて確認してください。医事課にとっては後者が費用の見通しに直結します。
生成AIを診断や処方に使うことについて、専用の規定はありますか。
生成AIだからといって別枠の制度があるわけではなく、判断の出発点は従来のソフトウェアと同じです。医療機器としての目的性があり、意図したとおりに機能しない場合に生命や健康へ影響を与えるおそれがあるプログラムは、薬機法上のプログラム医療機器に該当します。厚生労働省は「プログラムの医療機器該当性に関するガイドライン」と医療機器プログラム事例データベースを公表しており、判断に迷う場合はPMDAのSaMD一元的相談窓口、または厚生労働省の該当性相談窓口に相談できます。実務面の手引きとしては、医療AIプラットフォーム技術研究組合が「医療・ヘルスケア分野における生成AI利用ガイドライン（第2版）」を2025年7月に公開しています。院内で製品を検討する際は、それが医療機器なのか、業務支援用の一般ソフトウェアなのかを最初に切り分けてください。
AI医療機器は学習して変わると聞きます。承認後に性能が変わる場合、どう管理されるのですか。
AIを用いた医療機器は、学習データの蓄積やアルゴリズムの改良によって、市販後に性能が変わりうるという特徴があります。これに対応する枠組みとして、変更計画確認手続（IDATEN）があります。あらかじめ想定される変更の内容と検証方法をまとめた変更計画を審査の過程で確認しておき、その計画の範囲内であれば、承認事項の一部変更を迅速に行えるという仕組みです。なお、適応拡大のように臨床的な位置づけそのものが変わる変更は、この枠組みでは想定されていません。病院側としては、導入した製品のバージョンが更新されたときに、その変更が確認済みの計画の範囲内で行われたものかどうか、変更内容と再検証の結果を書面で提供してもらえるかどうかを、保守契約の段階で取り決めておくとよいでしょう。更新のたびに現場の運用も見直す必要があります。
AIが出した結果に、そのまま従ってよいのですか。最終的な責任は誰にありますか。
診療の主体は医師であり、最終的な判断の責任も医師が負う、というのが国内での整理です。厚生労働省は2018年12月の通知（医政医発1219第1号）で、AIを用いて診断・治療等の支援を行うプログラムについて、AIは医師の判断を支援し効率を高めるツールであって、判断の主体は医師である必要があるとしています。国際的にも方向性は同じで、WHOは2021年の「保健医療分野におけるAIの倫理とガバナンス」で6つの原則を示し、その第一に人間の自律性の保護、すなわち人が医療システムと医療上の意思決定の主導権を保ち続けることを挙げています。残る原則は、人の福祉と安全および公益の推進、透明性と説明可能性の確保、責任と説明責任、包摂性と公平性、そして応答的で持続可能なAIです。実務では、AIを最終決定者ではなく判断を補助する道具と位置づけ、結果を人が確認する手順を業務フローに組み込んでおくことが必要です。
病院の業務にChatGPTのような生成AIを使ってもよいですか。
患者を特定できる情報や要配慮個人情報を含まない一般業務、たとえば公開資料の下書き、会議録の文章整理、一般的な情報収集の補助であれば活用できます。ただし、入力した内容がどのように保存・利用されるかは、サービスの種類と契約条件によって異なります。個人情報保護委員会は2023年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表し、個人情報取扱事業者が生成AIサービスを利用する際の留意点を示しています。院内で使うのであれば、まず内部の利用ルールを整えることが先です。どの情報なら入力してよく、どの情報は禁止か、どのサービスをどの契約形態で使うか、ルールに反した場合にどう対応するかを文書にまとめ、医事課・経営企画・看護部で共有しておくと運用が安定します。担当者ごとの判断に任せない体制づくりが要点です。
生成AIに患者情報を入力してもよいですか。どのようなリスクがありますか。
患者を特定できる情報、たとえば氏名、患者ID、診断名や処方内容などを、一般に公開されている生成AIサービスに入力しないことが原則です。個人情報保護法では病歴が要配慮個人情報に位置づけられており、要配慮個人情報は、あらかじめ本人の同意を得ないで取得してはならないとされています。認められる例外は、法令に基づく場合など限られたものだけです。さらに要配慮個人情報は、オプトアウトによる第三者提供が認められておらず、あらかじめ本人の同意を得ないで第三者へ提供してはならないとされています。無料版や個人向けのサービスでは、入力した内容が事業者側で利用される可能性もあります。院内で利用を検討する場合は、契約形態とデータの取扱い条件を確認したうえで、入力してよい情報の範囲を明文化してください。
生成AIが作った文章を、患者向けの説明文書や診療情報にそのまま使ってよいですか。
そのまま使うことはお勧めしません。生成AIは文章を整えるのは得意ですが、事実と異なる内容をもっともらしく作り出すこと、いわゆるハルシネーションがあり、必ず人による事実確認が必要です。とくに薬剤名・用量・検査結果の解釈のように、誤りがそのまま患者の不利益につながる内容は、担当する医療者が根拠を確認したうえでなければ使えません。WHOも、文章や画像など複数の種類のデータを扱う大規模マルチモーダルモデル（LMM）に関するガイダンスで、この種のモデルの能力にはまだ検証されていない部分があるとし、慎重な利用を求めています。また、文書を作る過程で特定の患者を識別できる情報を入力しないよう注意してください。文章の推敲や構成の整理といった補助的な用途では有用ですが、最終的な内容の正確性と責任は人が負う、という原則を守ることが安全です。
自院のデータでAIを研究開発したり、外部と共有したりするには、何を確認すればよいですか。
診療情報の多くは個人情報保護法上の要配慮個人情報にあたるため、取得も第三者提供も、原則としてあらかじめ本人の同意が必要です。要配慮個人情報については、オプトアウトによる第三者提供が認められていない点にも注意してください。研究として実施する場合は、文部科学省・厚生労働省・経済産業省の「人を対象とする生命科学・医学系研究に関する倫理指針」に従い、倫理審査委員会の審査とインフォームド・コンセントの手続を踏む必要があります。また医療分野の研究開発向けには、次世代医療基盤法、正式には医療分野の研究開発に資するための匿名加工医療情報及び仮名加工医療情報に関する法律に基づき、国が認定した事業者を介して匿名加工医療情報や仮名加工医療情報を利活用する仕組みも設けられています。個別の可否は事案ごとに異なるため、院内の個人情報保護担当部署と倫理審査委員会に早い段階で相談してください。
出典： mhlw.go.jp （新しいタブで開きます） / www8.cao.go.jp （新しいタブで開きます） / ppc.go.jp （新しいタブで開きます）
開発者ではありませんが、医療AIを理解するには何から学べばよいですか。
コーディングやモデル開発の技術よりも、提案書や性能資料を読み、適切な質問を投げられることのほうが先です。実務ですぐ役立つ最低限の基礎は4つあります。1つ目は性能指標の読み方で、感度・特異度と、有病率によって変わる陽性的中率の意味を押さえます。2つ目は検証の考え方で、開発に使ったデータと外部検証の違いを理解し、どの患者群で検証したのかを必ず尋ねる習慣をつけます。3つ目は制度の基本で、薬機法上の承認等と保険適用が別の手続であること、病歴は要配慮個人情報にあたることを知っておきます。4つ目は生成AIの限界で、もっともらしい誤りを出しうること、入力した情報の取扱いによっては情報が外部に出るおそれがあることです。ここまで押さえておけば、導入の検討や提案書の評価に必要な判断力は十分に身につきます。
回答は日本の制度を前提に記載しています。制度は改正されることがありますので、重要な判断の際は各出典の原文で最新の内容をご確認ください。