更新日:
AIを業務で使う病院は「AI利用者」:事業者ガイドライン第5部
総務省・経済産業省のAI事業者ガイドライン第1.2版では、AIを業務で使う病院は「AI利用者」にあたります。第5部が利用者に求める事項と、院内で確認したい点を整理します。
病院がAIサービスを業務に使うとき、病院側には何が期待されるのでしょうか。総務省と経済産業省の「AI事業者ガイドライン」(第1.2版、令和8年3月31日)は、AIに関わる事業者を3つの立場に分けています。AIを事業活動で使う側は「AI利用者」と呼ばれ、病院もこれにあたります。法的な拘束力のない「ソフトロー」とされていますが、導入時に確認する項目の物差しとして使えます。ここでは第5部(40〜41ページ)の要点をまとめます。
3つの立場と、患者の位置づけ
- AI開発者: AIシステムを開発する事業者。
- AI提供者: AIシステムをサービスなどに組み込み、利用者に提供する事業者。
- AI利用者: 事業活動でAIシステムやAIサービスを利用する事業者。提供者が意図した適正な利用を行い、環境の変化などの情報を提供者と共有して、正常な稼働を続ける役割を担います。
同じ事業者が複数の立場を兼ねることもあります。たとえば院内で自作したAIを院内で使えば、開発者と利用者を兼ねることになります(これは筆者の例です)。
事業活動以外でAIを使う人や、AIを直接は使わずにその便益を受け、場合によっては損失を被る人を、ガイドラインは「業務外利用者」と呼びます。AIの結果が診療や案内を通じて患者に及ぶ場面では、患者がこれにあたると考えられます(筆者の解釈)。業務外利用者はガイドラインの対象外ですが、利用者から業務外利用者への必要な対応は記載されています。また、ガイドラインは政府・自治体などの公的機関も対象に含みつつ、AI利用者が公的機関になる場合は民間事業者とは別の考え方が必要になる可能性があると注記しています。公立病院が該当するかは個別の確認が必要です。
第5部が利用者に求めること
- 安全を考慮した適正利用: 提供者が定めた留意点を守り、想定された範囲で使います。仕様どおりに動作しているかを確認し、正確で必要なら最新のデータを入力し、出力の精度とリスクの程度を理解したうえで使います。
- 偏りへの配慮: 公平性が担保されたデータを入力し、プロンプトに含まれる偏りに留意して、責任をもって出力の事業利用を判断します。
- 個人情報とセキュリティ: 個人情報や機密情報をAIに不適切に入力しないよう注意し、提供者が示すセキュリティ上の留意点を守ります。
- 関係者への情報提供と説明: 出力を事業判断に使ったときは、合理的な範囲で関係者に情報を提供します。AIの出力を特定の個人や集団への評価の参考にする場合は、AIを使っている旨を対象者に伝え、自動化バイアス(機械の結果を過信すること)も踏まえて、人間が合理的に判断し、求められれば説明します。問い合わせの窓口も、合理的な範囲で設けるとされています。
- 文書と規約: 提供者から渡された文書を適切に保管・活用し、サービス規約を守ります。
院内で確認したい点
以下は筆者の提案で、公式の要件ではありません。
- 使っているAIサービスを一覧にし、提供者が定めた利用上の留意点(規約やマニュアル)を院内で保管します。
- 個人情報や機密情報を入力してよい範囲を、部署ごとの利用ルールに書き込みます。個人情報保護委員会の注意喚起は別の記事で整理しました。
- AIの出力を職員の評価や患者対応の振り分けに使うなら、その旨を対象者に伝える手順と、人間が最終判断する体制を決めます。
- 患者や職員からの問い合わせ窓口と、提供者への連絡経路を決めておきます。
まとめ
- AI事業者ガイドライン第1.2版は法的拘束力のないソフトローで、AIを業務で使う病院は「AI利用者」にあたります。
- 第5部は、適正利用、偏りへの配慮、個人情報・機密情報の入力への注意、関係者への情報提供、提供者の文書と規約の遵守を挙げています。
- 人への評価にAIの出力を使う場合は、AIを使う旨の通知と、人間による判断が求められます。
出典
本サイトのコンテンツは一般的な情報提供および研究・教育を目的としたものであり、特定の患者に対する医学的診断や助言に代わるものではありません。
この記事が属する連載
AI医療機器と制度8 / 11