病院AI研究所 HOSPITAL AI LAB — 医療AIの実務情報

更新日:

AIエージェントの「止め方」、病院の調達で先に決める4つのこと

誰がどこまで止めるのか、何を触らせないのか。デジタル庁の有識者会議で出た論点から、病院がAIエージェントを導入する前の確認点を整理します。

指示を受けて自分で手順を組み立て、システムを操作して作業を進めるAIを「AIエージェント」と呼びます。予約の調整や書類の下書きなど、病院の事務でも使えそうな場面が増えてきました。便利な一方で、チャット型の生成AIより自分で動く範囲が広いぶん、「おかしな動きをしたとき、どう止めるのか」をあらかじめ決めておく必要があります。デジタル庁の有識者会議で、まさにこの点が議論されました。

有識者会議で出た論点

デジタル庁は2026年9月29日に「第6回先進的AI利活用アドバイザリーボード」を開き、10月28日に議事要旨を掲載しました。議題の一つは、政府の「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」を充実させるための検討事項案です。議事要旨には、構成員から次のような意見が記録されています。

  • 止める仕組み(キルスイッチ):どこまで止まるのか、誰が止めるのかを定めておかないと、実際の運用で判断が難しくなるおそれがある。
  • 機密性の高い情報:AIエージェントにアクセスさせないという判断も必要である。
  • 責任の分け方:AIエージェントに契約上の取り決めを広げるなら、発注者と事業者の責任分界を明確にする必要がある。
  • 費用:従来の固定価格を続けるのか、使った量に応じて払う形も選択肢にするのか、議論が必要である。

また、各府省庁のAIエージェントの利用事例は、人間が判断・確認することが前提とされていると事務局が説明しています。座長は、AIの動きを人が見守り必要なときに介入する役割(Human on the Loop)を担える人材の確保を、今後の重要な論点に挙げました。

これは政府機関向けのガイドラインに関する議論で、病院に何かを義務づけるものではありません。ただ、調達や契約の場面で病院が確認したいことと重なる部分が多くあります。

病院で先に決めておきたい4つのこと

以下は、議事要旨の論点をもとに私たちが考えた確認項目で、議事要旨に書かれているものではありません。

  1. 止め方と止める人:おかしな動きに気づいたとき、誰が、どの画面で、どこまで止められるのかを決めておきます。夜間や休日に気づいた場合の連絡先も含めます。
  2. 触らせない情報:患者さんの診療情報など、AIエージェントに読ませたり操作させたりしない範囲を、医事課・看護部・情報システム部門で先に決めます。
  3. 契約での責任分界:AIエージェントが誤った処理をしたとき、どこまでが事業者の責任で、どこからが病院の確認の責任なのかを、契約前に事業者と書面で確かめます。
  4. 費用の形:固定料金か、使った量に応じた料金かで、利用が増えたときの予算が大きく変わります。見積もりの段階で、利用量が増えた場合の金額も出してもらうと比べやすくなります。

まとめ

  • デジタル庁の有識者会議で、生成AIの調達ガイドライン充実に向けて、AIエージェントの止め方、機密性の高い情報の扱い、責任分界、料金の形が議論されました。
  • 政府機関向けの議論ですが、病院がAIエージェントを導入するときの確認点としても参考になります。
  • 導入前に、止める人と範囲、触らせない情報、契約上の責任分界、料金の形を決めておくと、運用が安定しやすくなります。
  • この記事は一般的な情報であり、特定の製品やサービスを推薦するものではありません。

本サイトのコンテンツは、一般的な情報提供と研究・教育を目的としており、特定の患者さんに対する医学的な診断や助言に代わるものではありません。

← ブログ