病院AI研究所 HOSPITAL AI LAB — 医療AIの実務情報

更新日:

院内マニュアルをAIに読ませる前に、医事課と看護部が決める4つのこと

マニュアルを参照して答えるAI(RAG)を院内で使う前に何を決めるか。デジタル庁「源内」の行政実務用RAGの注意点を手がかりに整理します。

「この手続きはどの様式を使うのか」「夜間の連絡手順はどこに書いてあったか」。病院では、マニュアルや規程を探すだけで時間がかかる場面が少なくありません。そこで、院内の文書をAIに読み込ませ、質問に答えさせる仕組みに関心が集まっています。デジタル庁は、政府職員向けの生成AI環境「ガバメントAI 源内」で提供している「行政実務用RAG」の解説ページを公開しました。行政機関向けの内容ですが、病院の医事課や看護部がこの種の仕組みを検討するときにも参考になる注意点が書かれています。

行政実務用RAGとは

ページによると、行政実務用RAGは、マニュアルやガイドライン、報告書などの業務文書を外部データとして登録し、AIに参照させるアプリです。RAGは「検索拡張生成」と呼ばれる技術で、AIがあらかじめ与えられた資料を探して、その内容をもとに回答する仕組みだと説明されています。利用者がふだんの言葉で質問すると、AIが関連する情報を探し、整理や要約をします。

紹介されている例の一つは、文書管理システムのマニュアルを参照して起案の方法を案内するアプリで、回答には参照したファイル名とページ番号が表示されるとされています。

ページが挙げている注意点

ページには、使うときの注意として次の点が書かれています。

  • AIの回答には誤りや抜けが含まれることがあるため、利用者が最終確認をする
  • 日付、文書番号、数値は必ず引用元の資料で確認する
  • 判断に使う場合は、回答の根拠となった規程の原文を確認する
  • 扱える情報の範囲は、各府省庁のルールに従う

資料を参照するAIでも、もっともらしい誤り(ハルシネーション)がなくなるわけではない、という前提に立った書き方です。

病院で先に決めておきたい4つのこと

以下は、ページの注意点をもとに私たちが考えた確認項目で、ページに書かれているものではありません。

  1. 最終確認するのは誰か:AIの回答をそのまま使わず、確認する担当を決めます。看護手順のように現場の安全に関わる内容は、看護部の担当者が原文で確かめる流れにしておくと安心です。
  2. 原文に戻れるか:回答に参照元の文書名やページが表示されるかを確認します。表示されない仕組みだと、日付や数値を原文で確かめるのが難しくなります。
  3. 登録する文書は最新か:古い版のマニュアルが残っていると、AIは古い手順を答えてしまいます。誰がいつ文書を差し替えるのかを決めておきます。
  4. 入れてよい情報の範囲:登録する文書や質問に、患者さんの個人情報を含めないルールを決め、研修とあわせて周知します。

まとめ

  • デジタル庁は、業務文書をAIに参照させる「行政実務用RAG」の解説ページを公開し、回答の最終確認や原文の確認を利用者に求めています。
  • RAGは資料をもとに答える仕組みですが、誤りや抜けがなくなるわけではありません。
  • 病院で使う前に、最終確認の担当、原文への戻り方、文書の更新、入力してよい情報の範囲を決めておくと、運用が安定しやすくなります。
  • この記事は一般的な情報であり、特定の製品やサービスを推薦するものではありません。

本サイトのコンテンツは、一般的な情報提供と研究・教育を目的としており、特定の患者さんに対する医学的な診断や助言に代わるものではありません。

← ブログ