更新日:
生成AIに個人情報を入れる前に確認したい2点 — 個情委の注意喚起
個人情報保護委員会が公表した生成AIサービス利用の注意喚起を、病院の事務・看護の実務に引き寄せて整理します。入力前に確認したい二つの点が中心です。
文書の要約や案内文の下書きに、生成AIを使ってみたいという場面は病院にもあります。便利な一方で、「患者さんの情報が入った文章をそのまま貼り付けてよいのか」という疑問は、現場で繰り返し出てきます。この問いに対して、国の機関が出している基本的な考え方があります。個人情報保護委員会が令和5年(2023年)6月2日付で公表した「生成AIサービスの利用に関する注意喚起等」です。3ページほどの短い文書ですが、院内ルールを作るときの出発点になります。ここでは病院の事務・看護の実務に関わる部分を整理します。
どのような文書か
この注意喚起は、生成AIサービスを「質問・作業指示(プロンプト入力)等に応えて文章・画像等を生成するAIを利用したサービス」と説明しています。そのうえで、個人の権利利益を守る必要性と、新しい技術がもたらす公共的な利益とのバランスに留意しつつ、利用時の注意点を示すとしています。使うこと自体を禁じる文書ではありません。
注意点は、読み手ごとに三つに分かれています。
- (1) 個人情報取扱事業者における注意点
- (2) 行政機関等における注意点
- (3) 一般の利用者における留意点
なお、(2)の「行政機関等」には脚注で範囲が定められており、一部の法人は除かれています。自院が(1)と(2)のどちらに当たるかは設置主体によって変わるため、院内の個人情報担当に確認しておくと安心です。ただし、次に見るとおり、求められている確認の中身はほぼ共通しています。
入力前に確認する二つの点
事業者向けの(1)には、二つの注意点が書かれています。
一つ目は、個人情報を含むプロンプトを入力する場合、それが特定された利用目的を達成するために必要な範囲内であることを十分に確認することです。病院でいえば、その情報を集めたときの目的に照らして、AIに入力することが必要な範囲に収まっているか、という問いになります。
二つ目は、入力した情報の「その後」です。あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合、個人情報保護法の規定に違反することとなる可能性がある、とされています。そのため、サービスを提供する事業者が、その個人データを機械学習に利用しないこと等を十分に確認するよう求めています。
行政機関等向けの(2)も、同じ二点を軸にしています。利用目的のための必要最小限の利用又は提供であること、そして提供事業者が保有個人情報を機械学習に利用しないこと等を確認することです。
利用者としての留意点
(3)は一般の利用者向けですが、職員一人ひとりの心得としても読めます。
- 入力した個人情報が生成AIの機械学習に利用され、他の情報と結びついたうえで、正確または不正確な内容で出力されるリスクがあること
- 応答結果には不正確な内容が含まれることがあり、自然な文章であっても確率的な相関関係に基づいて生成されたものであること
- 提供事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容を踏まえて利用を判断すること
二つ目の点は、入力だけでなく「出力」にも注意が必要だということを示しています。AIが作った文章に人の情報が含まれている場合、それが正しいとは限りません。
病院の実務に引き寄せると
ここからは、上の内容をもとに当研究所が整理した確認事項です。公的な基準ではなく、院内で話し合う際のたたき台としてお読みください。
医事課・企画部門では、契約と設定の確認が中心になります。
- 職員が使っている生成AIサービスは、入力内容を機械学習に利用しない設定・契約になっているか。その根拠を利用規約などの文書で示せるか
- 個人で契約した無料サービスと、病院として契約したサービスで、扱いが違っていないか
- どの業務で、どの範囲の情報まで入力してよいかを、文書で決めているか
看護の現場では、入力する前の一手間が要になります。
- 申し送りや記録の下書きに使う場合、氏名や患者番号など、個人が分かる部分を外してから入力しているか
- AIが返した文章に人に関する記述があるとき、元の記録と照らして確かめているか
- 迷ったときに誰に聞けばよいかが、病棟で共有されているか
この注意喚起は、今後、追加の注意喚起等を実施する可能性があるとも述べています。院内ルールも一度作って終わりにせず、見直す機会を決めておくとよいでしょう。クラウド型AIを使う際の安全管理全般については、医療情報安全管理ガイドラインの確認点もあわせてご覧ください。
まとめ
- 個人情報保護委員会は令和5年6月2日付で、生成AIサービスの利用に関する注意喚起等を公表しています。
- 事業者・行政機関等に共通する確認点は二つです。入力が利用目的に照らして必要な範囲か、提供事業者が入力データを機械学習に利用しないか、です。
- 応答結果には不正確な個人情報が含まれるリスクがあり、出力の確認も欠かせません。
- 医事課は契約・設定と院内ルールを、看護の現場は入力前の匿名化と出力の照合を確認しておくと、日々の利用が安定します。
出典: 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」 / 別添1「生成AIサービスの利用に関する注意喚起等」(PDF)
本サイトのコンテンツは一般的な情報提供および研究・教育を目的としたものであり、特定の患者に対する医学的診断や助言に代わるものではありません。また、特定の医療機器の採用や個別の調達判断を推奨するものではありません。最新の制度内容は必ず一次情報でご確認ください。
この記事が属する連載
医療情報の取り扱いと安全管理8 / 13