更新日期:
AI給錯健康建議卻查不到紀錄:醫院能先做的事
《Nature Health》一篇論文指出,AI聊天機器人給出有害健康建議時,對話紀錄只留在廠商端,醫療人員難以追查。本文整理論文建議與院方可先做的準備。
越來越多病人在就醫前,會先向人工智慧(AI)聊天機器人詢問健康問題。如果 AI 給出的建議有誤,病人照著做而出了問題,醫院端往往看不到那段對話,也就很難判斷來龍去脈。2026 年 10 月 9 日刊登於《Nature Health》的論文〈The invisible risks of AI-generated health information〉,正是在談這個「看不見的風險」(Crossref 書目資料)。作者為 Matthew R. DeVerna、Harry Yaojun Yan、Kai-Cheng Yang 與 Filippo Menczer。以下依據科技新報與 Medical Xpress 的報導整理重點,並從醫院行政與護理的角度,看院方可以先做什麼。
論文指出的問題
根據報導,論文的核心論點是:AI 聊天機器人給出有害的健康建議時,對話紀錄通常只存在 AI 公司的系統裡。臨床人員、研究者與主管機關無從調閱,也沒有標準的通報與調查管道,因此這類傷害很難被發現與追蹤(科技新報)。
報導也提到一個案例:一名 60 歲男性為了減少飲食中的氯化物,向 ChatGPT 詢問後,改用溴化鈉取代食鹽,最後因溴中毒住院(Medical Xpress)。科技新報指出,主治醫師無法直接調閱那段對話,使得推斷病因更加困難。
此外,科技新報提到 AI 產生的錯誤健康資訊可能透過社群動態與搜尋引擎摘要擴散,連沒有主動查詢的人也可能接觸到。
論文的建議
依 Medical Xpress 報導,論文提出的建議包括:
- 讓使用者取得對話紀錄: AI 公司應讓使用者能方便取得自己的健康相關對話,以便分享給醫療人員。
- 建立通報與調查機制: 讓有疑慮的健康建議可以被標記、通報與調查。
- 標示與審核: 社群平台應更清楚標示 AI 生成的健康內容;搜尋引擎的摘要應只使用經過審核的資訊。
- 責任與獨立監督: 報導提到作者主張政策上檢討 AI 公司的責任,並由第三方進行獨立監測與評估。
這些建議的對象主要是 AI 公司、平台與政策制定者,而不是醫院。不過,醫院位在「出問題後病人會出現的地方」,有些準備可以先做。
院方可以先做的準備
以下為筆者的建議,並非法規要求,也不涉及個別病人的診斷或治療判斷:
- 在問診或護理評估時順口一問。 可在初診問卷或護理評估中加入「最近是否曾向 AI 詢問這個健康問題」的選項。若病人願意,可請病人自行開啟對話畫面給醫療人員參考。
- 避免院方自行保存不必要的截圖。 病人出示的對話內容可能包含個人資料。是否要記錄、記錄到什麼程度,宜先與院內個資窗口確認作法,不要讓同仁各自用手機拍照留存。
- 院內事件通報加一個分類。 若院內已有異常事件通報流程,可考慮加入「與 AI 健康建議有關」的勾選項,方便日後統計是否真的有這類情況。
- 衛教內容提醒病人。 在衛教單或候診區的說明中,提醒病人 AI 的回答不能取代醫療人員的判斷,有疑問時應先詢問醫療人員。
重點整理
- 《Nature Health》2026 年 10 月 9 日刊登的論文指出:AI 給出有害健康建議時,對話紀錄留在廠商端,醫療人員難以追查。
- 論文建議讓使用者取得對話紀錄、建立通報與調查機制、標示並審核 AI 健康內容。
- 院方可先在問診或護理評估中詢問 AI 使用情況、釐清對話內容的個資處理方式,並在事件通報中加入相關分類。
資料來源
- Crossref:DeVerna MR, Yan HY, Yang KC, Menczer F. The invisible risks of AI-generated health information. Nature Health, 2026-10-09(DOI 10.1038/s44360-026-00206-x)
- 科技新報,2026-10-20:AI 給錯醫療建議卻無跡可尋,研究籲建立追蹤與通報機制
- Medical Xpress,2026-10-09
本網站內容僅供一般資訊與研究教育用途,不能取代針對特定病患的醫學診斷或建議。