Na-update:
Automation bias sa ospital: bakit hindi sapat na may taong nagsusuri
Binabalaan ng ASEAN Guide ang “rubber stamping”: nasasanay ang tao na aprubahan ang output ng AI. Paano ito gagamitin ng mga nurse leader at administrador.
“May doktor namang titingin sa resulta ng AI.” Karaniwan itong sagot kapag tinatanong kung ligtas ang isang AI tool. Ang ASEAN Guide on AI Governance and Ethics (2024) ay may babala tungkol dito, at praktikal ito para sa mga ospital.
Tatlong antas ng paglahok ng tao
Ayon sa gabay, batay sa pagtatasa ng panganib, may tatlong malawak na kategorya ng paglahok ng tao sa desisyong tinutulungan ng AI:
- Human-in-the-loop — rekomendasyon lamang ang ibinibigay ng AI at ginagamit ito ng tao bilang input; ang tao ang may buong kontrol sa desisyon. Halimbawa ng gabay: kapag ginagamit ang AI sa paghula ng medikal na kondisyon, ang mga doktor o medical professional pa rin ang nagdidiagnose at nagbibigay ng gamutan.
- Human-over-the-loop — nagbabantay at sumusubaybay ang tao at puwedeng makialam kapag hindi kumilos ang AI ayon sa inaasahan o may hindi inaasahang pangyayari.
- Human-out-of-the-loop — walang paglahok ng tao sa desisyon.
Sinasabi ng gabay na ang mga AI system na mataas ang bigat at posibilidad ng pinsala ay dapat gumamit ng human-in-the-loop, kung saan puwedeng akuin ng tao ang buong kontrol.
Ang babala: “rubber stamping”
Hindi sapat na may tao lang. Para maging tunay na human-in-the-loop, kailangang may sapat na pang-unawa ang tao sa mga salik na nakaimpluwensya sa desisyon ng AI at sa kung paano ito nakarating doon, para matukoy kung tumpak, patas o ligtas ang rekomendasyon. Dapat siyang maglaan ng oras at pagsisikap sa pagsusuri sa halip na tanggapin lang ang sagot ng AI para lang bumilis ang trabaho.
Nagbababala ang gabay sa automation bias (“rubber stamping risk”): kapag napakataas ng accuracy ng AI, nasasanay ang tao na aprubahan ang output at hindi napapansin ang paminsan-minsang pagkakamali dahil sa “muscle memory”.
Ano ang gagawin ng ospital
Mungkahi ito ng may-akda, hango sa babala ng gabay:
- Sa bawat AI tool, isulat kung anong antas ng paglahok ng tao ang ginagamit at bakit.
- Bigyan ng oras sa daloy ng trabaho ang taong nagsusuri; huwag itong gawing dagdag na pindot lang.
- Ipaliwanag sa taong nagsusuri kung anong mga salik ang tinitingnan ng AI.
- Magplano ng pana-panahong pagsubok kung saan sinasadya ang mga halimbawang may mali, para makita kung napapansin ang mga ito.
- Isali ang mga nurse na gumagamit ng tool sa pagdidisenyo ng daloy ng trabaho.
Buod
- Tatlong antas ng paglahok ng tao ang inilalarawan ng ASEAN Guide; human-in-the-loop para sa mataas na panganib.
- Hindi sapat ang tao lang; kailangang may oras at kakayahan siyang magsuri.
- Mag-ingat sa automation bias.
- Boluntaryo ang gabay at hindi legal na payo ang artikulong ito.
Mga sanggunian: ASEAN Guide on AI Governance and Ethics (2024). Binasa noong Nobyembre 14, 2026.