Hospital AI Lab HOSPITAL AI LAB — informasi praktis AI kesehatan

Diperbarui:

AI cenderung menyebut satu merek obat: catatan rumah sakit

Studi Nature Health: model bahasa hampir selalu memilih produk yang sama di antara obat sejenis. Artinya bagi pengadaan dan staf rumah sakit.

Semakin banyak orang, termasuk staf rumah sakit, bertanya soal obat kepada chatbot berbasis kecerdasan artifisial (AI). Biasanya kita memeriksa apakah AI menyebut zat aktif yang benar. Namun ada pertanyaan lain yang jarang diperhatikan: jika satu zat aktif dijual oleh beberapa perusahaan, produk mana yang disebut AI? Sebuah studi terbaru menunjukkan bahwa di sini AI tidak bersikap netral. Bagi bagian administrasi, pengadaan, dan farmasi rumah sakit, temuan ini layak dicermati.

Apa yang ditemukan peneliti

Pada Oktober 2026, jurnal Nature Health menerbitkan artikel berjudul “Large language models show product name convergence in drug recommendations”. Menurut ringkasan di Crossref, para peneliti menguji lima model bahasa besar (program seperti ChatGPT yang menghasilkan teks). Model diberi 177.120 skenario klinis rekaan yang mencakup 123 pasangan penyakit dan zat aktif, lalu diminta menyebut produk yang disetujui badan obat Amerika Serikat (FDA) dengan zat aktif tersebut.

Hasil utamanya: produk yang paling sering disebut rata-rata mendapat 97,5% dari rekomendasi pilihan pertama. Artinya, dari beberapa produk sejenis, model hampir selalu menyebut produk yang sama. Model-model yang berbeda pun hampir selalu sepakat. Produk yang direkomendasikan sering berbeda dari yang benar-benar diresepkan di lapangan dan biaya pengadaannya diperkirakan lebih tinggi. Model lebih sering memilih produk originator dan produk yang lebih terlihat di internet.

Peneliti juga mencoba mengubah kalimat perintah (prompt). Cara ini menggeser pilihan ke arah yang diinginkan, tetapi model tetap berpusat pada sedikit produk. Kesimpulan peneliti: sebelum dipakai luas, sistem seperti ini perlu dievaluasi dengan cermat dan diberi langkah pengendalian.

Sejalan dengan imbauan pemerintah

Pada 29 Oktober 2026, Kementerian Komunikasi dan Digital (Komdigi) mengingatkan masyarakat untuk tidak langsung memercayai jawaban chatbot. Menurut detikINET, Komdigi menyebut jawaban AI dihasilkan dari pola yang dipelajari sehingga bisa keliru, dan menyarankan agar jawaban AI diverifikasi melalui sumber tepercaya. Imbauan ini bersifat umum, bukan tentang obat, tetapi prinsipnya sama.

Apa artinya bagi rumah sakit

Bagian ini adalah pemikiran kami berdasarkan temuan di atas, bukan kesimpulan studi.

  • Pengadaan obat. Jika staf menyusun perbandingan atau usulan dengan bantuan AI, jawaban AI bisa diam-diam mengarah ke satu produk yang sering kali lebih mahal. Keputusan pengadaan sebaiknya berpegang pada daftar obat resmi rumah sakit dan data harga, bukan jawaban chatbot.
  • Materi edukasi pasien. Saat menyiapkan materi dengan bantuan AI, periksa apakah muncul nama merek padahal cukup menyebut nama zat aktif.
  • Cara bertanya. Studi menunjukkan kalimat perintah memengaruhi hasil, tetapi tidak menghilangkan kecenderungan ini. Jadi pemeriksaan oleh manusia tetap perlu.
  • Menilai produk AI. Saat memilih sistem AI yang menyentuh informasi obat, tanyakan kepada vendor apakah sistemnya pernah diuji untuk netralitas komersial.

Keputusan peresepan tetap menjadi wewenang dokter dan diperiksa melalui sumber resmi.

Ringkasan

  • Dalam studi Nature Health, lima model bahasa rata-rata menyebut satu produk yang sama pada 97,5% rekomendasi pilihan pertama; pilihannya sering lebih mahal daripada praktik nyata.
  • Mengubah kalimat perintah hanya membantu sebagian.
  • Rumah sakit sebaiknya tidak bersandar pada jawaban AI untuk pengadaan dan memeriksa nama merek dalam materi yang disusun dengan AI.

Sumber


Konten situs ini bersifat informasi umum untuk keperluan penelitian dan edukasi, dan tidak menggantikan diagnosis atau nasihat medis untuk pasien tertentu.

Artikel ini bagian dari seri

Lihat semua seri

← Blog