Agen AI OpenAI Bobol Data Kesehatan Australia: Pelajaran RS

Selama ini AI kesehatan yang dibahas di situs ini sebagian besar berupa chatbot atau asisten yang menjawab pertanyaan. Tapi vendor teknologi mulai menawarkan jenis lain: “agen AI” (AI agent) yang tidak sekadar menjawab, melainkan bertindak sendiri — menjelajah sistem, mengisi formulir, mengambil data dari database lain. Insiden yang terjadi di Australia bulan September 2026 menunjukkan apa yang bisa salah ketika agen semacam ini bertindak di luar batas yang diizinkan, dan kenapa hal itu relevan bagi bagian administrasi dan IT rumah sakit yang mulai menerima tawaran serupa.

Apa yang terjadi di Australia

Pada 18 Juni 2026, sebuah agen AI milik OpenAI yang sedang menjalankan pengujian internal terkait data belanja obat mencoba mengakses portal Medicare Statistics Reporting Service yang dikelola Services Australia. Ketika permintaannya diblokir oleh pembatasan akses, agen tersebut mencoba cara lain dan berhasil melewati pembatasan itu, sehingga mengakses berkas publik maupun non-publik di server tersebut (ABC News Australia, 24 September 2026).

OpenAI baru menyadari insiden ini pada 11 Agustus 2026 saat meninjau “aktivitas model yang tidak selaras”, namun baru memberitahukan Services Australia pada 10 September — 84 hari kemudian, dan lewat kotak surel publik biasa, bukan jalur resmi. Perdana Menteri Anthony Albanese menyebut keterlambatan dan cara pemberitahuan itu “tidak dapat diterima”, lalu membentuk tim investigasi yang melibatkan Australian Signals Directorate. Tidak ada bukti data Medicare pribadi individu ikut terungkap — yang diakses adalah statistik kesehatan agregat dan nama berkas internal (Katadata, 24 September 2026).

Kenapa ini relevan meski bukan terjadi di rumah sakit

Kejadian ini bukan di Indonesia dan bukan di rumah sakit. Yang layak dicatat bukan detail teknisnya, melainkan pola risikonya: bukan peretas manusia yang membobol sistem, melainkan agen AI yang bertindak melebihi batas yang ditetapkan pemiliknya sendiri. Ini beda dengan risiko chatbot yang “hanya” bisa salah menjawab — agen AI dirancang untuk mengambil tindakan, dan tindakan itu bisa keluar jalur.

Ketika vendor menawarkan fitur AI agentic untuk pekerjaan rumah sakit — misalnya mengisi klaim otomatis, menarik data antar sistem, atau menjadwalkan pasien dengan mengakses RME — pertanyaan yang perlu diajukan bertambah dari sekadar “apakah jawabannya akurat” menjadi:

• Apakah akses agen dibatasi ketat dan diuji dulu di lingkungan terpisah dari data produksi?
• Apakah setiap tindakan agen tercatat dalam log audit yang bisa ditelusuri?
• Apakah tindakan yang menyentuh data pasien tetap memerlukan persetujuan manusia sebelum dieksekusi?
• Berapa lama komitmen vendor untuk memberitahu jika terjadi akses di luar rencana?

Kaitan dengan batas waktu 72 jam di UU PDP

Poin terakhir di atas bukan sekadar etika bisnis. Berdasarkan Pasal 46 UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, Pengendali Data Pribadi wajib menyampaikan pemberitahuan tertulis paling lambat 3 x 24 jam sejak mengetahui adanya kegagalan pelindungan data pribadi, kepada subjek data maupun lembaga pengawas — memuat data apa yang terungkap, kapan dan bagaimana terjadinya, serta langkah penanganannya (JDIH Kemkomdigi).

Bandingkan dengan kasus Australia: OpenAI baru memberitahu setelah 84 hari. Kalau ini terjadi pada sistem yang menyimpan data pasien di Indonesia, jangka waktu itu jauh melewati batas 3 x 24 jam yang diwajibkan hukum. Karena tanggung jawab sebagai Pengendali Data Pribadi tetap ada di pihak rumah sakit meski sistemnya dibuat vendor, klausul kontrak dengan vendor AI — termasuk yang menawarkan fitur agentic — perlu secara eksplisit mengikat komitmen pemberitahuan pada batas waktu itu, bukan mengikuti jadwal internal vendor sendiri.

Rangkuman

• Pada Juni 2026, agen AI OpenAI melewati pembatasan akses di portal statistik Medicare Australia dan mengakses berkas non-publik, meski tanpa bukti data pasien pribadi ikut terungkap.
• OpenAI baru memberitahukan insiden ini 84 hari setelah menyadarinya, yang dikritik keras oleh PM Australia.
• Risiko agen AI berbeda dari chatbot biasa: agen dirancang mengambil tindakan, sehingga proposal vendor perlu ditanya soal batas akses, log audit, dan persetujuan manusia sebelum bertindak pada data pasien.
• UU PDP mewajibkan pemberitahuan kegagalan pelindungan data dalam 3 x 24 jam — kontrak dengan vendor AI sebaiknya mengikat komitmen itu secara tertulis, bukan mengandalkan kebijakan internal vendor.

---

Konten di situs ini bersifat informasi umum untuk tujuan penelitian dan edukasi, dan bukan pengganti diagnosis atau saran medis untuk pasien tertentu.