Studi: AI Kesehatan Sering Keliru Tentukan Urgensi

Kecerdasan buatan atau Artificial Intelligence (AI) kini memegang peran penting dalam pengambilan keputusan medis bagi banyak orang. Perusahaan penyedia layanan ChatGPT, OpenAI, mencatat bahwa lebih dari 40 juta orang mencari informasi kesehatan melalui platform tersebut setiap harinya.

Namun, penelitian terbaru memberikan peringatan serius mengenai potensi AI dalam memberikan informasi kesehatan yang menyesatkan dalam kondisi medis tertentu. Salah satu masalah utama adalah meskipun AI memiliki akses ke pengetahuan medis yang luas, banyak pengguna awam tidak tahu cara memanfaatkannya secara efektif.

Sebuah studi yang dipublikasikan di jurnal Nature Medicine mensimulasikan penggunaan chatbot medis oleh para peserta. Hasilnya menunjukkan bahwa setelah berdiskusi dengan bot, peserta hanya mampu mengidentifikasi kondisi penyakit dengan benar sekitar sepertiga dari total kasus yang disajikan. Selain itu, hanya 43 persen peserta yang mampu membuat keputusan yang tepat mengenai langkah selanjutnya, seperti apakah perlu segera ke Unit Gawat Darurat (IGD) atau cukup beristirahat di rumah.

Andrew Bean, peneliti sistem AI dari Oxford University dan salah satu penulis studi tersebut, menyatakan bahwa banyak orang tidak menyadari informasi apa saja yang seharusnya mereka sampaikan kepada model AI. Efektivitas hasil yang diberikan AI sangat bergantung pada pilihan kata yang digunakan pengguna.

Bean menjelaskan perbedaan respons AI berdasarkan input. Dalam satu contoh kasus, dua pengguna menggambarkan kondisi yang sama. Pengguna yang menggunakan frasa seperti "sakit kepala terburuk yang pernah saya rasakan" langsung diarahkan AI ke IGD. Sementara itu, pengguna yang tidak memakai deskripsi eksplisit tersebut hanya disarankan meminum aspirin, padahal kondisi yang dialami sebenarnya mengancam nyawa.

Temuan studi lain menunjukkan bahwa meskipun AI mampu mengidentifikasi penyakit, sering kali ia gagal menyampaikan tingkat urgensi yang akurat. Dalam 52 persen kasus darurat, bot melakukan under-triage—menganggap penyakit kurang serius dari kondisi sebenarnya. Girish Nadkarni, dokter dan peneliti AI di Mount Sinai, mencatat bahwa ChatGPT berhasil menangani keadaan darurat medis yang sesuai dengan buku teks.

Masalah muncul pada skenario yang lebih kompleks dan melibatkan faktor waktu. Bot cenderung salah memperkirakan berapa lama pasien bisa menunda perawatan. OpenAI menanggapi temuan ini dengan menyatakan bahwa studi tersebut mungkin tidak mencerminkan penggunaan ChatGPT di dunia nyata dan bahwa versi yang digunakan dalam penelitian adalah versi lama yang sudah diperbaiki.

Meskipun ada kekhawatiran mengenai akurasi, para dokter melihat manfaat positif dari AI. Dr. Robert Wachter dari UC San Francisco berpendapat bahwa saran dari AI lebih baik daripada tidak ada saran sama sekali, terutama di tengah sulitnya akses layanan kesehatan. Ia mengatakan saran dari alat ini jauh lebih baik daripada tidak ada panduan atau hanya bertanya kepada kerabat.

Namun, Wachter menekankan bahwa AI bukan pengganti dokter. Adam Rodman, peneliti dari Harvard Medical School, menyarankan agar AI digunakan sebelum atau setelah bertemu dokter manusia. Tujuannya adalah agar pasien lebih terinformasi, sehingga waktu konsultasi dengan dokter menjadi lebih efisien. Rodman menyimpulkan bahwa teknologi ini seharusnya meningkatkan aspek kemanusiaan dalam kedokteran, bukan malah mengurangi hubungan antara dokter dan pasien.

Ringkasan Konten

• OpenAI mencatat lebih dari 40 juta orang mencari informasi kesehatan harian melalui ChatGPT.
• Penelitian menunjukkan pengguna awam kesulitan memanfaatkan AI secara efektif; peserta studi hanya mampu mengidentifikasi penyakit sekitar sepertiga kasus dengan benar.
• Akurasi respons AI sangat bergantung pada deskripsi input pengguna; pilihan kata yang berbeda untuk kasus serupa menghasilkan saran yang berbeda drastis.
• AI sering kali salah menilai urgensi, melakukan under-triage dalam 52 persen kasus darurat.
• Para ahli menyarankan AI digunakan sebagai mitra informasi sebelum atau sesudah bertemu dokter, bukan sebagai pengganti profesional medis.