Sebuah studi chatbot AI kesehatan yang baru-baru ini diterbitkan dalam jurnal Nature Medicine mengungkap bahwa saran kesehatan dari chatbot kecerdasan buatan (AI) sering kali tidak akurat dan berpotensi menimbulkan risiko bagi pengguna.
Dilaporkan oleh Channel News Asia, penelitian tersebut melibatkan 1.200 peserta asal Inggris, yang sebagian besar tidak memiliki latar belakang medis. Para peserta diberikan skenario medis terperinci, termasuk gejala, gaya hidup, dan riwayat kesehatan.
Mereka diminta berinteraksi dengan chatbot AI untuk menentukan langkah yang tepat, seperti apakah perlu memanggil ambulans atau cukup melakukan perawatan mandiri di rumah.
Tingkat Akurasi Rendah
Hasil penelitian menunjukkan peserta hanya memilih tindakan yang dianggap “benar” oleh panel dokter kurang dari setengah waktu. Selain itu, mereka hanya mampu mengidentifikasi kondisi medis yang tepat, seperti batu empedu atau perdarahan subarachnoid, sekitar 34 persen dari keseluruhan kasus.
Peneliti menemukan sekitar setengah dari kesalahan terjadi akibat kekeliruan pengguna, seperti tidak memasukkan informasi penting atau tidak menyampaikan gejala yang paling relevan. Akibatnya, chatbot memberikan saran berdasarkan gambaran yang tidak lengkap.
Namun, ketika para peneliti memasukkan skenario medis lengkap secara langsung ke dalam chatbot, tingkat akurasi diagnosis meningkat drastis hingga 94 persen.
Tantangan dalam Konsultasi Medis Digital
Profesor di Oxford Internet Institute, Adam Mahdi, yang juga penulis senior studi tersebut, menyatakan bahwa pertanyaan medis yang rapi dan terstruktur tidak mencerminkan kondisi nyata di lapangan.
“Kedokteran tidak seperti itu. Kedokteran itu berantakan, tidak lengkap, dan bersifat stokastik,” ujarnya.
Sementara itu, Dr. Robert Wachter dari University of California San Francisco menekankan bahwa dalam menegakkan diagnosis, dibutuhkan kemampuan untuk memilah informasi relevan dan mengabaikan detail yang tidak penting.
“Ada banyak keajaiban kognitif dan pengalaman yang dibutuhkan untuk menentukan elemen-elemen penting dari suatu kasus yang kemudian dimasukkan ke dalam bot,” katanya.
Penulis utama studi tersebut, Andrew Bean dari Oxford, menilai beban merancang pertanyaan yang sempurna tidak seharusnya sepenuhnya ditanggung pengguna. Ia berpendapat chatbot AI seharusnya mampu mengajukan pertanyaan lanjutan layaknya dokter saat menggali informasi dari pasien.
Belum Siap untuk Perawatan Langsung
Para ahli juga menyoroti kecenderungan chatbot AI dalam memberikan saran yang terlalu berhati-hati atau sebaliknya, meremehkan gejala serius. Berdasarkan temuan tersebut, peneliti menyimpulkan bahwa model AI yang diuji masih belum siap untuk diterapkan dalam perawatan pasien secara langsung.
Dalam tiga tahun terakhir sejak chatbot AI tersedia luas untuk publik, pertanyaan seputar kesehatan menjadi salah satu topik paling sering diajukan pengguna. Namun, studi chatbot AI kesehatan ini menunjukkan pentingnya kehati-hatian dalam menggunakan teknologi tersebut sebagai sumber saran medis.
Para ahli menegaskan bahwa konsultasi langsung dengan tenaga medis profesional tetap menjadi langkah paling aman dalam menangani masalah kesehatan.
