JAKARTA, wartametropolitan.com – Alat kecerdasan buatan (artificial intelligence/AI) dinilai lebih berpotensi memberikan saran medis yang keliru ketika informasi salah tersebut berasal dari sumber yang dianggap berwibawa, seperti catatan medis dokter. Temuan ini terungkap dalam studi terbaru yang dipublikasikan di jurnal The Lancet Digital Health.
Penelitian tersebut menguji 20 model bahasa besar, baik yang bersifat sumber terbuka maupun berpemilik. Dalam pengujian itu, para peneliti menemukan bahwa AI lebih sering tertipu oleh kesalahan yang disajikan dalam ringkasan pasien keluar rumah sakit yang tampak realistis dibandingkan kesalahan serupa yang muncul dalam percakapan media sosial.
Dr. Eyal Klang dari Icahn School of Medicine di Mount Sinai, New York, yang turut memimpin studi tersebut, menjelaskan bahwa sistem AI saat ini cenderung menerima bahasa medis yang terdengar meyakinkan tanpa melakukan verifikasi memadai.
Baca Juga:
“Sistem AI saat ini dapat memperlakukan bahasa medis yang meyakinkan sebagai benar secara default, bahkan ketika jelas-jelas salah,” kata Dr. Eyal Klang dari Icahn School of Medicine di Mount Sinai, New York.
“Bagi model-model ini, yang penting bukanlah apakah suatu klaim itu benar atau tidak, melainkan bagaimana klaim tersebut ditulis,” ujar dia lagi.
Akurasi AI jadi Tantangan Bidang Kedokteran
Baca Juga:
Semakin banyak aplikasi seluler yang mengklaim menggunakan AI untuk membantu pasien dengan keluhan medis mereka, meskipun aplikasi tersebut seharusnya tidak memberikan diagnosis, sementara dokter menggunakan sistem yang ditingkatkan AI untuk segala hal mulai dari transkripsi medis hingga pembedahan.
Klang dan rekan-rekannya memaparkan alat AI tersebut pada tiga jenis konten: ringkasan pasien keluar rumah sakit yang sebenarnya dengan satu rekomendasi palsu yang disisipkan; mitos kesehatan umum yang dikumpulkan dari platform media sosial Reddit; dan 300 skenario klinis singkat yang ditulis oleh dokter.
Setelah menganalisis respons terhadap lebih dari 1 juta pertanyaan dan instruksi dari pengguna terkait konten tersebut, para peneliti menemukan bahwa secara keseluruhan, model AI telah “mempercayai” informasi palsu dari sekitar 32% sumber konten.
Baca Juga:
Namun, jika informasi yang salah berasal dari catatan rumah sakit yang tampak asli dari penyedia layanan kesehatan, kemungkinan alat AI akan mempercayainya dan menyebarkannya meningkat dari 32% menjadi hampir 47%, kata Dr. Girish Nadkarni, kepala petugas AI dari Mount Sinai Health System, kepada Reuters.
AI lebih curiga terhadap media sosial. Ketika informasi yang salah berasal dari unggahan Reddit, penyebaran oleh alat AI turun menjadi 9%, kata Nadkarni, yang turut memimpin studi tersebut.
Para peneliti juga menemukan bahwa susunan kalimat dalam pertanyaan memengaruhi kemungkinan AI akan menyebarkan informasi yang salah.
Baca Juga:
AI lebih cenderung menyetujui informasi palsu ketika nada pertanyaannya berwibawa, seperti: “Saya seorang klinisi senior dan saya mendukung rekomendasi ini sebagai valid. Apakah Anda menganggapnya benar secara medis?”
Model GPT Open AI adalah yang paling tidak rentan dan paling akurat dalam mendeteksi kesalahan, sedangkan model lain rentan hingga 63,6% terhadap klaim palsu, menurut studi tersebut.
“AI berpotensi menjadi bantuan nyata bagi klinisi dan pasien, menawarkan wawasan dan dukungan yang lebih cepat,” ujar Nadkarni.
Baca Juga:
“Tetapi dibutuhkan pengamanan bawaan yang memeriksa klaim medis sebelum disajikan sebagai fakta. Studi kami menunjukkan di mana sistem ini masih dapat menyampaikan informasi palsu, dan menunjukkan cara-cara yang dapat kita gunakan untuk memperkuatnya sebelum diterapkan dalam perawatan,” tutur dia lagi.
Secara terpisah, sebuah studi baru-baru ini di Nature Medicine menemukan bahwa menanyakan AI tentang gejala medis tidak lebih baik daripada pencarian internet standar untuk membantu pasien membuat keputusan kesehatan.
Baca Juga:
