Dalam era digital yang semakin maju, kecerdasan buatan (AI) telah menjadi bagian tak terpisahkan dari kehidupan sehari-hari, termasuk dalam bidang kesehatan. Namun, sebuah studi terbaru mengungkapkan bahwa hampir setengah dari saran medis yang diberikan oleh chatbot berbasis AI dapat menyesatkan pengguna. Temuan ini menimbulkan kekhawatiran serius mengenai risiko kesehatan yang terkait dengan penggunaan teknologi ini.
Penelitian Mengenai Saran Medis Chatbot AI
Studi ini melibatkan kolaborasi para peneliti dari Amerika Serikat, Kanada, dan Inggris, yang meneliti lima platform chatbot AI yang terkenal: ChatGPT, Gemini, Meta AI, Grok, dan DeepSeek. Setiap platform diuji dengan sepuluh pertanyaan yang mencakup berbagai topik kesehatan.
Dari hasil evaluasi, sekitar 50 persen tanggapan dari chatbot dianggap bermasalah, dengan hampir 20 persen di antaranya dikategorikan sebagai sangat bermasalah. Hasil penelitian ini dipublikasikan dalam jurnal medis BMJ Open, yang menyoroti pentingnya memahami keterbatasan teknologi ini.
Kinerja Chatbot dalam Menanggapi Pertanyaan Kesehatan
Analisis menunjukkan bahwa chatbot AI lebih efektif dalam menjawab pertanyaan tertutup dan yang berkaitan dengan vaksinasi serta kanker. Namun, kinerjanya menurun pada pertanyaan terbuka dan topik yang lebih kompleks seperti sel punca dan nutrisi.
Menariknya, meskipun chatbot sering memberikan jawaban dengan tingkat keyakinan yang tinggi, tidak ada dari mereka yang menyertakan referensi yang lengkap dan valid untuk mendukung informasi yang diberikan.
Tantangan yang Dihadapi oleh Pengguna
Hanya dua dari lima chatbot yang menolak untuk memberikan jawaban, keduanya berasal dari Meta AI. Temuan ini menunjukkan tantangan besar yang dihadapi oleh pengguna ketika mereka berusaha mencari informasi kesehatan dari sumber yang tidak berlisensi.
Peningkatan popularitas chatbot AI sebagai sumber informasi kesehatan menambah risiko, karena pengguna mungkin tidak menyadari bahwa teknologi ini tidak memiliki kemampuan penilaian klinis untuk membuat diagnosis yang akurat.
Statistik Penggunaan Chatbot AI dalam Kesehatan
Data terbaru menunjukkan bahwa lebih dari 200 juta pengguna melakukan pencarian tentang kesehatan dan kebugaran melalui ChatGPT setiap minggunya. Ini menggarisbawahi bagaimana chatbot telah menjadi sumber informasi yang sering dicari oleh masyarakat.
- Lebih dari 200 juta pencarian kesehatan melalui ChatGPT setiap minggu.
- Pengguna semakin bergantung pada teknologi untuk mendapatkan saran medis.
- Chatbot AI telah menjadi alat yang umum digunakan dalam pencarian informasi kesehatan.
- Hanya dua jawaban yang ditolak oleh Meta AI dalam penelitian ini.
- Risiko penyebaran informasi yang salah semakin meningkat.
Risiko dan Keterbatasan Chatbot AI
Para penulis studi BMJ Open menegaskan bahwa penggunaan chatbot AI tanpa edukasi yang tepat dan pengawasan yang memadai dapat memperburuk masalah dengan memperkuat informasi yang salah. Hal ini sangat berbahaya, terutama dalam konteks kesehatan, di mana keputusan yang salah dapat memiliki konsekuensi serius.
Temuan ini menunjukkan bahwa meskipun chatbot dapat menghasilkan respons yang tampak kredibel, mereka seringkali tidak dapat diandalkan. Oleh karena itu, penting untuk mempertimbangkan cara di mana chatbot AI digunakan dalam komunikasi kesehatan yang berinteraksi langsung dengan publik.
Pentingnya Evaluasi Penggunaan Chatbot AI
Penelitian ini mendorong perlunya evaluasi ulang mengenai bagaimana chatbot AI berfungsi dalam konteks kesehatan. Pengguna perlu diajarkan untuk tidak mengambil informasi dari chatbot secara mentah-mentah tanpa melakukan verifikasi lebih lanjut.
- Perlu ada edukasi yang lebih baik bagi pengguna tentang risiko menggunakan chatbot AI.
- Pengawasan yang lebih ketat diperlukan untuk memastikan kualitas informasi yang diberikan.
- Pengembangan standar yang jelas untuk chatbot kesehatan harus dipertimbangkan.
- Penting untuk tidak mengandalkan chatbot sebagai sumber utama saran medis.
- Perlu adanya kolaborasi antara profesional kesehatan dan pengembang AI.
Kesimpulan
Studi ini memberikan wawasan penting mengenai keterbatasan saran medis yang diberikan oleh chatbot AI. Meskipun teknologi ini memiliki potensi untuk membantu, pengguna harus tetap berhati-hati dan skeptis terhadap informasi yang diterima. Dengan pemahaman yang lebih baik tentang risiko yang ada, diharapkan pengguna dapat membuat keputusan yang lebih informasi dan aman terkait kesehatan mereka.
➡️ Baca Juga: Veda Ega Tunjukkan Kekuatan Baru di Dunia Motorsport Brasil yang Mengukir Sejarah
➡️ Baca Juga: Iga Swiatek Rekrut Mantan Pelatih Rafael Nadal Usai Tersingkir di Miami Open