Apa Itu AI Hallucination dan Kenapa Bisa Terjadi?

Key Notes

• AI hallucination terjadi ketika AI menghasilkan informasi yang terlihat masuk akal, tetapi ternyata salah atau tidak didukung fakta.
• Jawaban AI yang terdengar lancar dan yakin tidak otomatis akurat.
• Model bahasa menghasilkan respons berdasarkan pola dan prediksi, bukan dengan menjamin kebenaran setiap pernyataan.
• Hallucination dapat berupa fakta, tanggal, kutipan, penelitian, hingga referensi yang keliru atau tidak ada.
• Pertanyaan yang ambigu atau informasi yang tidak memadai dapat membuat jawaban lebih sulit diandalkan.
• Prompt yang jelas dapat membantu, tetapi tidak menjamin AI bebas dari hallucination.
• Informasi penting dari AI sebaiknya tetap diverifikasi melalui sumber tepercaya.

Illustrasi: AI hallucination pengertian & penyebabnya

AI hallucination adalah kondisi ketika model AI menghasilkan jawaban yang terdengar masuk akal atau meyakinkan, tetapi informasi tersebut sebenarnya salah atau tidak didukung fakta. Kesalahannya bisa berupa tanggal yang keliru, sumber yang tidak ada, kutipan yang dibuat-buat, hingga detail faktual yang tidak sesuai kenyataan.

Masalahnya, kesalahan tersebut tidak selalu terlihat jelas dari cara AI menjawab. Bahasa yang rapi dapat membuat sebuah respons tampak kredibel. Karena itu, memahami kenapa hallucination terjadi sama pentingnya dengan mengetahui cara menggunakan AI.

Apa Itu AI Hallucination?

Dalam konteks kecerdasan buatan (AI), AI hallucination merujuk pada keluaran model yang terlihat masuk akal, tetapi tidak akurat secara faktual. Bentuknya bisa sederhana seperti tanggal yang salah, maupun lebih sulit dikenali seperti judul penelitian dan referensi yang ternyata tidak pernah ada.

Istilah “hallucination” di sini merupakan istilah teknis dan tidak berarti AI mengalami persepsi atau halusinasi seperti manusia. Hal yang perlu diperhatikan pengguna adalah adanya perbedaan antara kelancaran sebuah jawaban dan kebenaran informasi di dalamnya.

Aspek	Ringkasan
Definisi	Output AI tampak masuk akal, tetapi salah atau tidak didukung fakta
Bentuk	Fakta, tanggal, nama, kutipan, studi, atau referensi
Masalah utama	Jawaban yang keliru dapat disampaikan dengan meyakinkan
Deteksi	Tidak selalu dapat diketahui hanya dari gaya bahasa
Respons pengguna	Periksa informasi penting melalui sumber tepercaya

Kenapa AI Hallucination Bisa Terjadi?

AI hallucination bukan sekadar masalah AI “tidak tahu jawabannya”. Cara model bahasa mempelajari pola dan menghasilkan respons juga penting untuk memahami mengapa kesalahan faktual bisa muncul.

AI memprediksi keluaran, bukan menjamin kebenaran

Model bahasa mempelajari pola dari data dalam jumlah besar dan, secara sederhana, dilatih untuk memprediksi kelanjutan teks. Proses tersebut memungkinkan AI menghasilkan bahasa yang sangat natural, tetapi kelancaran bahasa tidak sama dengan jaminan kebenaran.

Pada proses pretraining, misalnya, setiap pernyataan dalam teks tidak otomatis dilengkapi label “benar” atau “salah”. Fakta tertentu yang jarang muncul atau sulit diprediksi dari pola juga dapat menjadi sumber kesalahan. Penjelasan mengenai mekanisme ini juga dibahas dalam riset OpenAI tentang AI hallucination, termasuk hubungan antara prediksi bahasa, ketidakpastian, dan kecenderungan model untuk menebak.

Data dan konteks yang tersedia bisa terbatas

Tidak semua pertanyaan mempunyai jawaban yang mudah ditentukan. Informasi mungkin tidak tersedia, konteks pertanyaan kurang lengkap, atau prompt berbeda jauh dari pola yang dipelajari model.

Kesalahan dalam data juga dapat ikut berpengaruh. Jadi, terlalu sederhana jika kita mengatakan hallucination hanya terjadi karena “data AI kurang banyak”. Ada beberapa faktor yang dapat berinteraksi dan menghasilkan jawaban keliru.

Prompt yang ambigu dapat meningkatkan risiko jawaban keliru

Pertanyaan yang ambigu atau kompleks dapat membuat model harus menafsirkan maksud pengguna dengan informasi terbatas. Dalam situasi seperti ini, respons yang terdengar yakin belum tentu benar.

Memberikan konteks, batasan, dan tujuan yang jelas dalam prompt dapat membantu. Namun, prompt yang bagus bukan jaminan AI tidak akan melakukan hallucination. Untuk pertanyaan yang tidak dapat dipastikan, respons yang mengakui ketidakpastian justru lebih berguna daripada tebakan yang disampaikan sebagai fakta.

Gambar: Bagaimana AI Generatif Bisa Menghasilkan Hallucination

Seperti Apa Contoh AI Hallucination?

Bayangkan kamu meminta AI memberikan tiga jurnal ilmiah mengenai sebuah topik. AI kemudian memberikan judul jurnal, nama penulis, tahun penerbitan, bahkan format referensi yang terlihat profesional.

Ketika diperiksa ke situs penerbit atau basis data ilmiah, ternyata salah satu penelitian tersebut tidak pernah ada. Ini merupakan contoh ilustratif, bukan hasil pengujian MTalkblog.

Hallucination juga dapat muncul ketika AI memberikan tanggal peristiwa yang salah, mengaitkan sebuah kutipan dengan orang yang tidak pernah mengatakannya, atau menjelaskan fitur produk yang ternyata tidak tercantum dalam dokumentasi resmi.

Baca Juga: Apa Itu Generative AI? Cara Kerja, Contoh, dan Manfaatnya

Apa Dampak AI Hallucination bagi Pengguna?

Risikonya bergantung pada bagaimana output AI digunakan. Kesalahan mungkin tidak terlalu berdampak ketika AI hanya dimanfaatkan untuk mencari ide awal, tetapi kondisinya berbeda jika jawaban diperlakukan sebagai fakta final.

Misalnya, pengguna dapat memasukkan referensi yang ternyata tidak ada ke dalam tulisan, menggunakan spesifikasi produk yang keliru, atau mengambil keputusan berdasarkan informasi yang belum diverifikasi. Semakin penting akurasi sebuah informasi, semakin penting pula pemeriksaan terhadap sumbernya.

Bagaimana Cara Mengenali AI Hallucination?

Tidak ada satu tanda yang selalu membuktikan sebuah jawaban merupakan hallucination. Namun, kamu dapat lebih waspada ketika AI memberikan klaim sangat spesifik tanpa sumber yang dapat diperiksa, referensi yang tidak ditemukan, atau informasi yang berubah ketika pertanyaan diperiksa kembali.

Untuk informasi faktual, coba telusuri nama penulis, judul penelitian, tanggal, angka, atau kutipan pada sumber aslinya. Jika AI mencantumkan sumber, jangan berhenti pada keberadaan link atau nama sumber. Buka sumber tersebut dan pastikan isinya benar-benar mendukung klaim yang diberikan. Panduan OpenAI tentang akurasi ChatGPT juga menyarankan pengguna memeriksa informasi penting melalui sumber yang dapat dipercaya.

Nada jawaban juga tidak dapat dijadikan ukuran kebenaran. AI dapat terdengar yakin sekalipun jawabannya salah.

Bagaimana Cara Mengurangi Risiko AI Hallucination?

Kamu dapat mengurangi risiko dengan memberikan instruksi yang lebih jelas. Jelaskan konteks, tujuan, batasan jawaban, serta informasi yang sudah diketahui. Jika fakta tidak pasti, kamu juga dapat meminta AI menyatakan ketidakpastian daripada menebak.

Selanjutnya, minta sumber ketika memang relevan dan periksa sumber tersebut secara langsung. Untuk informasi terkini atau topik khusus, fitur pencarian web dapat membantu memperoleh informasi yang lebih baru dan menyertakan sumber. Namun, hasil pencarian dan kutipan tetap perlu diperiksa karena keduanya juga dapat tidak lengkap atau keliru.

Untuk informasi penting, jadikan AI sebagai alat bantu dalam proses mencari dan mengolah informasi, bukan satu-satunya sumber kebenaran.

Apakah AI Hallucination Bisa Dihilangkan Sepenuhnya?

Mengurangi hallucination tidak sama dengan menjamin setiap jawaban AI selalu benar. Salah satu pendekatan penting adalah membuat model lebih mampu mengakui ketidakpastian atau tidak memberikan jawaban spesifik ketika informasi memang tidak cukup.

Karena itu, fokus pengguna sebaiknya bukan mencari satu “prompt anti-hallucination” yang dianggap sempurna. Kebiasaan memberi konteks yang baik, mengenali ketidakpastian, dan memverifikasi fakta tetap dibutuhkan saat menggunakan AI.

Related Post: Pemanfaatan AI untuk Evaluasi Belajar di Sekolah

Kesimpulan

AI hallucination adalah keluaran AI yang terlihat masuk akal tetapi faktanya keliru atau tidak didukung informasi yang memadai. Fenomena ini berkaitan dengan cara model menghasilkan respons, keterbatasan informasi, dan kondisi pertanyaan yang dihadapi.

Prompt yang lebih jelas dapat membantu, tetapi bukan jaminan. Jika sebuah informasi penting, biasakan memeriksa fakta, kutipan, angka, dan referensi langsung melalui sumber tepercaya.

Ingin memperkenalkan brand atau usahamu melalui artikel? Kamu juga dapat melihat layanan content placement MTalkblog untuk mengetahui opsi kerja sama yang tersedia.

FAQ tentang AI Hallucination

Apa yang dimaksud dengan AI hallucination?

AI hallucination adalah kondisi ketika model AI menghasilkan informasi yang terlihat masuk akal, tetapi sebenarnya salah atau tidak didukung fakta. Kesalahan dapat berupa nama, tanggal, kutipan, sumber, referensi, atau detail lain yang disampaikan seolah-olah benar.

Mengapa ChatGPT bisa memberikan jawaban yang salah?

ChatGPT menghasilkan respons berdasarkan pola yang dipelajari dan prediksi keluaran. Proses tersebut tidak menjamin setiap pernyataan benar secara faktual. Keterbatasan informasi, konteks pertanyaan, dan ketidakpastian model juga dapat memengaruhi akurasi jawaban.

Apakah AI hallucination sama dengan informasi palsu?

Tidak selalu. AI hallucination menggambarkan keluaran model yang keliru atau tidak didukung fakta. Istilah tersebut tidak dengan sendirinya menunjukkan adanya niat untuk menipu, sedangkan penyebaran informasi palsu oleh manusia dapat melibatkan konteks dan maksud yang berbeda.

Bagaimana cara mengetahui jawaban AI benar atau salah?

Periksa klaim penting melalui sumber tepercaya, terutama sumber primer. Pastikan judul penelitian, nama penulis, tanggal, angka, kutipan, dan link benar-benar ada serta mendukung pernyataan AI. Jangan menggunakan nada jawaban yang meyakinkan sebagai ukuran akurasi.

Apakah prompt yang baik bisa mencegah AI hallucination?

Prompt yang jelas dapat memberikan konteks dan batasan yang lebih baik sehingga membantu model menghasilkan respons yang lebih sesuai. Namun, prompt yang baik tidak menjamin hallucination hilang sepenuhnya. Informasi faktual yang penting tetap perlu diverifikasi.