Key Notes
- RAG adalah singkatan dari Retrieval-Augmented Generation.
- RAG menghubungkan model bahasa besar atau LLM dengan sumber informasi eksternal.
- Sistem mengambil informasi yang relevan sebelum LLM menghasilkan jawaban.
- Knowledge base RAG dapat berupa dokumen, database, halaman web, atau sumber lain yang dapat dicari.
- RAG berguna ketika aplikasi AI membutuhkan informasi khusus atau informasi yang dapat diperbarui.
- RAG dapat membantu memberikan grounding yang lebih baik, tetapi tidak membuat AI bebas dari kesalahan.
- Kualitas sumber dan proses retrieval sangat memengaruhi kualitas hasil akhirnya.
 |
| Gambar Apa itu RAG dalam kecerdasan buatan |
Pendekatan ini menjadi penting karena aplikasi berbasis LLM terkadang perlu menjawab pertanyaan menggunakan informasi yang tidak cukup hanya mengandalkan pengetahuan dari proses pelatihan model. Kalau kamu masih mempelajari fondasinya, pembahasan apa itu Artificial Intelligence (AI) dapat membantu memahami posisi RAG dalam ekosistem AI yang lebih luas.
Apa Itu RAG dalam AI?
Retrieval-Augmented Generation dapat dipahami melalui dua proses utama. Retrieval berarti mengambil informasi yang relevan dari sumber yang tersedia, sedangkan generation adalah proses ketika model generatif menggunakan konteks tersebut untuk menghasilkan respons.
Jadi, RAG bukan nama lain untuk LLM. RAG merupakan pendekatan atau arsitektur yang menambahkan komponen pencarian informasi ke dalam alur penggunaan model generatif. Konsep ini berkaitan erat dengan cara kerja Generative AI , tetapi RAG menambahkan tahap retrieval agar model memperoleh informasi eksternal yang relevan sebelum menyusun jawaban.
Sumber eksternal itu dapat berisi dokumen perusahaan, panduan, database, artikel, atau kumpulan informasi lain yang memang disiapkan untuk dicari sistem. Karena itu, RAG cocok untuk aplikasi yang perlu menjawab pertanyaan berdasarkan pengetahuan tertentu.
Bagaimana Cara Kerja RAG?
Cara kerja RAG pada dasarnya adalah mencari informasi terlebih dahulu, kemudian memberikan hasil pencarian tersebut sebagai tambahan konteks kepada model. Jika kamu belum familiar dengan proses model menghasilkan konten dari prompt dan konteks, artikel pengertian dan cara kerja Generative AI bisa menjadi referensi pendamping sebelum mempelajari alur RAG lebih jauh.
1. Pengguna Memberikan Pertanyaan
Proses dimulai ketika pengguna mengirim pertanyaan atau prompt. Misalnya, seorang karyawan bertanya, “Berapa lama cuti tahunan yang berlaku berdasarkan kebijakan perusahaan terbaru?”
2. Sistem Mencari Informasi yang Relevan
Komponen retrieval mencari informasi yang dianggap paling relevan dari knowledge base. Pada beberapa implementasi, dokumen diubah menjadi embeddings dan disimpan agar dapat dicari berdasarkan kemiripan semantik. Vector database umum digunakan dalam arsitektur semacam ini, tetapi desain sistem retrieval dapat berbeda-beda.
3. Informasi Ditambahkan ke Prompt
Bagian dokumen yang berhasil ditemukan kemudian diberikan kepada LLM bersama pertanyaan awal. Dengan demikian, model memperoleh konteks tambahan yang lebih spesifik untuk menjawab permintaan pengguna.
4. LLM Menghasilkan Jawaban
LLM memproses pertanyaan dan konteks hasil retrieval untuk menyusun respons. Dengan alur ini, model tidak hanya menerima pertanyaan pengguna, tetapi juga informasi tambahan yang telah ditemukan oleh sistem retrieval.
 |
| Illustrasi:Infografis tahapan cara kerja Retrieval-Augmented Generation. |
Apa Bedanya LLM Biasa dengan LLM yang Menggunakan RAG?
Perbedaan utamanya bukan berarti satu model “pintar” dan yang lain tidak. RAG menambahkan proses retrieval sehingga aplikasi dapat memberikan informasi eksternal kepada LLM pada saat pertanyaan diproses. Untuk melihat konteksnya dalam teknologi AI secara lebih luas, kamu juga bisa membaca pembahasan tentang cara kerja dan contoh Artificial Intelligence di MTalkblog.
| Aspek | LLM tanpa RAG | LLM + RAG |
|---|---|---|
| Retrieval eksternal | Tidak memiliki proses retrieval RAG | Mengambil informasi dari sumber eksternal |
| Knowledge khusus | Bergantung pada model dan konteks yang diberikan | Dapat mengambil knowledge base tertentu |
| Pembaruan sumber | Membutuhkan mekanisme lain | Knowledge base dapat diperbarui terpisah |
| Grounding | Tidak otomatis berdasarkan dokumen retrieval | Respons dapat diarahkan berdasarkan dokumen yang ditemukan |
| Arsitektur | Lebih sederhana | Membutuhkan komponen retrieval tambahan |
RAG juga berbeda dari fine-tuning. Fine-tuning melatih model lebih lanjut menggunakan data tertentu sehingga parameter atau perilakunya disesuaikan, sedangkan RAG mengambil informasi eksternal ketika sistem digunakan. Keduanya bahkan dapat digunakan bersama.
Seperti Apa Contoh Penggunaan RAG?
Bayangkan sebuah perusahaan memiliki puluhan PDF berisi SOP, aturan cuti, panduan kerja, dan kebijakan internal. Perusahaan ingin membuat chatbot yang membantu karyawan mencari informasi dari dokumen tersebut.
Ketika seorang karyawan bertanya tentang kebijakan cuti, sistem RAG mencari bagian dokumen yang paling relevan. Potongan informasi tersebut kemudian diberikan kepada LLM bersama pertanyaan pengguna. LLM selanjutnya menyusun jawaban berdasarkan konteks yang diterima. Tahap menghasilkan respons ini merupakan bagian yang berkaitan dengan kemampuan AI generatif menghasilkan konten berdasarkan input dan konteks yang diberikan.
Contoh seperti ini menunjukkan mengapa RAG berguna untuk sistem AI yang harus bekerja dengan informasi khusus organisasi. Namun, penggunaan RAG tidak otomatis membuat jawabannya benar. Jika dokumen sumber sudah kedaluwarsa atau retrieval memilih bagian yang tidak relevan, jawaban model juga dapat bermasalah.
Apa Manfaat RAG?
Salah satu manfaat utama RAG adalah kemampuan menghubungkan LLM dengan informasi yang lebih spesifik terhadap kebutuhan aplikasi. Organisasi dapat memperbarui knowledge base tanpa harus selalu melatih ulang model setiap kali isi sumber berubah. RAG juga dapat membantu menghasilkan respons yang lebih relevan karena model memperoleh konteks dari dokumen yang berhubungan dengan pertanyaan.
Manfaat tersebut menunjukkan salah satu cara teknologi kecerdasan buatan digunakan dalam aplikasi yang membutuhkan informasi spesifik. RAG menambahkan sumber pengetahuan eksternal agar aplikasi berbasis LLM tidak hanya bergantung pada konteks yang sebelumnya tersedia bagi model.
RAG juga dapat membantu mengurangi risiko halusinasi dengan memberikan grounding pada informasi yang ditemukan. Namun, kata kuncinya adalah membantu mengurangi, bukan menghilangkan. Model masih dapat menghasilkan respons yang keliru apabila informasi yang diambil tidak relevan, tidak lengkap, atau salah ditafsirkan.
Apa Keterbatasan RAG?
Kualitas RAG sangat bergantung pada kualitas sistem retrieval dan sumber yang digunakan. Jika informasi yang tersedia salah, tidak lengkap, atau sudah tidak berlaku, LLM dapat memperoleh konteks yang buruk.
Masalah juga dapat terjadi ketika sistem mengambil dokumen yang sebenarnya tidak relevan dengan pertanyaan. Selain itu, model masih harus menafsirkan konteks yang diberikan dan dapat menghasilkan kesimpulan yang keliru. Risiko seperti ini penting dipahami bersama keterbatasan Generative AI karena penambahan retrieval tidak menghapus keterbatasan model generatif yang menyusun jawaban.
Karena itu, RAG lebih tepat dipahami sebagai cara memberikan akses dan konteks tambahan kepada LLM, bukan sebagai mekanisme yang menjamin setiap jawaban benar. Knowledge base juga perlu dipelihara agar informasi yang tersedia tetap relevan.
Kesimpulan
RAG AI atau Retrieval-Augmented Generation adalah pendekatan yang menggabungkan pencarian informasi dengan kemampuan generatif LLM. Sistem mengambil informasi relevan dari sumber eksternal, menambahkannya sebagai konteks, lalu menggunakan LLM untuk menghasilkan jawaban.
Pendekatan ini berguna ketika aplikasi AI membutuhkan knowledge base khusus atau informasi yang dapat diperbarui. Meski demikian, kualitas sumber, retrieval, dan model tetap menentukan kualitas respons. Kalau ingin memperkuat pemahaman dari konsep dasarnya, kamu dapat kembali ke pembahasan konsep Artificial Intelligence dan cara kerjanya .
FAQ tentang RAG AI
Beberapa pertanyaan berikut melengkapi pembahasan RAG dan hubungannya dengan model generatif. Untuk fondasi yang lebih luas, lihat juga panduan Generative AI untuk pemula .
Apa bedanya RAG dengan fine-tuning AI?
RAG mengambil informasi eksternal ketika sistem memproses permintaan, sedangkan fine-tuning melatih model lebih lanjut menggunakan data tertentu. Fine-tuning memengaruhi model, sementara RAG memberikan konteks tambahan tanpa harus melatih ulang model untuk setiap pembaruan knowledge base.
Apakah RAG dapat mengurangi halusinasi AI?
Ya, RAG dapat membantu menurunkan risiko halusinasi karena respons dapat di-grounding pada informasi eksternal yang relevan. Namun, RAG tidak menjamin jawaban selalu benar karena sumber, proses retrieval, maupun interpretasi model masih dapat mengalami kesalahan.
Apakah RAG membutuhkan vector database?
Tidak selalu harus dipahami sebagai persyaratan mutlak. Vector database dan embeddings umum digunakan untuk semantic retrieval dalam sistem RAG, tetapi arsitektur retrieval dapat dirancang dengan pendekatan berbeda sesuai data dan kebutuhan aplikasinya.
Mengapa RAG berguna untuk bisnis?
RAG memungkinkan aplikasi LLM menggunakan sumber khusus seperti dokumen atau knowledge base internal. Ini berguna untuk chatbot perusahaan, pencarian dokumentasi, atau sistem tanya jawab yang perlu memberikan respons berdasarkan informasi organisasi.
Apakah RAG sama dengan mesin pencari?
Tidak. Retrieval memang memiliki fungsi mencari informasi, tetapi RAG meneruskan informasi yang ditemukan kepada model generatif sebagai konteks untuk menghasilkan respons. Dengan demikian, retrieval merupakan salah satu bagian dari keseluruhan proses RAG.