Halusinasi dan cara mengecek jawaban

1.3 Halusinasi dan cara mengecek jawaban

Tujuan belajar

• Memahami mekanisme timbulnya halusinasi pada model bahasa besar (LLM).

• Mengenali tanda-tanda tipikal halusinasi seperti kutipan palsu, tautan fiktif, dan angka tanpa rujukan.

• Menguasai teknik cross-checking dan grounding prompt untuk menekan probabilitas kekeliruan.

• Mengetahui kapan fitur penelusuran web (web retrieval) wajib diaktifkan untuk memeriksa fakta.

Yang perlu disiapkan

• Akses ke asisten AI dengan fitur web search.

• Akses ke mesin pencari publik atau portal berita terpercaya untuk verifikasi pembanding.

• Sikap kritis dan skeptisisme sehat terhadap klaim statistik dan rujukan perundang-undangan.

Isi materi

Dalam terminologi kecerdasan buatan, halusinasi (hallucination) adalah kondisi di mana model AI menghasilkan pernyataan yang terdengar sangat meyakinkan, logis, dan percaya diri, padahal informasi tersebut salah secara faktual atau bahkan sepenuhnya karangan fiktif.

Mengapa halusinasi terjadi? Model bahasa besar tidak memiliki basis data fakta terindeks seperti ensiklopedia digital kaku. Model menyusun kalimat berdasarkan korelasi asosiasi kata yang paling mungkin. Ketika model ditanya mengenai topik yang sangat spesifik, langka, atau peristiwa yang terjadi di luar data latihnya, model tetap terdorong secara algoritmik untuk merangkai jawaban yang terdengar fasih. Akibatnya, model menggabungkan potongan informasi yang terpisah menjadi satu fakta palsu yang tampak kredibel.

Bentuk-bentuk halusinasi yang paling sering ditemui dalam pekerjaan kantor antara lain:

1. Rujukan hukum dan regulasi palsu (misalnya menyebutkan nomor pasal Undang-Undang Ketenagakerjaan yang tidak pernah ada isinya).

2. Tautan URL web mati atau mengarang nama berkas PDF di situs pemerintah.

3. Statistik dan persentase yang terdengar presisi (misal: "67,4% masyarakat memilih X") tanpa sumber survei yang nyata.

4. Nama penulis dan judul buku referensi akademis yang tampaknya ilmiah padahal tidak pernah diterbitkan.

Untuk memitigasi halusinasi, pengguna profesional menerapkan teknik grounding (mengaitkan AI dengan data riil). Alih-alih bertanya "Berapa aturan batas pesangon menurut PP 35/2021?", unggah atau tempelkan teks pasal regulasi tersebut ke dalam prompt, lalu perintahkan: "Berdasarkan teks peraturan yang saya lampirkan di atas, sebutkan formula perhitungan pesangon. Jika informasinya tidak tercantum di teks, katakan bahwa data tidak ditemukan dan jangan mengarang".

Langkah Penerapan Praktis

1. Aktifkan fitur pencarian web (Web Search / Browsing) jika menanyakan fakta aktual, harga pasar, atau peristiwa terkini.

2. Sertakan instruksi grounding: perintahkan AI mengutip langsung kalimat sumber rujukan.

3. Gunakan perintah verifikasi: "Sebutkan sumber resmi, nama lembaga penerbit, dan tanggal laporan untuk setiap data angka yang Anda sebutkan".

4. Lakukan uji silang mandiri: salin nama undang-undang atau statistik kunci ke mesin pencari Google untuk mengecek keberadaannya di situs resmi pemerintah (.go.id) atau lembaga resmi.

5. Tanyakan counter-factual: "Apakah ada kritik, bantahan, atau putusan hukum terbaru yang bertentangan dengan ringkasan di atas?".

Contoh Nyata Lapangan

Skenario: Seorang manajer HRD meminta asisten AI merangkum ketentuan cuti melahirkan bagi karyawati di Indonesia.

Prompt:

Jelaskan hak cuti melahirkan bagi karyawati swasta di Indonesia berdasarkan Undang-Undang Kesejahteraan Ibu dan Anak (UU KIA) yang disahkan tahun 2024. Wajib sebutkan nomor pasal yang mengatur durasi cuti 3 bulan dan 6 bulan beserta syarat medisnya. Jika Anda tidak yakin dengan nomor pasalnya, sebutkan bahwa Anda tidak yakin.

Hasil Analisis Model:
Model menjelaskan hak cuti melahirkan 3 bulan dasar dan perpanjangan hingga 6 bulan dengan surat keterangan dokter spesialis, mengutip UU No. 4 Tahun 2024 tentang Kesejahteraan Ibu dan Anak secara akurat tanpa mengarang nomor pasal fiktif.

Analisis Efektivitas:
Prompt berhasil membatasi halusinasi karena secara eksplisit memberikan jalan keluar kepada model: "Jika Anda tidak yakin, sebutkan bahwa Anda tidak yakin". Model tidak dipaksa mereka-reka nomor pasal palsu.

Panduan Praktik Terbaik & Rekomendasi Alur Kerja

Untuk memaksimalkan nilai tambah dari materi "Halusinasi dan cara mengecek jawaban", terapkan tiga prinsip kerja profesional berikut:

1. Penyaringan Konteks yang Bersih: Selalu pastikan dokumen atau prompt yang Anda masukkan bebas dari informasi rahasia yang terikat perjanjian kerahasiaan ketat, kecuali Anda telah mengonfigurasi lingkungan akun berbayar dengan jaminan zero data training.

2. Pengujian Output Bertahap: Jangan langsung menyalin hasil generasi mentah ke dokumen final. Lakukan evaluasi cepat pada aspek logika kalimat, keabsahan angka statistik, dan kesesuaian gaya bahasa dengan audiens penerima di Indonesia.

3. Dokumentasi Prosedur Kerja: Catat pola prompt, parameter instruksi, dan berkas rujukan yang terbukti menghasilkan keluaran paling memuaskan sebagai standar operasional prosedur (SOP) internal Anda atau tim kerja Anda.

Batasan dan Hal yang Perlu Diperhatikan

• Teknologi LLM saat ini belum memiliki kemampuan mengeliminasi halusinasi hingga 0% secara matematis.

• Fitur web search dapat menurunkan halusinasi tetapi tetap bisa keliru jika situs web yang ditemukan oleh AI memuat misinformasi.

• Tanggung jawab hukum atas publikasi dokumen bisnis, kontrak hukum, dan kalkulasi pajak tetap berada pada pundak penandatangan dokumen manusia.

Latihan

Minta asisten AI memberikan data statistik tentang tingkat penetrasi internet di provinsi Anda pada tahun terakhir beserta nama lembaga surveinya. Buka tab baru di browser Anda dan verifikasi apakah laporan dari lembaga survei tersebut benar-benar ada dan angkanya sama persis.

Cek pemahaman

Pertanyaan 1

A. Komputer yang mengalami panas berlebih (overheat) pada kartu grafis.
B. Fenomena di mana AI menghasilkan informasi fiktif atau salah dengan gaya penyampaian yang sangat meyakinkan.
C. Kemampuan AI melihat dan mendengarkan lingkungan fisik ruangan pengguna.
D. Virus komputer yang merusak format berkas dokumen.

Pertanyaan 2

A. Menggunakan huruf kapital semua saat mengetik prompt.
B. Mengunggah berkas PDF laporan resmi tersebut dan menginstruksikan AI hanya menjawab berdasarkan teks dokumen yang dilampirkan.
C. Menanyakan pertanyaan yang sama sebanyak 10 kali dalam satu menit.
D. Meminta AI bersumpah bahwa jawabannya tidak bohong.

Pertanyaan 3

A. Langsung menyalin dan menandatangani dokumen karena AI jarang salah.
B. Memeriksa isi undang-undang aslinya di portal resmi JDIH instansi pemerintah terkait.
C. Mengirimkan dokumen ke media sosial untuk meminta opini warganet.
D. Mengabaikan nomor pasal tersebut dan menghapusnya.

Kesalahan umum

• Mempercayai tautan URL yang diberikan AI tanpa pernah mengkliknya untuk menguji apakah halaman web tersebut aktif.

• Mengira bahwa jawaban yang panjang dan memuat banyak jargon teknis otomatis bebas dari kesalahan fakta.

• Tidak mengaktifkan fitur pencarian web saat menanyakan perkembangan isu terkini yang baru terjadi beberapa hari lalu.

Sumber yang dicek

• https://gemini.google/release-notes/ (Fitur Verifikasi Google Search Grounding, diverifikasi 2026-10-21)

• https://support.claude.com/en/articles/12138966-release-notes (Laporan Evaluasi Red-Teaming Anthropic, diverifikasi 2026-10-21)

• https://help.openai.com/en/ (Pedoman Mitigasi Halusinasi OpenAI, diverifikasi 2026-10-21)