Lompat ke konten
Rahman FakhruDiskusi proyek

Pelajaran 09 / 14

Halusinasi: kenapa terjadi dan cara mengeceknya

Bukan berbohong, tapi menebak Halusinasi adalah jawaban yang terdengar meyakinkan tapi tidak sesuai kenyataan. Penyebabnya bukan niat menipu: model memilih kelanjutan kalimat yang PALING MASUK AKAL, dan yang masuk akal

#Bukan berbohong, tapi menebak

Halusinasi adalah jawaban yang terdengar meyakinkan tapi tidak sesuai kenyataan. Penyebabnya bukan niat menipu: model memilih kelanjutan kalimat yang PALING MASUK AKAL, dan yang masuk akal tidak selalu benar. Kalau ia tidak tahu nomor pasalnya, bentuk "Pasal 12 ayat (2)" tetap terasa masuk akal — jadi keluarlah angka itu.

#Kapan risikonya paling besar

  • Pertanyaan yang sangat spesifik: nomor peraturan, judul buku, nama penulis, harga, statistik daerah.
  • Kejadian terbaru — model punya batas waktu pengetahuan, ia tidak otomatis tahu berita minggu ini.
  • Topik yang jarang ditulis orang, misalnya prosedur di satu instansi di kota kecil.

#Tiga cara mengecek, dari yang paling cepat

  1. Tempel bahannya, lalu minta ditunjukkan. "Bagian mana dari teks di atas yang mendukung ini?" Kalau ia tidak bisa menunjuk, klaim itu kemungkinan karangan.
  2. Tanya ulang di percakapan BARU, tanpa memberi tahu jawaban sebelumnya. Jawaban yang berubah-ubah tiap kali ditanya adalah tanda tebakan, bukan pengetahuan.
  3. Cari sendiri ke sumber resmi. Untuk aturan: peraturan.go.id. Untuk statistik: bps.go.id atau data.go.id. Lima menit di sana lebih menenangkan daripada sepuluh prompt.

Jangan minta AI "sebutkan sumbernya" kalau ia tidak sedang mencari di internet — daftar pustaka pun bisa dikarang, lengkap dengan tautan yang tidak pernah ada.

#Referensi