Halüsinasyon
Modelin gerçekte var olmayan bir bilgiyi, kaynağı varmış gibi kendinden emin biçimde üretmesidir.
Model "bilmiyorum" demek yerine, olması muhtemel görüneni üretir. Sonuç akıcı, tutarlı ve yanlış olabilir.
En sinsi tarafı şudur: yanlış cevap, doğru cevapla aynı özgüvenle yazılır. Yazım hatası gibi görünmez.
Halüsinasyonun tipik tetikleyicileri:
- Bağlamda kaynak yokken spesifik veri istemek (fiyat, tarih, standart numarası, istatistik).
- Bilgi kesim tarihinden sonraki olaylar.
- Nadir varlıklar: küçük markalar, yerel mevzuat, niş ürün kodları.
- Aşırı spesifik format zorlaması: "10 kaynak listele" denince model listeyi doldurmak için uydurabilir.
Azaltma yöntemleri: kaynağı bağlama koymak (grounding/RAG), "bilmiyorsan bilmiyorum de" talimatı, alıntı zorunluluğu, doğrulanabilir alan kısıtı (yalnızca repo verisi) ve çıktı sonrası doğrulama (URL'e curl atmak gibi).
SEO içeriğinde halüsinasyon doğrudan iş riskidir: uydurulmuş standart numarası, yanlış mevzuat tarihi ya da olmayan istatistik hem güveni hem hukuki zemini zedeler. Bu skill'in "kaynağı yoksa yazılmaz" kuralının tek sebebi budur.
Tehlikeli istek: "Bu ürünün TS EN standardını yaz." Bağlamda standart geçmiyorsa model makul görünen bir numara üretebilir. Doğru davranış: repoda geçen standartları aramak, bulunamazsa genel ifade kullanmak ve kullanıcıya "bu bilgi projede yok" demek.
"Model kaynak gösteriyorsa doğrudur." Kaynak da uydurulabilir: gerçek görünen ama var olmayan URL'ler klasik halüsinasyondur. Her URL doğrulanmalıdır.