OpenAI, LLM yanılsamalarının kökenini ortaya koydu ve aşırı güven hatalarını azaltmak için yeni bir eğitim yöntemi önerdi.

【coin界】OpenAI keşfetti ki, büyük dil modellerindeki halüsinasyon fenomeni, belirsizliği kabul etmek yerine tahminleri teşvik eden eğitim ve değerlendirme yöntemlerinden kaynaklanmaktadır. Şirket, güvenilir hatalar (confidential error) için ceza uygulamasının artırılmasını ve belirsiz cevaplara kısmi puan verilmesini öneriyor, bu da standart testlerdeki negatif puanlamaya benziyor. Veriler, doğruluk ödülleri alan modellerin hata oranının daha yüksek olduğunu, belirsizliği kabul eden modellerin ise daha güvenilir performans sergilediğini gösteriyor. OpenAI, en son modelindeki halüsinasyon fenomenini azaltmak için bu iyileştirmeleri uygulamaya koyuyor.