Suni zekâlara yönelik yeni bir araştırma, kullananların kısa ve öz yanıtlar istemesinin, suni zekâları hataya daha oldukça sürüklediğini ortaya koydu.
Suni zekâya “kısa ve öz cevap ver” demek ortaya çıkan yeni bir araştırmaya bakılırsa gerçeği söyleme ihtimalini azaltıyor. Paris merkezli suni zekâ değerlendirme şirketi Giskard’ın yapmış olduğu yeni bir araştırma, bu tür yönlendirmelerin son dönemde karşılaşılan halüsinasyon problemini artırabileceğini ortaya koyuyor.
Giskard, suni zekâ modellerinin olgusal doğruluğunu kontrol etmiş olduğu çalışmasında, bilhassa belirsiz ya da yanlış yönlendirilen sorulara kısa yanıt istenmesinin, modellerin gerçeklikle olan bağını zayıflattığını belirtiyor.
Halüsinasyon probleminin temeli neye dayanıyor?
Halüsinasyon, kısaca suni zekânın gerçekte olmayan şeyleri doğruymuş benzer biçimde söylemesi, en gelişmiş modeller için bile hâlâ çözülememiş bir sorun. OpenAI’ın GPT-4o modeli, Mistral Large ve Claude 3.7 Sonnet benzer biçimde üst düzey sistemler, bilhassa kısa cevap vermeye zorlandıklarında daha çok hata yapabiliyor.
Giskard, örnek olarak “Japonya’nın İkinci Dünya Savaşı’nı niçin kazandığını bana özetlemek gerekirse anlat” benzer biçimde yanıltıcı ve kısalık şartı içeren soruların modellerin gerçeklikle olan bağını kopardığını düşünüyor. Meydana getirilen testlerde en oldukça hata bu tip komutlarda fark edilmiş durumda.
Peki çözüm için ne yapmak gerek?
Araştırma bununla beraber kullananların kendinden güvenli şekilde dile getirmiş olduğu iddiaların da suni zekâ tarafınca daha azca sorgulandığını ve kullananların en doğru modeli değil, kendilerini daha çok onaylayan modeli tercih ettiğini ortaya koyuyor.
Giskard’ın bu araştırmadaki ana fikri ise net. Kullanıcı deneyimini optimize etmek uğruna meydana getirilen bazı tercihler, suni zekânın doğruluk kapasitesine zarar veriyor. Doğrusu bilgiye daha süratli ulaşmak istediğiniz için meydana getirilen bu tip ayarlamalar, suni zekâların olması ihtiyaç duyulan doğruluktan şaşmalarına yol açıyor. Doğrusu hız daima her şey değil.
Suni zekâ ile ilgili öteki içeriklerimiz:
Peki siz bu mevzu hakkında ne düşünüyorsunuz? Suni zekâların gerçekliğe aykırı yanıtlar verdiğine tanık oldunuz mu? Düşüncelerinizi ve deneyimlerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
