Suni zekâları neredeyse her şey için kullanıyoruz ve hiçbiri asla “Bilmiyorum” kelimesini kullanmıyor. Peki bunun arkasında yatan sebep ne?
Suni zekâların niçin asla “Bilmiyorum” demediğini düşünmüş müydünüz? OpenAI araştırmacılarının yeni çalışmasına bakılırsa ChatGPT benzer biçimde modellerin “halüsinasyon” (şu demek oluyor ki uydurma informasyon üretme) eğilimi, aslına bakarsak dürüst olmamaları için tasarlanmış olmalarından kaynaklanıyor. Modeller, doğru cevabı bilmediklerinde bile bir tahminde bulunmak suretiyle eğitiliyor. Esasında bu tıpkı, lise döneminde çoktan seçmeli bir sınavda boş bırakmak yerine rastgele işaretleme yaptığımız dönemlere benziyor.
Araştırmacılar, bu durumun suni zekânın eğitim sistemindeki yanlış “teşviklerden” kaynaklandığını söylüyor. Mevcut değerlendirme şekilleri, modellerin belirsizliklerini dürüstçe ifade etmesi yerine kati bir cevap üretmesini istiyor. Bu da bilhassa tıp yada hukuk benzer biçimde kırılgan alanlarda ciddi problem. Uzmanlara bakılırsa çözüm, suni zekâların “güvenli olmadığı” durumlarda cezalandırılmaması ve hatalı özgüven yerine belirsizlik belirtmelerinin teşvik edilmesi yönünde.
Her cevapta “tahmin” yürütmek zorundalar
Suni zekâ modelleri, metinlerdeki kelime örüntülerini tahmin ederek öğreniyor sadece veriler devamlı tertipli yada güvenilir değil. Şu demek oluyor ki veri seti ne kadar geniş olursa olsun bazı durumlarda informasyon eksikliği ve belirsizlik başat oluyor. Bu aşamada modeller, “stratejik tahminler” yaparak cevap üretmeye devam ediyor. Zaman içinde daha doğru sonuçlar üretseler bile bir çok vakit halüsinasyon görüyorlar, bu da o hatalı ve saçma yanıtların temel sebebi.
Araştırmacılar, değerlendirme sistemlerinin doğruluk odaklı olmaktan çıkıp belirsizliğe de alan tanıması gerektiği mevzusunda hemfikirler. Böylece suni zekâlar, “her şeyi bilen” tavırlarından sıyrılıp daha dürüst bir kontakt biçimine evrilecekler. Kim bilir, AGI dediğimiz o nokta kim bilir bunu başarıyla yapabildikleri noktadır… Bunu artık vakit gösterecek.
