ChatGPT sizin kim olduğunuza kadar hatırlıyor olmasına karşın aynı sohbetteki iki bildiri ilkin söylediğinizi unutmayı iyi mi başarıyor? Gelin hep beraber bakalım.
Asla ChatGPT ile söyleşi ederken “Bunu daha azca ilkin söyledim ya!” diyerek ekrana şaşkınlıkla baktığınız oldu mu? İşin acayip tarafı, bu suni zekâ haftalar ilkin bahsettiğiniz kedinizin adını yada sevmediğiniz yiyecekleri “Hafıza” özelliği yardımıyla şıp diye hatırlayabiliyorken, kimi zaman hemen hemen iki bildiri ilkin yazdığınız eleştiri bir detayı tamamen yok sayabiliyor.
Aslına bakarsak bu durum bir sistem hatasından ziyade, suni zekânın “uzun soluklu bellek deposu” ile “anlık dikkat mekanizması” arasındaki emek verme farkından kaynaklanıyor ve cevabı değişen teknolojinin derinliklerinde değil, tamamen odaklanma mantığında yatıyor.
Hafıza ile anlık sohbetin farkı
ChatGPT’nin haftalar öncesini hatırlamasının sebebi, onun sizin hakkınızda tuttuğu hususi bir not defteri şeklinde çalışan “Memory” (Hafıza) özelliğidir. Siz ona bir informasyon verdiğinizde yada kendinizle ilgili bir detay paylaştığınızda, sistem bunu alıp etken sohbetten bağımsız, güvenli bir alana kaydeder sadece iki bildiri öncesini unutması, o anki “emek verme masasının” dağınıklığıyla ilgilidir. Suni zekâ, o anki söyleşi penceresinde akan metinleri anlık hafızasında meblağ.
Eğer sohbetin akışı karmaşıksa yada model o an cevaba odaklanırken dikkati başka bir yöne kaydıysa, tıpkı dalgın bir insan şeklinde son olarak söylenen cümleyi işlemeyebilir. Kısaca haftalar öncesi “kayıtlı informasyon” iken, iki dakika öncesi “işlenmesi ihtiyaç duyulan anlık veri” statüsündedir ve bu iki süreç birbirinden tamamen değişik işler.
Dikkat mekanizması ve kelime seçimi
Bu anlık unutkanlığın en büyük teknik sebebi, suni zekânın “Attention Mechanism” kısaca dikkat mekanizması adında olan emek verme prensibidir. ChatGPT, yazdığınız her kelimeye matematiksel bir ehemmiyet puanı atar. Kimi zaman siz fazlaca mühim bir şey yazdığınızı düşünseniz de model bundan önceki paragraftaki başka bir kelimeye daha çok ağırlık verip, sizin son cümlenizi “daha azca mühim” olarak etiketleyebilir.
Bilhassa uzun ve detaylı komutlar verdiğinizde, modelin dikkati dağılabilir ve son olarak eklediğiniz o minik fakat mühim düzeltmeyi gözden kaçırabilir. Bu, sizi dinleyen bir arkadaşınızın o sırada arka plandaki müziğe dalıp son cümlenizi duymamasına benzer bir durumdur.
Söyleşi geçmişinin yarattığı yanılsama
Kullanıcılar olarak biz, ekranda gördüğümüz söyleşi akışını bir tüm olarak algılarız sadece suni zekâ her yeni sonucunda tüm sohbeti baştan sona yeniden okuyormuş şeklinde işlem yapar. Söyleşi uzadıkça yada mevzu daldan dala atladıkça, modelin hangi bilginin güncel, hangisinin eski bulunduğunu ayırt etmesi zorlaşabilir.
Haftalar önceki informasyon “durağan(durgun) bir gerçek” olarak kodlandığı için hatırlanması kolaydır sadece iki bildiri önceki informasyon, akışkan sohbetin bir parçasıdır ve hemen hemen “sabitlenmemiştir”. Bu yüzden ChatGPT kimi zaman genel tercihlerinizi muhteşem bilirken, o anki bağlamı kaçırır. Bu durumu aşmak için en iyi yöntem, modelin unutmuş olduğu detayı ona nazikçe hatırlatmak yada karmaşık istekleri parçalara bölerek sunmaktır. Kısaca bir çok vakit yeni sohbetten devam etmek en kesin sonucu almanızı sağlar.
