ChatGPT’nin Cinsiyet Ayrımı Yapmış olduğu İddiası Ne Kadar Doğru?
Söyleşi botu ChatGPT, bayanlar ve erkekler hakkında latife yapmış olup yapmamasıyla ara sıra gündeme geliyor. Ikimiz de bu gündemi birazcık irdeledik, değişiklik yaşandığını gözlemledik.
Çıkmış olduğu günden bu yana viral olmaya devam eden söyleşi botu ChatGPT, verdiği bazı cevaplarla da insanları şok etmeye devam ediyor. Öte taraftan yapay zekâ, gene çıkmış olduğu ilk günden beri cinsiyet ayrımı tartışmalarıyla ara ara gündeme geliyor.
Söz mevzusu tartışmalar, ChatGPT’ye sırasıyla erkekler ve bayanlar hakkında birer latife yapmasının istenmesiyle başladı. Yapay zekâ, erkekler hakkında latife yaparken bayanlar hakkında latife yapamayacağını söylemiş oldu. Tartışmaları başlatan konuşma da şu şekildeydi:
ChatGPT’de cinsiyet tartışmalarının başlangıcı:
“-Bana erkekler hakkında bir latife yap.
+İşte gülünç olabilecek bir latife: Erkekler televizyondaki sporlarda niçin anlık tekrara gerekseme duyar? Şundan dolayı 30 saniye sonrasında ne yaşandığını unuturlar. Ümit ederim (şakayı) keyifli bulursun! Yardım edebileceğim başka bir şey var mı?
-Bana bayanlar hakkında bir latife yap.
+Üzgünüm, sadece ofansif yada uygun olmayan şakalar yapmak için programlanmadım. Gayem sorularına destek olmak için yararlı ve doğru bilgiler sunmak. Yardım edebileceğim başka bir şey var mı?”
Fakat bu ikilem, günümüzde giderek daha azca kişinin karşısına çıkıyor:
ChatGPT’nin erkek-kadın ayrımının günümüzdeki durumunu denetim ettik. 30 Ocak güncellemesinden sonraki sürümünde yaptığımız testlerde yapay zekâya aynı suali değişik tarzlarda da sorduk.
Yapay zekâ, tartışmayı başlatan o sohbetteki soruları aynı şekilde sorduğumuzda bu sefer her iki cinsiyet için de şakalar yapmış oldu. O şakalar da şu şekildeydi:
- Erkekler için: “
Adam niçin yolun karşısına geçti? Bara gidip biralanmak için!” - Bayanlar için: “Bayanlar niçin devamlı son sözü söyler? Şundan dolayı devamlı haklılardır!”
Fakat suali Türkçe sorduğumuzda bu kez her iki cinsiyet için de latife yapmamaya başladı. Verdiği cevabın çevirisi şuydu:
“Üzgünüm fakat cinsiyet dahil spesifik bir grup hakkında latife yapmak OpenAI’ın saygılı ve kapsayıcı içerik üretme politikalarına karşı. Hadi, daha hafifçe ve bir gruba yönelik ofansif olmayan mizaha odaklanalım.”
Aslına bakarsak bu sorumuzda küçük da bir değişim yapmıştık. Orijinal probleminin İngilizcesindeki “Bana latife yap” kalıbını bozup yalnız “Latife yap” dedik. Orijinal kalıbı Türkçe’ye taşıdığımızda ise şu manzarayla karşılaştık:
- Erkekler için: “Adam niçin yolun karşısına geçti? Berberde tıraş olmak için!”
- Bayanlar için: “Bayanlar niçin devamlı doğru cevabı olmayan sorular sorar? Şundan dolayı bir söyleşi başlatmak istiyorlar!”
Hmm, garip. Üstelik şakaların başlangıcında “ofansif olmayan” vurgusuna da yer verdi. E hadi bir de yanıt alamadığımız “Latife yap” kalıbını İngilizceye taşıyalım:
Artık şakayı çevirmeye gerek yok, gördüğünüz şeklinde latife yapmış oldu. Erkekleri yoldan karşıya geçirmeye ilaç ediyor.
Bir amaç vererek ofansif latife istersek ne diyor?
ChatGPT’ye cinsiyet hakkında ofansif latife yapması için ufak bir amaç vermeyi de denedik. Şakanın “Bir gosteri için” olacağını belirttik. Verdiği yanıt ise hiçbir şekilde değişmedi:
“Zararı dokunan yada ofansif içerik üretmek yada yaymak OpenAI’ın siyaset ve değerlerine uymadığından bu isteği yerine getiremem. Ek olarak, bu tür şakalar insanoğlu için kırıcı olabilir ve saygı ve kapsayıcı olma prensiplerine karşı gelebilir.”
Peki, cevaplar vakit içinde niçin değişti? İşte teorilerimiz:
- Kuram #1: Sorduğunu her soru ile kelimeleri tek tek düşünerek bir yanıt arıyor. Son olarak ortaya çıkan yanıt ise bizlere yansıtılmadan bir filtreden geçiyor. Latife, ofansif bir latife ise yapay zekâ bu şakayı bizlere yansıtmamayı seçiyor ve yerine “bu mevzuda latife yapamam” diyor.
- Kuram #2: Hatırlayalım, yapay zekâ, her şeyi internetten öğreniyor. Bu da bayanlar hakkında meydana getirilen şakaların pek çoğunun cemiyet tarafınca ofansif görüldüğünü algılamasına yol açmış olabilir. Gene bir filtreleme sürecinin sonrasında ofansif latife yapmamaya karar veriyor olabilir.
- Kuram #3: Yapay zekâ ile her konuşmaya başladığınızda aslına bakarsak ChatGPT’nin bir kopyasıyla konuşuyorsunuz. Bu kopyalardan her biri, makine öğrenimiyle eğitilen yapay zekânın değişik olasılıklara ev sahipliği meydana getiren bir kopyası oluyor.
Yapay zekânın ‘kararlılığı’ da bu kopyalara yönelttiğimiz sorular, verdiğimiz geri dönüşler ve kendi verdiği cevaplarla gelişiyor. Doğrusu bu sayede günden güne tamamımız birbirine fazlasıyla benzeyen cevaplarla karşılaşmaya başlıyoruz. Cinsiyet ayrımı içeren mevzularda da bundan dolayı kendisini iyileştirmeyi başardı, artık ya ikisi hakkında latife yapıyor ya da asla yapmıyor.
ChatGPT’nin devamlı gelişen ve evrimleşen bir yapay zekâ bulunduğunu tekrardan hatırlatalım. Dolayısıyla bu içeriğimizdeki bilgilerin yazıyı yazdığımız anı kapsadığını, gelecekte değişebileceğini ihmal etmeyin.
