OpenAI, Google DeepMind, Anthropic ve Meta’dan bilim adamları, suni zekâya dair ortak bir araştırma yayımladı ve geleceğe dair ciddi uyarılarda bulunmuş oldu.
OpenAI, Google DeepMind, Anthropic ve Meta’dan gelen 40’tan fazla bilim insanı, suni zekâların güvenliği mevzusunda endişelerini paylaşmak için bir araya geldi. Günümüzde esasında sıkı rekabet içinde olan bu şirketlerin uzmanları, suni zekâların iyi mi düşündüğünü anlayabilmemiz için elimizde kısa süreli bir fırsat bulunduğunu söylüyor.
Araştırmacıların uyarısı ise basitçe şöyleki… Günümüzde bazı suni zekâ sistemleri soruları yanıtlamadan ilkin adım adım “düşünüyor” ve bu düşüncelerini anlaşılır şekilde yazıya döküyor. Bu da fena niyetli davranışlara dair ipuçlarını erkenden fark etmemizi sağlıyor sadece bu açıklık devamlı sürecek diye bir güvence yok. Suni zekâlar geliştikçe bu şeffaflığın ortadan kalkacağı düşünülüyor.
Zaman içinde suni zekâların ne düşündüğünü göremeyeceğiz
Makaleyi imzalayanlar içinde suni zekânın öncülerinden Geoffrey Hinton ve OpenAI’nin kurucularından Ilya Sutskever şeklinde mühim adlar var. Bu isimlere bakılırsa suni zekâların “fikir zincirlerini” görebilmek, yanlış ve tehlikeli kararlar almalarını engellemek için elimizdeki en mühim araçlardan biri.
Bu araştırmanın sebeplerinden biri de suni zekâların daha iyi sonuçlar verdiği sürece iyi mi düşündüğüyle kimsenin ilgilenmemesi. Kısaca sistemler “görünür” düşünceler üretmeden iş hayata geçirmeye alışırsa, ikimiz de içlerinde neler olup bittiğini göremeyebiliriz.
Oldukça geçmeden daha saydam hâle getirilmeleri gerekiyor
Bilim adamları, bu durumu değiştirebilmek için sektörde ortak hareket çağrısı yapıyor. Şirketlerin geliştirdikleri modellerin saydam olup olmadığını idrak etmek için standart testler uygulaması ve şeffaflığı azalan sistemleri geri çekmeyi göz önünde bulundurması icap ettiğini savunuyorlar.
Araştırmadaki isimlere bakılırsa bu konudaki farkındalık gerçek anlamda mühim şundan dolayı bazı araştırmalar, suni zekâların düşüncelerinin izlendiğini fark ettiklerinde kendilerini gizlemeyi öğrenebileceğini ortaya koyuyor. Kısaca yalnız ne düşündüklerini değil, düşündüklerini iyi mi sakladıklarını da izlememiz gerekebilir.
Eğer araştırma kapsamında değerlendirilen tüm mevzuları merak ediyorsanız araştırmanın tamamına buradan ulaşabilirsiniz.
Peki siz bu mevzu hakkında ne düşünüyorsunuz? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
