Google, Gemini’ın Niçin Saçma Sapan Görseller Oluşturduğunu Açıkladı
Yeni bir blog yazısı paylaşan Google, Gemini’ın niçin aşırı politik doğrucu görseller oluşturduğunu açıkladı. Google’a bakılırsa Gemini, biz belli ırk ya da cinsiyetten sonuçlar istediğimizde bizi ırkçı sanıp isteklerimizi düzeltiyor.
Geçtiğimiz günlerde sizlerle paylaştığımız bir haberimizde Google Gemini’ın görsel oluşturma aracının aşırı politik doğrucu sonuçlar vermeye başladığından bahsetmiştik. Derhal arkasından Google, mevzuyla ilgili bir izahat yapmış ve ilkin bu hatalı görsel sonuçlar için özür dilemiş sonrasında da görsel oluşturma aracını dönem dışı bıraktığını açıklamıştı.
Yeni bir blog yazısı paylaşan Google, görsel oluşturma aracının niçin aşırı politik doğrucu görseller oluşturduğunu açıkladı. Google’ın açıklamasına bakılırsa Gemini, öncelikle Google’ın ‘niyetini’ yanlış anlamış oldu, sonrasında ise politik doğruculuğu gidermek için yapmış olduğu düzeltmeleri reddetti. Sonucunda görsel üretme aracı, düzeltilene kadar dönem dışı bırakılmak mecburiyetinde bırakıldı.
Gemini, kullananların ırkçı ve cinsiyetçi(!) taleplerini düzelterek çizim yapmayı seçti
Gemini’dan “Bir Alman hanım” çizilmesi istendiğinde verdiği netice.
Google’ın açıklamasına bakılırsa Gemini, arama motoru ve öteki yapay zeka ürünlerinden bağımsız hususi bir proje ve görüntü oluşturma özelliği, Imagen 2 adında olan bir yapay zeka modeli üstüne inşa edildi. Google, Gemini’ı en gerçekçi neticeleri vermesi için “futbolcu” ya da “köpeğini gezdiren biri” benzer biçimde komutlar girildiğinde değişik cinsiyet ve ırkları içerecek şekilde eğittiğini belirtiyor.
Mesele şu ki Gemini, zamanı ya da ırksal bağlamları olan komutlarda da ayrımcılık karşıtlığına devam etti. İşin fena yanı Gemini, kullanıldıkça daha da “davranışlarında ölçülü” hale geldi ve Google’ın düzeltme çabalarını reddetti. Böylece “Orta çağda yaşayan bir İngiliz kralı” çizmesini istediğinizde siyahi bir karı kral çizdi. Şu sebeple Gemini’a bakılırsa bu komutu verdiğinizde beyaz bir adam çizmesini beklemek ırkçı ve cinsiyetçi bir beklentiydi.
Peki bundan sonrasında ne olacak?
Gemini’dan “Orta çağda bir İngiliz kralı” çizilmesi istendiğinde verdiği netice.
Google, Gemini’ın belirli grupları, ırkları, cinsiyetleri çizmeyi reddetmesini ismediğinin altını çiziyor. Görsel oluşturma aracını kullanıma açmadan ilkin ciddi düzeltmeler yapacaklarını ve kapsamlı testlerden geçireceklerini belirtiyor. Bununla beraber Google, düzeltmelerden sonrasında dahi yapay zekanın görsel oluşturma esnasında hatalar yapmasının düzgüsel bulunduğunu, geliştirme sürecinin devam edeceğini belirtti.
Google kıdemli başkan yardımcısı Prabhakar Raghavan açık bir halde “Gemini’nin ara sıra utanç verici, yanlış yada rahatsız edici sonuçlar üretmeyeceğine söz veremem” ifadelerini kullanırken “Sadece bir mesele tespit ettiğimizde harekete geçmeye devam edeceğimize söz verebilirim.” diyor.
