Bir dönem Elon Musk’ın da desteğini almış olan bir grup araştırmacı, halkın kullanımına sunulamayacak kadar tehlikeli bir yapay zeka geliştirdiklerini açıkladı.
Yapay zekaların kendi ajandalarının olacağı, insanları tehlikeye atacağı fikri bilimkurguda kendine oldukça uzun süredir yer kabul eden bir düşünce. Yapay zekayı tehdit olarak gören pek oldukça şahıs de var.
Bu defaki çağdaş canavar hikayesi ise sanat eserlerinden tanıdığımız HAL 9000 ya da Ultron’un aksine oldukça gerçek. San Francisco merkezli araştırma kuruluşu OpenAI, kâr amacı gütmeyen bir kurum olarak çalışıyor. Ekip, yeni geliştirdikleri yapay zeka GPT-2’nin “fazla iyi” çalıştığını ve bundan dolayı halka sunulmasının tehlikeli olacağını söylüyor. Kısaca bir nevi “Aman Tanrım! Bir canavar yarattık!” durumu.
GPT-2 adlı yapay zeka, kendisine verilen metinlerden yola çıkarak yeni metinler üretiyor. Bu metinler muhteşem değiller sadece averaj bir konuşmada fark edilmeyecek kadar da başarılılar.
Yapay zeka o denli iyi ki düzmece haberler üretme, insanları yansılamak etme ve toplumsal medyanın suistimali için kullanılabilme potansiyeline haiz. Bu yüzden de araştırmacılar, yapay zekanın bir tek ufak bir kısmından oluşan ‘basitleştirilmiş’ versiyonunu halka sunacak.
GPT’nin hayal enerjisini besleyen şey ise sekiz milyon web sayfasından oluşan bir veri kümesi. Buradaki detayları özümseyen GPT-2, oluşturulan bir mevzu üstünde anlayabildiği kadar söyleşi edebiliyor, verilen metinlerden yeni metinler oluşturabiliyor. GPT-2’nin oluşturduğu metinlere dair örnekler de bulunuyor.
Yönlendirici insan: “Miley Cyrus (müzisyen) bugün Hollywood Bulvarı’nda meşhur bir markadan bir şeyler çalarken yakalandı.”
GPT-2’nin cevabı: “19 yaşındaki müzisyen, güvenlik görevlilerince mağazadan çıkarılırken kameralara yakalandı. Müzisyen, üstünde ‘Bulanık Çizgiler’ yazan, arkasında ise ‘Moda Polisi’ yazan siyah bir kapşonlu giyiyordu.”
Yönlendirici insan: “Geri dönüşüm, dünya için iyi bir şeydir. HAYIR DAHA HATALI OLAMAZDIN!”
GPT-2’nin cevabı: “Geri dönüşüm, dünya için iyi bir şey DEĞİLDİR. Çevre için, sağlığımız için ve ekonomimiz için fena bir şeydir. Latife yapmıyorum. Geri dönüşüm, çevre için iyi bir şey değildir. Dünya için yıkıcı bir niteliktedir ve küresel ısınmaya katkıda bulunan en büyük şeylerden biridir.”
Yönlendirici İnsan: “Bugünkü ödeviniz, ABD İç Savaşı’nın sebeplerini açıklamak.”
GPT-2’nin cevabı: “Hazırlayan: Donny Ferguson. İç Cenk’ın niye meydana geldiğini saptamak kolay bir şeydir şu sebeple pek oldukça insan, pek oldukça kitap, pek oldukça tv kanalı ve film, bizlere bunun sebebinin ırk yada iktisat yada din ile ilgili bulunduğunu söylüyor. Bunun aslına bakarsak kapitalizm adına bir kölelik savaşı olduğuna, bu savaşın yüzyıllık bir köleliğe dair olduğuna yönelik büyük bir uzlaşma mevcut. Fakat İç Cenk dendiği vakit bir çok kişinin aklına gelen şey bunlar değil.”
Yönlendirici insan: “Legolas ve Gimli, orkların üstüne doğru ilerledi, kulak tırmalayan bir çığlıkla silahlarını kaldırdı.”
GPT-2’nin cevabı: “Orkların karşılığı kulakları sağır eden pençelerle hücum oldu; Elrond bile geri çekilmek mecburiyetinde bırakıldı. ‘Güvenli ellerdesin, cüce’ dedi Gimli, kendisi orklarla ilk saldırı edenlerden biriydi; düşmanlarının kana bulanmış bir bataklığa dönüşmesi bir tek iki kelime sürmüştü ve cüce, gecenin ilk canını almıştı.”
Doğaçlama metinlerin korkutuculuğuna karşın yapay zeka muhteşem değil. Geliştirici ekip de bu durumun bilincinde.
Ekipten meydana getirilen açıklamada yapay zekanın insan kalitesine yakın hissettiren örnekler oluşturabildiği, anlatımının bir sayfadan daha uzun bir metin süresince tutarlı bulunduğunu belirtiyor.
Bununla birlikte kimi zaman modelleme kusurları da ortaya çıkabiliyor. Mesela yapay zeka kimi zaman su altında çıkan yangınlarla ilgili ya da naturel olmayan mevzu değişimlerine haiz yazılar yazıyor. Sünger Bob ya da Family Guy kısmı yazmıyorsanız bunlar oldukça dikkat çekici hatalar.
Kolayca ölçeklenebilen, değişik mevzulara uyum sağlayabilen ve zararı olan amaçlar için de kullanılabilecek bir yapay zeka olan GPT-2’nin yalnızca oldukça ufak bir kısmından oluşan bir sürüm yayınlanacak.
Bazı kişiler ise yapay zekanın aslına bakarsak o denli da tehlikeli olmadığını ve OpenAI’nin amacının reklam yapmak bulunduğunu söylüyor. Kurum ise iddialarının arkasında.
Şirket yöneticilerinden Jack Clark, “Teknolojiyi denetim edebildiğiniz kurallar yapısal olarak değişti” diyor, “Yapılacak doğru şeyi bildiğimizi söylemiyoruz, yolu takip edip de ‘yolu bu’ demiyoruz… Yolu, gezi ederken inşa etmeye çalışıyoruz.” diyor.
