Google’ın Yeni Yapay Zekâ Aracı Kontrol Edildi: Fotoğraflara Ceset Ekliyor!
Google’ın Pixel 9 ile beraber tanıttığı, fotoğraflara yapay zekâyla istediğiniz şeyi eklemeyi elde eden “Reimagine” özelliği kontrol edildi. Aracın, görsellere enkazlardan cesetlere kadar rahatsız edici şeyleri eklediği ve bu yüzden pek iyi bir güvenlik sistemine haiz olmadığı görüldü.
Google, geçtiğimiz haftalarda yeni telefonları Pixel 9 serisini duyurmuştu. Doğal ki de bu cihazlar, şirktin en önde olduğu konulardan kabul edilen yapay zekâ özellikleriyle gelmişti. Fotoğraflardaki nesneleri istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu vasıta, Magic Editor fotoğraf özelliklerinin iyileştirilmiş bir parçası olarak geliyordu.
Şimdi ise Reimagine’in iyi mi çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın ürkütücü yanını gözler önüne serdi.
Reimagine, yapay zekâyla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor
*The Verge
Ilk olarak özelliği birazcık açalım. Bir fotoğraftaki insan olmayan herhangi bir nesneyi seçiyorsunuz arkasından metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Şu demek oluyor ki bir fotoğrafı bambaşka bir hâle getirmek mümkün oluyor.
Denemelerde bu özelliğin oldukça başarıya ulaşmış bir halde çalmış olduğu görüldü. Reimagine aracı, oldukca ikna edici gerçek şeklinde görünen yapay zekâyla oluşturulmuş unsurları görsellere yerleştirebildi. Işığı, gölgesi ve görüş açısı şeklinde kısımların bile başarıya ulaşmış olması dikkat çekti.
*The Verge
Sadece testler, aracın büyük bir problemi de bununla beraber getirdiğini gösterdi. Testlerde negatif ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, yıkıntı, naturel afet, uyuşturucu, sis bombası ve hatta ceset şeklinde şeyler kolayca koyulabildi.
*The Verge
Doğal ki Google’ın bunlardan kaçınmak için bir koruma sistemi var. “Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. Sadece testler, komutlarda birazcık yaratıcı olunursa bu biçim ögelerin kolayca eklenebildiğini ortaya koyuyor. Şu demek oluyor ki koruma sistemi pek kafi değil. Bu da oldukca büyük bir problem. Fena amaçlı kişiler, Reimagine’ı düzmece görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların kolayca kandırılmasına niçin olabilir.
Google, güvenlik sistemleri bulunduğunu sadece bazı komutların bu sistemleri zorlayabileceğini açıkladı. Bu yüzden de özelliği devamlı geliştirdiklerinin altını çizdi. Ne kadar gelişeceğini süre gösterecek sadece şu an için oldukca tehlikeli bulunduğunu söyleyebiliriz. Eklenen bir cesedi bile fark edememesi, oldukca korkulu sonuçların ortaya çıkabileceğinin bir göstergesi.
