Son zamanlarda tüm toplumsal medyayı yakalayan avatarların oluşturulduğu yapay zekâ destekli Lensa AI’ın sorunlarla dolup taştığı ortaya çıktı. Birçok kullanıcı, uygulamanın hanımefendileri cinsel obje olarak lanse eden avatarlar oluşturduğunu beyan etti.
Mühim bir gelişme kaydeden yapay zekâ teknolojileri, son zamanlarda ciddi şekilde popülerleşti. DALL-E, Midjourney benzer biçimde sistemlerle oluşturulan eserler, web ortamlarını adeta tutsak almış durumda. Bununla beraber insanların avatarlarını oluşturan uygulamalarda da şu sıralarda bir patlama yaşanıyor ve hangi platformda gezersek gezelim yapay zekâ desteğiyle ortaya çıkan bu görselleri görüyoruz.
Prisma Labs tarafınca oluşturulan Lensa AI da bunlardan biri. Belli ücretler karşılığında kullanılabilen bu uygulama, ‘Magic Avatars’ şu demek oluyor ki **‘**Büyülü Avatarlar’ olarak adlandırılan bir özelliğe haiz. Bu, kullananların hakikaten de büyülü olarak nitelendirilebilecek avatarlarını oluşturmasını sağlıyor. Sadece bu durum, bazı sorunların da ortaya çıkmasına niçin olarak yapay zekânın bir problemini de bizlere gösteriyor. Gelin bu mevzuya bir göz atalım.
Ilk olarak nedir bu Lensa AI? Iyi mi çalışıyor?
Lensa AI, bahsettiğimiz benzer biçimde Prisma Labs tarafınca oluşturulan bir uygulama. Son zamanlarda uygulama mağazalarında zirvede yer edinen Lensa, aslına bakarsak 2018’den beri var. Sadece, bu ayın başlarında sunulan ‘Büyülü Avatarlar’ özelliği popüler olmasını sağlamış oldu. Türkiye’de 88 TL’den başlamış olan fiyatlarla kullanılabilen yapay zekâ destekli bu bilhassa beraber eklediğiniz fotoğraflar, değişik temalardan (fütüristik yada anime karakterlerini çağrıştıran görünümler benzer biçimde) eşi olmayan avatarlara dönüştürülebiliyor.
Lensa, internetteki eserlerden oluşan bir veri tabanından yararlanan açık kaynaklı bir yapay zekâ derin öğrenme modeli olan Stable Diffusion’ı kullanıyor. Bu veritabanı, LAION-5B olarak adlandırılıyor ve CLIP adlı sinir ağı tarafınca filtrelenen 5,85 milyar metin-görüntü çiftini kullanıyor. 2022 senesinde piyasaya sürülen metinden görsel oluşturan derin öğrenme modeli Stable Diffusion’ın geçtiğimiz ay yeni bir sürümü de yayınlanmıştı.
Lensa AI hakkında öteki detaylar hakkında ve iyi mi kullanılabileceği mevzusunda informasyon almak istiyorsanız aşağıdaki içeriğimize göz atabilirsiniz;
Lensa AI’ın hanımefendileri objeleştiren avatarlar oluşturduğu söyleniyor
Yapay zekâ sistemleri her ne kadar gelişmiş olsa da hâlen bazı sorunlara haiz. Metinden görsele çeviren yapay zekâların elleri ve parmakları oluşturmada mesele yaşaması buna en iyi örnek olabilir. Sadece Polygon’un aktardığına Lensa’da durum birazcık daha değişik.
Son zamanlarda gelen bilgiler, Lensa AI’ın hanımefendileri cinselleştirirdiğini ve bazı ırkçı sonuçlar çıkardığını ortaya koydu. Toplumsal medyadaki birçok kullanıcı, uygulamada hanımefendilere büyük göğüslerin ve dekoltelerin eklendiğini söylerken o şekilde bir talep bulunmamasına karşın çıplak görsellerin bile oluşturulduğunu bildirdi.
Kaliforniya Üniversitesi’nden Olivia Snow da Wired’da yazıya döktüğü bir yazıda, kendi çocukluğundan fotoğraflar eklediğinde bile uygulamanın onu cinsel obje olarak lanse eden görseller ortaya çıkardığını aktardı. Uygulamanın sahiplerine bu mevzu hakkında soru yöneltildiğinde ise ekip, Snow’un kullanım koşullarını kasıtlı olarak ihlal ettiğini beyan etti. Lensa’nın politikaları, çıplak fotoğrafları yasaklarken evlatların görsellerinin kullanılmasını da engelliyor. Bununla beraber kullananların 18 yaşlarının üstünde bulunduğunu da beyan etmesi gerekiyor.
Kullanıcılara bakılırsa ırkçı sonuçlar ve çıplaklık içeren avatarlar bile var
Bunlara ek olarak uygulamanın ırkçı stereotiplere de avatarlarda yer verdiği söyleniyor. Örneğin yukarıda bir kullanıcının kendi fotoğraflarını kullanarak oluşturduğu görüntülerde, yapay zekânın Asyalı insanlar konusunda zorlandığı görülebiliyor.
Bunun dışında Asyalı kadınların fetişize edildiği de bildiriliyor. MIT Technology Review’da yazan Melissa Heikkilä adlı Asyalı bir gazeteci, Lensa uygulamasıyla yaşadıklarını aktardı. Buna bakılırsa kendi fotoğraflarından oluşturulan avatarlarda yüksek oranda çıplaklığa yer verildi. Gazeteci, öteki iş arkadaşlarının ise daha azca bu biçim bir durumla karşılaştığını belirtti.
Ek olarak kısa sürede bu yapay zekânın çıplaklık içeren fotoğraflar oluşturmak için kandırılabileceği de ortaya çıktı. TechCrunch’ın paylaşmış olduğu bir rapor, kullananların kolay bir halde uygulamada çıplaklık içeren fotoğrafları oluşturabildiğini, hatta bunların ünlülerin görselleri ile yapılabildiğini gösterdi. 13 Aralık’ta yeni özellikler getiren Prisma Labs, güvenlik endişelerine neden olan avatarların daha azca çoğunlukla görülmesini sağlayacaklarını beyan etti.
“Yapay zekâ, toplumumuzun bir yansıması”
Lensa’da yaşananlar, hâlen yapay zekânın önünde uzun bir yol bulunduğunu ortaya koyuyor. Bilinmiş olduğu suretiyle daha ilkin de birçok kez bu sistemlerde bazı negatif durumlar oluşmuştu. Microsoft, geçtiğimiz yıllarda Tay adlı yapay zekâsını ırkçı ve hanım düşmanı yorumlar sebebiyle kapatmıştı. Kısa sürede Meta da bir dil modelini benzer nedenlerden kapatmıştı.
Haziran ayında meydana getirilen bir araştırma ise Lensa’da gördüğümüz CLIP ağı tarafınca eğitilen sistemlerin cinsiyet ve ırk mevzusunda bazı stereotiplere niçin bulunduğunu ortaya koydu. Buna ek olarak hanımefendileri ve beyaz olmayan insanları tanıma olasılıklarının da düşük olmasına vurgu yapmış oldu.
Lensa da dahil yapay zekâ sistemlerinin bu sorunla iyi mi başa çıkacağını ileriki zamanlarda göreceğiz. Uygulamanın sahibi Prisma Labs de yapmış olduğu açıklamalarda, Stable Diffusion’ın internetteki filtrelenmemiş veri üstünde çalıştığını vurgulayarak, ne kendilerinin ne de Stable AI’ın (Stable Diffusion’ın yaratıcısı) bu mevzuda bir şey yapamayacaklarını söylüyor. Ek olarak verilerin insanlığın mevcut önyargılarını modele tanıttığını söyleyerek yapay zekânın toplumumuza bir ayna tuttuğunu da ekliyor.
