Emma Watson, Yapay Zekanın Kurbanı Oldu!

0 2 dakika okuma süresi

Hemen hemen beta aşamada olan yapay zeka destekli deepfake ses oluşturma aracı, daha ilk günlerinde kötüye kullanılmaya başladı. Emma Watson ve Joe Rogan şeklinde dünyaca meşhur adların düzmece sesleri ile kabul edilemez cümleler kurduruldu. Geliştirici ekip, teknolojiyi bir kenara bırakıp kötüye kullanıma tedbir almak için çalışmaya başladı.

Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka teknolojisi, daima yararlı işler için kullanılmıyor. Akla gelen her yerde iyiliğin yanında varlığını sürdüren fenalık, yapay zekâ teknolojilerinde de aynı durumu koruyor.

Deepfake ile meydana getirilen aldatıcı açıklamalar, zelzele bölgesinde yıkıntı altında Kur’an-ı Kerim bulduktan sonrasında müslüman olduğu söylenen Çinli bir kişinin bulunmuş olduğu düzmece görsele kadar bugüne dek pek oldukca fena amaçlı örnek de gördük. Fakat yeni teknolojilerle bu vakalara yeni örnekler de eklenmeye devam ediyor.

Bu sefer bir ses vakası: ElevenLabs ve düzmece meşhur sesleri skandalı

Yapay zekânın kötüye kullanımındaki son örnek ise ElevenLabs’ın pek oldukca potansiyele haiz yapay zekâsı idi. Bu yapay zekâ, sizin sisteme sunduğunuz bir sesi çözümleme ediyor ve arkasından bu sesi kullanarak istediğiniz cümleleri söyletmenizi sağlıyor.

Fakat hemen hemen tecrübe etme aşamasında olan teknoloji, şimdiden fena amaçlara alet oldu. Bazı 4chan kullanıcıları kısa süre ilkin Emma Watson, Joe Rogan ve Ben Shapiro şeklinde adların sesleriyle tartışmalı kayıtları paylaşmıştı. O kayıtlar, nefret söylemleri sebebiyle hiçbir toplumsal medya platformunda paylaşılamıyor.

Paylaşılan seslerde Emma Watson, Adolf Hitler’in kitabını okuyormuş; Joe Biden da fazlasıyla ırkçı ve sertlik içerikli cümleler kuruyormuş şeklinde gösteriliyordu. Bu söylemlerin ne kadar gerçekçi olabileceğini daha da somutlaştırmak için, iyi niyetli örneklere göz atabilirsiniz:

https://www.youtube.com/watch?v=17_xLsqny9E

Leonardo DiCaprio’nun hitabı, sadece değişik adların sesleriyle.

Geliştirici şirket, bu emek harcamalar üstüne odağını teknolojiyi geliştirmekten değişik bir noktaya kaydırdı.

ElevenLabs, internette büyük münakaşaya neden olan bu videolar üstüne kötüye kullanımları önlemek için yeni güvenlik özellikleri üstünde çalışacaklarını açıkladı. Ekip, artık teknolojiyi geliştirmenin yanı sıra kötüye kullanımı engellemeye de odaklanmaya başladı.

Peki, bu önlemler iyi mi alınacak?

Şirket, kullanıcılar tarafınca üretilen fena amaçlı içerikleri saptamak için kimlik doğrulama sistemi ekleyeceğini açıkladı. Ek olarak bu vakaya kadar ücretsiz bir şekilde tecrübe etme amacıyla kullanılabilen yapay zekâ, artık yalnızca ücretli olarak sunulmaya başladı.

Normal olarak teknolojiyi ücretli ve kimlik doğrumalı hale getirmek, bu amaçların yerine getirilmesinin önüne geçmeyecek. Şirket de aslına bakarsak bunun bilincinde bulunduğunu altını çizdi. Fakat bu sistemler yardımıyla ekip, artık fena amaçlı içerikleri üretenleri tek tek tespit etmenin peşinden koşabilecek.

“Peşinden koşmak” vurgusu burada mühim, ekip artık extra bir işe daha haiz:

ElevenLabs’te yaşanmış olan vakalar, yapay zekâ geliştiricileri ve teknolojilerindeki bir problemi da ortaya koydu. Bu teknolojiler her ne kadar iyi amaçla ve yarar sağlamak suretiyle geliştirilse de kötüye kullanım için de bir denetim mekanizmasına haiz olmak zorunda.

Bu mekanizmanın kurulması ve yürütülmesi de bilhassa ufak ekiplerde apayrı boyutta iş yüküne yol açıyor, hızla gelişen teknolojinin gelişimi yavaşlıyor, aksıyor.

Bunun çözümü ne?

Aslına bakarsak bu durumun bir çözümü yok. Zira fena amaçlı kişiler, her türlü bariyeri aşmak için uğraşmaya devam edecek. Bunun önüne geçilmesinin tek çözümü de ElevenLabs tarafınca alınan önlemler ve benzerleri olacak. Bu da, extra finansman ile bir ekip kurulamadığı sürece teknolojilerin gelişim hızını negatif etkileyecek.

0 2 dakika okuma süresi