Yapay Zekâ Eğitimi Verilerinde Çocuk İstismarı Bulunmuş oldu
Stanford araştırmacıları, Stable Diffusion tarafınca kullanılan LAION-5B adlı yapay zekâ eğitim görsel setinin içinde çocuk istismarına ilişkin bağlantılar buldu, hem de yüzlerce.
Yapay zekâların eğitilmesi için oldukça büyük veri setlerine gerekseme duyuluyor. Veri seti ne kadar büyükse yapay zekâ da ona gore daha iyi performans gösteriyor. LAION da yapay zekâ geliştiricileri için veri setleri oluşturuyor. Stanford Web Gözlemevi, LAION-5B adlı veri setinde çocuk istismarına ilişkin yüzlerce linki ortaya çıkardı.
LAION-5B, Stable Diffusion’un yaratıcısı olan Stability AI tarafınca da kullanılmıştı. Eylül 2023’te veri setini incelemeye süregelen Stanford’lu araştırmacılar, bu veri setinde çocuk istismarına ilişkin içeriklerin olup olmadığını, var ise kaç tane bulunduğunu ortaya çıkarmayı amaçlıyordu. Emek harcama sonuçlarına gore minimum 1679 içerikte çocuk tacizini içeren görsellere ilişkin bağlantılar bulunmuş oldu. Bu bilgiler, PhotoDNA ve Kanada Çocuk Koruma Merkezi benzer biçimde kurumlarla da paylaşıldı.
Stable Diffusion’da da bu veri seti kullanılmıştı
LAION’un web sitesinde yer edinen bilgilere gore veri seti görselleri depolamıyor, görüntülerin metin açıklamalarıyla görüntülerin linklerinin yer almış olduğu bir web indeksi oluşturuyor. Google da Imogen üretken yapay zekânın eğitimi için LAION-5B’nin daha eski sürümü olan LAION-400M’i kullanmıştı. Şirket, daha sonraki versiyonlarda 400M’in kullanılmadığını söylerken, Imogen araştırmacıları da veri setinde “çocuk istismarı, ırkçı küfürler ve zararı dokunan toplumsal sterotipler benzer biçimde oldukça sayıda uygunsuz içerik bulunduğunu” belirtmişti.
Stanford araştırmacıları, bu içeriklerin varlığının direkt veri setinin çıktılarını etkilemediğini söylerken, LAION ise bu türden zararı dokunan içeriklere karşı sıfır hoşgörü politikası uyguladıklarını ve geçici bir süreliğine veri setini yayından çekeceklerini açıkladı. Öte taraftan bu verilerle eğitilmiş olan yapay zekâları tekrardan eğitmek daha büyük bir mesele oluşturuyor.
Daha ilkin de ABD’de eyalet savcıları kongreye, yapay zekânın çocuk istismarında kullanımı ve üretken yapay zekâlarla bu tür içeriklerin üretiminin engellenmesi için bir komite toplanması çağrısında bulunmuştu.
