Dijital Nefretle Savaşım Merkezi adlı kurum, Grok’un engelleme gelmeden önceki 11 günlük süreçte X’te ne kadar müstehcen görsel ürettiğini hesapladı. Sonuçlar hakikaten ürkütücü.
X’in yapay zekâ modeli Grok, son zamanlarda görsel oluşturma ve düzenleme özelliği sebebiyle gündem olmuştu. Yapay zekâ aracı, kullananların istekleri üstüne platformdaki her kullanıcının görüntülerini dijital olarak değiştiriyordu. Bu şekilde de birçok insanoğlunun uygunsuz görüntüleri oluşturulmuştu. Gelen tepkilerin peşinden da şirket değişimler yapmıştı. İlk olarak bir tek ücretli abonelerin özelliği kullanımı sağlanmıştı. Sonrasında ise müstehcen görsel oluşturulmasının zorla izin verilmediği ifade edilmişti.
Şimdi ise Grok tarafınca oluşturulan müstehcen görüntüler hakkında veriler geldi. Dijital Nefretle Savaşım Merkezi, Grok’un 11 günlük süre süresince ne kadar cinsel içerikli görüntü ürettiğini paylaştı.
3 milyon müstehcen görüntü üretildi, 23 bini küçüklere ilişik
Paylaşılan verilere nazaran 29 Aralık ila 9 Ocak tarihlerini kapsayan süreçte X üstünden Grok ile toplamda 3 milyon tane cinsel içerikli görsel üretildi. Daha da korkuncu ise bu görsellerin 23 bini evlatları içeriyordu. Durumun ciddiyetini daha da anlamanız için bu verilerin dakikada 190 müstehcen görüntüye ve 41 saniyede 1 çocuk görseline denk geldiğini belirtelim.
Müessese, bu süreçte Grok tarafınca üretilen 20 bin civarı görseli inceleyerek bu verilere ulaştı. Sonuçlarda insanların cinsel pozisyonlarda, iç çamaşırı, mayo yada benzeri açık giysiler giydirilmiş bir halde görsellerinin oluşturulduğu açıklandı. Veriler, özelliğin ne kadar kötüye kullanma edildiğini gözler önüne seriyor. Her neyse ki artık her isteyen görsel oluşturamıyor.
