Suni Zekâ Destekli Oyuncak Ayı Apar Topar Satıştan Kaldırıldı: Sebebi Tahmin Ettiğinizden de Fena!
Suni zekâ destekli oyuncak ayı üreten bir firmanın ürettiği oyuncak ayılar kullanıcılarla uygunsuz sohbetler yapmasının peşinden apar topar satıştan kaldırıldı.
Singapur merkezli FoloToy firmasının ürettiği suni zekâ destekli oyuncak ayı “Kumma”, satın alan kullanıcılarla yapmış olduğu uygunsuz ve tehlikeli sohbetler sebebiyle gündeme bomba benzer biçimde düştü. Kamu Yararı Araştırma Grubu’nun (PIRG) yayımladığı rapora gore oyuncak, ufaklıklara kibrit ve bıçak benzer biçimde tehlikeli nesnelerin nerede bulunabileceğini anlatmakla kalmayıp, uyuşturucu ve benzeri fena alışkanlıklar hakkında da sohbetler etti.
Durumun hızla yayılmasının peşinden OpenAI, FoloToy’un GPT-4o dâhil olmak suretiyle kendi modellerine erişimini engelledi. Şirket ise apar topar tüm ürünlerini satıştan kaldırdı ve kapsamlı bir güvenlik denetimi başlattığını duyurdu. Uzmanlar, bu olayın suni zekâ destekli oyuncaklarda ciddi bir düzenleme eksikliğine işaret ettiğini söyleyerek anne babaları dikkatli olmaya çağırıyor.
OpenAI, FoloToy’un modellerine erişimini engelledi
OpenAI, “18 yaş altındakilerin istismarı ve tehlikeye atılması” ile sonuçlanabilecek her türlü kullanımın kesinlikle yasak bulunduğunun yine altını çizerken, an itibarıyla FoloToy’un internet sayfasında hiçbir ürün satışta değil.
PIRG, bu adımları pozitif yönde bulmakla beraber suni zekâ oyuncak sektörünün neredeyse tamamen denetimsiz bulunduğunu söylüyor. Uzmanlar, üreticilerin güvenlik protokollerini tekrardan gözden geçirmesi icap ettiğini, aksi takdirde benzer olayların kaçınılmaz bulunduğunun altını çiziyor.
