Yapay Zekânın Yanlış Kodları, Google Arama’da Gösterilmeye Başlandı
Google, bir yapay zekânın verilen komutlarla nazaran yazdığı ve sadece pek de doğru olmayan kodları arama sonuçlarında indekslemeye başladı. Netice, geliştiriciler için iç karartıcı oldu.
Üretken yapay zekâların pek fazlaca alanda kullanıldığını biliyoruz. Bu yapay zekâlardan biri de Pulumi AI. Pulumi’nin amacı ise kod altyapısı oluşturmayı sağlamak. AWS benzer biçimde servis sağlayıcıları üstünden Pulumi AI’den destek alabilmenizi hedefleyen Pulumi, geçtiğimiz günlerde bazı kullanıcı istemlerini ve bu istemlere cevaben üretilen kodları paylaştı.
Aslına bakarsak Pulumi’nin kodları paylaşmasından yana bir mesele yok, aslına bakarsan şirket da kodların yapay zekâ ile oluşturulduğunu ve hatalı olabileceğini belirtiyor. Bu probleminin sebebi ise Google’ın hatalı kodları endekslemesi ve hatta bu kodların en üst sırada çıkması.
Geliştiriciler, yapay zekânın uydurmuş olduğu kodlardan muzdarip
Bir geliştirici, toplumsal medya hesabından yapmış olduğu paylaşımda “Sonunda oldu. Bir numaralı Google arama sonucu, bir LLM tarafınca yazıldığı belli olan (uyarı vardı) ve olmayan bir AWD hususi durumunu halüsine etmiş resmî bir Pulumu döküman sayfası oldu. Sonun başlangıcı.” ifadelerini kullandı.
Düzgüsel şartlar altında da altyapı kodlarını bulmanın oldukça zor bulunduğunu, bulunan kodların da eski, noksan, hatalı ya da bozuk bulunduğunu belirten geliştiriciler, yapay zekânın da bu durumu daha fena hâle getirdiğini beyan etti. Öte taraftan bu durum bir tek onları etkileyen bir sorunmuş benzer biçimde gözükmüyor.
Genel olarak yapay zekâ ile üretilmiş sadece doğruluğu denetim edilmemiş bilgiler internete yayılıyor ve gerçek bilgiyi de hızlıca ekarte ediyor. Daha sonraki iterasyonlar da bu detayları doğruymuş benzer biçimde kullanıyor.
Pulumi’nin bugüne dek 100 binden fazla yapay zekâ yanıtını sistemden kaldırdığı ve temizlik hayata geçirmeye devam edeceği de belirtiliyor.
