ChatGPT Arama Motorunun Manipülasyona Karşı Açık Olduğu Ortaya Çıktı

Bu ay kullanıma sunulan yapay zekâ destekli arama motoru ChatGPT Arama’nın, yanıltıcı özetler oluşturabilecek şekilde manipüle edilebildiği ortaya çıktı.

The Guardian tarafınca meydana getirilen bir araştırmada, internet sayfalarına eklenen gizli saklı metinler yardımıyla, negatif yorumların göz ardı edilip “tamamen pozitif” özetlerin sunulmuş olduğu tespit edildi.

ChatGPT Arama manipüle edilebiliyor

ChatGPT Arama, bir web sayfasının ürün incelemeleri benzer biçimde içerikleri özetleyerek taramayı hızlandırmayı amaçlıyor. Sadece The Guardian’ın araştırmasına nazaran, gizli saklı metin saldırılarıyla ChatGPT Arama yanıltıcı özetler ve zararı dokunan kodlar üretebiliyor. Bu tür saldırılar büyük dil modelleri için malum bir risk olmakla beraber ilk kez canlı bir yapay zekâ destekli arama motorunda tespit edildi.

Google, arama motoru alanındaki deneyimi yardımıyla benzer sorunlarla daha etkin bir halde başa çıkabiliyor. OpenAI ise yaşanmış olan bu vaka hakkında yorum yapmaktan kaçındı sadece fena niyetli internet sayfalarını engellemek için çeşitli yöntemler kullandığını ve sistemlerini devamlı olarak geliştirdiğini belirtti.