ChatGPT’de Yeni Güvenlik Açığı Ortaya çıkarıldı

ChatGPT’nin konuşmaları aklında tutmasını elde eden ve sonraki cevaplarını buna nazaran şekillendiren hafıza özelliği, fena niyetli kişiler tarafınca bir güvenlik açığı olmasına yol açtı.

Kullanıcılar hafıza özelliği yardımıyla ChatGPT’yi 102 yaşlarında olduğuna, Matrix’te yaşadığına yada Dünya’nın düz olduğuna inanacak şekilde kandırılabiliyordu. Bu tür düzmece anılar, dosya depolama servisleri yada internet sayfaları vasıtasıyla da yerleştirilebiliyordu.

Güvenlik araştırmacısı Johann Rehberger, bu açığı fark ederek fena niyetli kişilerin bir kullanıcının konuşma geçmişini saklayan belleğe düzmece bilgiler ve fena amaçlı talimatlar yerleştirebileceğini tespit etti. OpenAI, bu problemi ilk başta güvenlik açığı olarak kabul etmese de Rehberger kavram kanıtı durumunda bir istismar geliştirdi. Bu istismar, ChatGPT’nin bir kullanıcının girdilerini devamlı olarak dışarı sızdırmasına niçin oldu.

OpenAI probleminin üstünde çalışıyor

Arkasından OpenAI fazlaca geçmeden bu açığı fark ederek bir düzeltme yayınladı sadece hâlâ tam bir çözüm sağlanmış değil. Rehberger’in fark etmiş olduğu durum, kullanıcının tüm ChatGPT girdileri ve çıktılarının fena amaçlı bir sunucuya iletilmesine olanak sağlıyor. Bu durum, yalnızca kullanıcıya fena amaçlı bir web bağlantısının gösterilmesiyle gerçekleşebiliyor. Rehberger’in iddiasına nazaran bu yöntem ile kullanıcının kalıcı ChatGPT belleğinde yer edinerek, yeni bir konuşma başlatılsa bile veri sızdırmaya devam edilebiliyor.

OpenAI her ne kadar mevzu üstünde çalışıyor olsa da Rehberger’in iddiaları probleminin hâlâ devam etmiş olduğu yönünde. Şimdilik bu süreçte bu durumdan kaçınmanın en iyi yolu hafıza hususi durumunu denetlemek yada gerekiyorsa kapatmak ve güvenilmeyen kaynaklardan gelen detayları tertipli olarak gözden geçirmekten geçiyor.

Peki siz bu mevzu hakkında ne düşünüyorsunuz? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.