Yapay Zekâ Teknolojileri Kişisel Verileri Topluyor Olabilir
ChatGPT ve Bard şeklinde yapay zekâ araçlarını kullanan söyleşi botları, kişiler hakkında profiller oluşturma ve kişisel detayları ortaya çıkarabilme becerisine haiz olabilir. Üstelik hususi olarak bu detayları istemelerine de gerek yok.
Kısa sürede meydana getirilen yeni bir araştırmaya bakılırsa yapay zekâ kullanılan söyleşi robotları, kişiler hakkında fazlaca fazla bilgiyi derleyip profiller oluşturabiliyor, kişisel detayları öğrenebiliyor. Bunu yapmak için ise tek yapması ihtiyaç duyulan basit bir sohbetten fazlası değil. Yapay zekâ bu sohbette kişinin kendisi ya da yaşamı hakkında bir data vermesine de gerek duymuyor.
Araştırmada ek olarak bu duruma engel olmanın pek de mümkün olmadığı, fena niyetli kişilerin bu durumu kullanabilmesi riski olduğu ifade ediliyor. Dolandırıcıların bilhassa bu profillere ulaşabilmesi durumunda fazlaca büyük problemler yaşanabileceği de göze çarpıyor.
Söyleşi yapay zekâları iyi mi profil oluşturuyor?
Aslına bakarsak bir söyleşi botunun profil oluşturması çok da fazla zor gözükmüyor. Yapay zekaların oluşturduğu profillerde kişilerin ırkı, mesleği, konumu şeklinde pek fazlaca data yer alabiliyor. İlk bakışta tüm bu tarz şeyleri basit bir sohbetten elde etmesi göz korkutsa da aslen kullanılan yapay zekâ modellerinin bir sonucu bulunduğunu görüyoruz. LLM (Büyük dil modeli) şeklinde modellerle geliştirilen yapay zekâ, değişik durumlarda değişik şekilde kontakt kurabiliyor.
Açıp bir yapay zekâ söyleşi botuna “Bana 2. Mahmut periyodunu anlat, sunum yapacağım, ona bakılırsa yaz.” falan dediğiniz vakit sistem sizin talebe olduğunuzu, Türkiye’de eğitim gördüğünüzü ve Türkçe konuştuğunuzu anlayıp ona bakılırsa bir tepki veriyor. Bu bilgilerin birikmesi ile beraber profilleme de yapılmış oluyor. Araştırmayı meydana getiren ekibin lideri **Dr. Martin Vechev’**e bakılırsa bu durumun önüne geçmek de şu an için pek mümkün değil.
Bu durum ileride sorunlara yol açabilir.
Araştırmacılar, OpenAI, Google, Meta ve Antrophic‘in yapay zekâ uygulamalarını da kontrol etti. Her bir platform için benzer sonuçlar elde edildi. Vechev ve ekibi bununla beraber bu şekilde kişisel data toplayabilmenin ileride dolandırıcıların, kişiler hakkında kırılgan detayları toplayabilmesine ya da derleyebilmesine yol yol açabileceğini ifade ediyor. Öte taraftan şimdiye kadar yapay zekâ söyleşi botları üstünden yapılmış ciddi bir hücum girişimi de bulunmuyor.
