Bir şahıs, ChatGPT’yi kullanarak düzmece geçişlik oluşturdu. Geçişlik, kimlik doğrulama sistemlerini kolayca geçebildi.
Yapay zekâ modelleri her ne kadar hayatımızı kolaylaştırsa da bazı kaygı verici durumları da bununla beraber getiriyor. Sahtecilik de bunlardan biri. Bir LinkedIn kullanıcısının kısa sürede yapmış olduğu gözlem de yapay zekânın kötüye kullanımını bir kez daha gözler önüne seriyor.
Borys Musielak isminde kullanıcı, LinkedIn üstünden yapmış olduğu paylaşımda bir gözlem yaparak ChatGPT ile düzmece geçişlik görseli oluşturup asla fark edilmediğini açıkladı.
Kimlik doğrulama sistemlerini geçmeyi başardı
OpenAI, geçtiğimiz hafta ChatGPT’ye GPT-4o destekli görsel üretme özelliği getirmişti. Bu güncellemeyle beraber artık oldukca daha gerçekçi görseller üretilebiliyordu. İşte Musielak da tam olarak bunu kullandı.
Kullanıcının aktardığına nazaran kendi pasaportu kopyasını oluşturmak yalnızca 5 dakikasını aldı. Daha sonrasında ise yapay zekâ ile oluşturulan bu görseli kullanarak fotoğraf tabanlı kimlik doğrulama sistemlerini sorunsuz bir halde aşabildiğini açıkladı. Yapay zekânın bu sistmeleri bitireceğini, bu tarz şeyleri kullananların riske girebileceğini de ekledi.
Bu vaka, yapay zekânın gelişmesiyle düzmece şeylerin fark edilebilir olmasının oldukca daha zorlaştığının bir göstergesi. Musielak’ın paylaşmış olduğu fotoğraftan kopya pasaportun gerçeğinden neredeyse ayrımsız bulunduğunu görebiliyoruz. Bu da fena amaçlı kullanımların kolayca yapılabileceğini gösteriyor.
Yapay zekâ şeklinde şirketlerin bu biçim olayların önüne geçmek için güvenlik önlemleri alması koşul. Bu şekilde düzmece kimlik, geçişlik şeklinde şeylerin görsellerini üretmenin önüne geçmek bu riskleri azaltacaktır.
