Günümüzde yapay zekâları alt edebilen sistemler bulunuyor. MIT ekibi de bu sistemlerden bir tanesini geliştirdi. Metin bazlı bir sistem geliştiren araştırmacılar, Google’ın yapay zekâsını kandırmayı başardı.
Yapay zekâ, insanlık tarihindeki en büyük kırılmalardan bir tanesini yaratabilecek bir potansiyele haiz ve hâlâ üzerine bir şeyler konularak geliştirilmeye çalışılıyor sadece yapay zekâ sistemlerini kandırabilecek örnekler de bulunuyor. Buna Google’ın görselleri saptamak için geliştirdiği yapay zekâsı ve Jigsaw’un zararı olan yorumları tespit etmesi için geliştirdiği yapay zekâ sistemi de dâhil.
MIT Bilgisayar Bilimleri ve Yapay Zekâ Laboratuvarı’ndaki araştırmacılar, TextFooler adını verdikleri bir sistem geliştirdiler. Bu sistemle Alexa ve Siri benzer biçimde organik dil işleme kullanan yapay zekâlar kandırılabiliyor.
Yapay zekâyı kandırmak:
TextFooler, açıklarını idrak etmek adına organik dil işleme modellerine hücum etmek için tasarlanmış bir sistem. Bunu yapabilmek içinse cümlenin dil bilgisi içeriğini bozmadan ya da anlamını değiştirmeden kelimeleri değiştirerek girdi cümlesinde düzenlemeler yapıyor. Sistem, hemen sonra değiştirilmiş girdi metin sınıflandırmasıyla iyi mi başa çıkıldığını görmek için organik dil işleme modeline saldırıyor.
Doğal bir metnin anlamında değişim yapmadan kelimelerini değişiklik yapmak oldukça zor. TextFooler, bunun için öncelikle organik dil işleme modelinde sıralamada ağırlık taşıyan mühim kelimeleri denetim ediyor. Daha sonraysa cümleye güzel bir halde oturabilecek eş anlamlı karşılıklarına bakıyor.
Sistemi geliştiren araştırmacılar, hâlihazırda mevcud üç modeli başarı göstermiş bir halde kandırdıklarını ve bunların içinde Google tarafınca geliştirilen ve BERT adında olan açık kaynaklı dil modelinin bulunduğunu da ifade ettiler.
TextFooler araştırmasının yazarı Din Jin, “Bu araçlar, fena amaçlı saldırılara karşı korunmasızlarsa sonuçlar yıkım olabilir. Bu araçların kendilerini koruyabilmeleri için verimli bir müdafa yaklaşımlarına gereksinimleri var” ifadelerini kullandı. MIT ekibi, TextFooler’ın istenmeyen e-posta filtreleme, nefret söylemini tespit etme yada kırılgan politik söylemler benzer biçimde metin bazlı modellerde kullanılabileceğini düşünüyor.
