Bilgisayar bilimci Yoshua Bengio’ya gore gelişmiş yapay zekâlar kontrolden çıkabilir. Bu yüzden insanlığın, yapay zekânın fişini çekme hakkını elinde tutması koşul.
Yapay zekâ alanının en mühim isimlerinden Yoshua Bengio, gelişmiş AI sistemleriyle ilgili dikkat çeken uyarılarda bulunmuş oldu. Bengio’ya gore bazı yapay zekâ modelleri artık denetimden kaçma ve kendini koruma eğilimleri gösterebiliyor. Bu durum, denetim mekanizmalarının sorgulanmasına yol açıyor.
Bengio, son dönemde tartışılan “yapay zekâya yasal haklar verilmesi” fikrine net şekilde karşı çıkıyor. Bu şekilde bir adımın, insanların AI sistemlerini kapatma yetkisini kaybetmesine niçin olabileceğini korumak için çaba sarfediyor. Ona gore “fişi çekme hakkı”, güvenliğin temel şartı.
Münakaşa yalnızca teknolojiyle sınırı olan değil; etik ve hukuk boyutu da giderek büyüyor. Bazı çevreler şuur kazanan yapay zekâlara hak tanınmasını savunurken, Bengio benzer biçimde adlar bunun erken ve riskli bulunduğunu düşünüyor.
Bu açıklamalar, yapay zekânın geleceğinde aslolan probleminin “ne kadar kuvvetli olduğu” değil, “kimin kontrolünde olduğu” bulunduğunu bir kez daha gösteriyor. Gelecek yıllarda AI için yasal sınırların ve güvenlik kurallarının daha sert çizilmesi planlanıyor.
