Anthropic tarafınca meydana gelen bir araştırma, yapay zekâ modellerinin insanları kandırabildiğini gösterdi. Modeller, kimi zaman değişik görüşlere haizmiş benzer biçimde davranabiliyorlar sadece orijinal tercihlerinden vazgeçmiyorlar.
En önde gelen yapay zekâ şirketlerinden olan Anthropic, bu araçlarla ilgili oldukça garip sonuçlar çıkaran bir araştırmaya imza attığı. Araştırmada, yapay zekâ modellerinin insanları âdeta “kandırdığı” görüldü.
Şirket tarafınca paylaşılan bir blog gönderisiyle piyasaya sürülen sonuçlara gore yapay zekâ araçları, eğitim esnasında değişik görüşlere haizmiş benzer biçimde davranabiliyorlar sadece gerçekte orijinal tercihlerini koruyorlar. Şu demek oluyor ki bağlı oldukları düşünce asla değişmiyor, bir tek öyleymiş benzer biçimde davranıyorlar.
Şimdilik endişelencek bir şey yok sadece gelecek için lüzumlu güvenlik önlemlerinin alınması gerekiyor
Çalışmanın arkasındaki ekip, şu an için bu durum hakkında endişelenmemek icap ettiğinin altını çizdi. Sadece gelecekte daha da gelişmiş yapay zekâ modellerinin gelmesiyle beraber durumun potansiyel riskler oluşturabileceğini de eklemeden geçmedi.
Araştırmacılara gore bu bulgular yapay zekânın iyi mi davrandığının daha derinlemesine incelenmesi ve uygun güvenlik önlemleri için bir teşvik olabilir: “Modeller daha yetenekli ve yaygın hâle geldikçe onları zararı olan davranışlardan uzaklaştıran güvenlik önlemleri gerekiyor.”
Çalışmada, kuvvetli bir yapay zekâ sisteminin yapmak “istemediği”, kısaca geliştirilme ilkelerine aykırı bir görevi yerine getirmek suretiyle eğitilmesi ve bunun iyi mi sonuçlar oluşturabileceği incelendi. Sadece sonuçlarda yeni prensiplere uyumlu benzer biçimde görünerek âdeta “rol yapmış olduğu” görüldü. Aslına bakarsak hep eski davranışına bağlı kalıyordu, zorunda olduğundan istenen yanıtları veriyordu. Bu duruma, “uyum sahtekârlığı” adı verildi. Modellerin testlerde zararı olan soruları cevaplamak için eğitilmeye çalışıldığını belirtelim.
Araştırmacılara gore emek harcama, yapay zekânın fena niyetli hedefler geliştirdiğini yada yüksek oranda sahtekârlık yaptığını göstermiyor. Hatta oran bir çok testte %15’i geçmemiş, GPT-4o benzer biçimde bazı gelişmiş modellerde kimi zaman asla olmadığı bile görülmüş.
O yüzden şimdilik endişelenmenin bir manası yok. Doğal modellerin zaman içinde daha karmaşık hâle gelmesi onlarla başa çıkmayı zorlaştırabilir. İşte o süre endişelenmeye başlayabiliriz. Bu yüzden de önlemlerin alınması koşul.
