Yapay zekâ hızla gelişiyor ve her gün hayatımızın daha çok noktasına entegre oluyor. Bu durumdan doğan endişeler içinse sektörden bir mektup geldi. Future of Life, yapay zekâ çalışmalarının 6 ay durdurulmasını isteyen bir mektup yayınladı.
Son bir yıl içinde teknoloji ve internet sektörü yeni bir çağa giriş yapmış oldu. Bir insanoğlunun da ötesinde istediğiniz her şeye erişebilen söyleşi botları, yazdığınız metni ‘gerçeğinden’ bile gerçekçi halde görselleştiren görsel araçları… Bir tek bir yılda çıkan bu araçlarla birçok sektörde işleyiş değişmeye başladı.
Yapay zekâdaki bu süratli ve kontrolsüz görünen gelişme, uzman adları de ikiye böldü. Kimisi bu teknolojilerin gelişimini desteklerken, kimisi ise riskler sebebiyle kaygı duymaya başladı. Bu endişeler, yapay zekâ geliştiricilerine karşı hazırlanan bir mektupta dile getirildi. Mektuba Elon Musk ve Steve Wozniak şeklinde adlar de imza attı.
“Yapay zekâ sistemlerinin geliştirilmesi durdurulsun”
Endişeleri idrak etmek için mektubun tamamını okumakta yarar var:
Kapsamlı araştırmaların gösterdiği ve üst düzey yapay zekâ laboratuvarlarının onayladığı şeklinde, insanla rekabet edecek zekâya haiz yapay zeka sistemleri, cemiyet ve insanlık için büyük riskler oluşturabilir. Geniş çapta onaylanan Asilomar Yapay Zekâ İlkelerinde belirtildiği şeklinde, Gelişmiş Yapay Zekâ, Dünya üstündeki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı itina ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda yapay zekâ laboratuvarlarının asla kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği yada güvenilir bir halde denetim edemeyeceği daha kuvvetli dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini görmesine karşın, bu düzeyde bir planlama ve yönetim gerçekleşmiyor.
Modern yapay zekâ sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor[3] ve kendimize şu suali sormalıyız: Makinelerin informasyon kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tatminkar olanlar da dahil olmak suretiyle tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, akılca üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü yitirme riskine girmeli miyiz? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Kuvvetli yapay zekâ sistemleri, yalnızca etkilerinin pozitif yönde olacağından ve risklerinin yönetilebilir olacağından güvenli olduğumuzda geliştirilmelidir. Bu itimat iyi bir halde gerekçelendirilmeli ve bir sistemin potansiyel etkilerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zekâ ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan ilkin bağımsız araştırma almak mühim olabilir ve en gelişmiş çabalar için, yeni modeller oluşturmak için kullanılan informasyon işlemin gelişme oranını sınırlamayı kabul etmek mühim olabilir.” Katılıyoruz. O nokta bugün.
Bundan dolayı, tüm yapay zekâ laboratuvarlarını GPT-4’ten daha kuvvetli yapay zekâ sistemlerinin eğitimine minimum 6 ay ara vermeye çağırıyoruz. Bu duraklama her insana açık ve doğrulanabilir olmalı ve tüm kilit oyuncuları içermelidir. Bu şekilde bir duraklama süratli bir halde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.
Yapay zekâ laboratuvarları ve bağımsız uzmanlar, bağımsız dış uzmanlar tarafınca titizlikle denetlenen gelişmiş yapay zekâ tasarımı ve geliştirmeye yönelik bir takım paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır. Bu, genel olarak yapay zekâ geliştirmede bir duraklama anlamına gelmez, yalnızca tehlikeli yarıştan, ortaya çıkan kabiliyetlere haiz, her zamankinden daha büyük, öngörülemeyen kara kutu modellerine geri adım atmak anlamına gelir.
Yapay zekâ araştırma ve geliştirme, günümüzün kuvvetli, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, saydam, sağlam, uyumlu, güvenilir ve sadık hale getirmeye tekrardan odaklanmalıdır.
Buna paralel olarak, yapay zekâ geliştiricileri, sağlam yapay zekâ yönetişim sistemlerinin gelişimini mühim seviyede hızlandırmak için siyaset yapıcılarla beraber çalışmalıdır. Bunlar en azından şunları içermelidir: Yapay zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son aşama yetenekli yapay zekâ sistemlerinin ve büyük hesaplama kabiliyeti havuzlarının nezarete ve takip edeni; gerçek ile bileşik olanı ayırt etmeye ve model çıktılarını izlemeye destek olmak için kaynak ve filigran sistemleri; sağlam bir denetim ve belgelendirme ekosistemi; yapay zekâ kaynaklı zarar sorumluluğu; teknik yapay zekâ güvenlik araştırması için kuvvetli kamu finansmanı; yapay zekânın niçin olacağı acıklı ekonomik ve politik kesintilerle (bilhassa demokraside) başa çıkmak için iyi kaynaklara haiz kurumlar.
İnsanlık yapay zekâ ile gelişen bir geleceğin tadını çıkarabilir. Kuvvetli yapay zekâ sistemleri oluşturmayı başardıktan sonrasında, artık ödülleri topladığımız, bu sistemleri her insanın açık yararı için tasarladığımız ve topluma uyum sağlama şansı verdiğimiz bir “Yapay zekâ yazının” tadını çıkarabiliriz. Cemiyet, cemiyet üstünde potansiyel olarak yıkıcı tesirleri olan öteki teknolojilere ara verdi. Bunu burada yapabiliriz. Uzun bir yapay zekâ yazının tadını çıkaralım, hazırlıksız bir halde sonbahara koşmayalım.
Mektuba imza atanlar içinde büyük adlar var:
An itibarıyla sektörden 1125 destekçiye kavuşan mektuba imza atan adlar içinde şunlar da yer ediniyor:
- Elon Musk (SpaceX, Tesla ve Twitter CEO’su)
- Steve Wozniak (Apple Kurucu Ortağı)
- Evan Sharp (Pinterest Kurucusu)
- Emad Mostaque (Stability AI CEO’su)
- Zachary Kenton (Google bünyesindeki DeepMind’ın Kıdemli Araştırmacısı)
Mektuba ve tüm destekleyenlere ulaşmak için bu bağlantıya tıklayabilirsiniz.
