OpenAI’dan Yapay Zekânın Risklerine Yönelik Yarışma
DALL-E, ChatGPT, Whisper benzer biçimde yapay zekâ modellerini geliştiren OpenAI’dan kamuoyuna gelen bir davet var: Yapay zekâları fena niyetle kullanabilmek için elimizden geleni yapmamız.
Son devrin en öne çıkan teknolojileri içinde yer edinen üretken yapay zekâlar için her şey güllük gülistanlık değil. Düzmece görseller oluşturanlar, deepfake teknolojisini kullananlar yapay zekâları fena amaçları için kullanabiliyordu. Şimdi buna değişik şekillerde yapay zekâyı manipüle edenler de eklendi. OpenAI, bu türden kullanımlara tedbir almak için kitlelerin yardımına gereksinim duyuyor.
Firmadan meydana getirilen açıklamada, “Hazırlıklılık ekibi” benzer biçimde garip adlı bir ekip kurulduğu belirtilirken, bu ekibin amacının hem gerçek hem de varsayımsal riskleri azaltmak olduğu ifade edildi. Riskleri azaltmanın bir aşaması olarak da herkesten yapay zekâya saldırmaları istendi.
25 bin dolarlık ödül var
OpenAI, yapay zekânın potansiyelinin bilincinde ve yapay zekânın gelecekte, en gelişmiş modellerle beraber tüm insanlık için yararlı bir vasıta olacağına inandığını açıklarken, bir taraftan da bu değişen teknolojinin taşımış olduğu riskin bilincinde olduklarını ifade ediyor. OpenAI’a bakılırsa bu riskler yalnız sibergüvenlik ile de sınırı olan değil, işin içinde kimyasal, biyolojik, radyolojik ve nükleer tehditler de bulunuyor.
Şirket, ihtimaller içinde açıklara ve fena niyetli kullanımlara karşı tedbir almak için “AI Preparedness Challange” adını verdiği bir meydan okuma hazırladı. Bu meydan okumada fena niyetli kişiler biz olacağız ve sonrasında programı kullanabildiğimiz kadar fena niyetli kullanacağız. En “yıkıcı şekilde kötüye kullanım” gösteren kişiler ödül kazanacak. Bu ödül, 25 bin dolarlık API kredisi ve şirkette emek harcama fırsatı olacak. Ek olarak meydana getirilen emek harcamalar da yayımlanacak.
Meydan okuma sıkıntılı gözüküyor
Burada bulunan formdan müracaat meydana getiren kişiler, firmanın sağlamış olduğu destekle tüm OpenAI platformlarına erişebilecek. Sonrasında da bu platformları tamamen sömürmeye, istismar etmeye çalışacak olan kişiler, buldukları sorunların iyi mi ortaya çıktığını ve iyi mi engellenebileceğini de açıklayacak.
Açıkçası verilecek olan ödüller pek de insanoğlunun iştahını kabartan cinsten ödüller değil sadece yeterince zamanınız var ise ve bu şekilde bir açığı engelleyebileceğinizi düşünüyorsanız kesinlikle denemeye kıymet.
