OpenAI, Yapay Zekâyı “Engellemek” İçin Ekip Kurdu
OpenAI, gelecekte süper akıllı sistemlerin insanlığa karşı tehdit oluşturmasını şimdiden önlemek için bir araştırma ekibi kurdu.
Kasım 2022’de yayınladığı söyleşi botu ChatGPT ile dünyayı alt üst eden OpenAI, yapay zekâ hakkında tartışmaları tekrardan alevlendirmişti. Botun o dönem verdiği münakaşa yaratan cevapları ve hatta insanları kandırmaya kalktığı şeklinde örnekleri, yapay zekânın insanların yaşamını tehlikeye yerleştirip sokmayacağını da münakaşaya açtı.
Fakat en azından şu aşamada bir gerçeği biliyoruz: Yapay zekâ, şimdilik bir tek izin verdiğimiz kadar kabiliyete haiz olabiliyor. Sadece bu gerçek, gelecek için tehlikeleri ortadan kaldırmıyor. OpenAI da şimdiden insanlığın yapay zekâ tarafınca alt edilmesini engellemek için önlemler almaya başladı.
“Süper akıllı yapay zekâya” karşı ilk tedbir duyuruldu:
OpenAI, 5 Temmuz’da yayınladığı yazısında “Superalignment” adlı yeni bir ekip kurduğunu açıkladı. Bu ekip, insanlığın yaratacağı “süper akıllı yapay zekâ” sistemlerinin denetim edilmesini sağlamayı amaçlayacak.
OpenAI’a gore süper akıllı yapay zekâ teknolojileri halen oldukça uzak bir gelecekte gözüküyor. Fakat şirket, bu teknolojilerin önümüzdeki 10 yıl içinde varlığını göstermeye başlayacağına inanıyor.
Superalignment ekibinin bu sistemleri yönlendirmek ve insanlığı tehlikeye atmamak için yapacağı ilk emek harcama da insan seviyesinde zekâya haiz bir yapay zekâ geliştirmek olacak. Bu yapay zekâ, önümüzdeki 4 yıl içinde geliştirilecek ve görevi, süper akıllı yapay zekâyı denetlemek olacak.
- Kısaca bir nevi süper akıllı sistemler, insan zekâsıyla eşdeğer öteki yapay zekâlar vesilesiyle sınırlandırılacak, yönlendirilecek.
Üstelik OpenAI, bu vazife için haiz olduğu tüm işlem gücünün %20’sini ayıracak. Ek olarak ekipte çalışacak potansiyel makine öğrenimi ve mühendislerini de şimdiden çağırmaya başladı.
OpenAI’ın kurum amacı da aslına bakarsak bu yeni ekiple paralel:
OpenAI, kurulduğu 2015 senesinde kendisini şöyleki tanımlamıştı:
“OpenAI kâr amacı gütmeyen bir yapay zeka araştırma şirketidir. Hedefimiz, dijital zekayı, finansal getiri sağlama ihtiyacıyla sınırlandırılmadan, bir tüm olarak insanlığa en oldukça yarar sağlayacak şekilde ilerletmektir. Araştırmamız mali yükümlülüklerden muaf olduğundan, pozitif yönde bir insan etkisine daha iyi odaklanabiliriz.”
Doğal “kâr amacı gütmeyen” tabiri artık geçerli değil.
