OpenAI Yeni Güvenlik Takımını Duyurdu

OpenAI, daha önceki güvenlik ekibinin görevine son vermişti. Sonrasında da şirket, CEO’su Sam Altman’ın da dahil olduğu yeni bir güvenlik ekibi kurduklarını açıkladı. Üç kişilik ekipte Altman’ın haricinde yönetim kurulu üyeleri Adam D’Angelo ve Nicole Seligman oldu. Komite, “eleştiri güvenlik ve gizlilik kararlarında OpenAI projelerine ve operasyonlarına tavsiyede” bulunacak.

Komitenin ilk görevi de belli oldu. Ekip, OpenAI’ın süreçlerini ve güvenlik önlemlerini değerlendirerek ve geliştirerek çalışmalarına başlamış olacak. Sonrasında da ekibin bulguları OpenAI Yönetim Kurulu ile paylaşılacak. Sonrasında yönetim kurulu bu detayları değerlendirerek alınacak aksiyonlara ve izlenecek yöntemlere karar verecek.

Sutskever’in yerine Altman

OpenAI’ın Superalignment adlı eski güvenlik ekibinin başlangıcında Ilya Sutskever yer alıyordu. Sutskever’ın görevden ayrılmasından derhal sonrasında ekibin öteki lideri olan Jan Leike de firmadan ayrıldığını belirtmişti. OpenAI siyaset araştırmacısı Gretchen Krueger de istifasını sunmuştu. Yeni güvenlik kurulu ile beraber OpenAI’nın yeni bir model kontrol etmiş olduğu de belirtilmiş sadece bu modelin GPT-5 olup olmadığı belirtilmedi.

Bu ayın başlarında OpenAI yeni bir ChatGPT ses modeli olan Sky’ı tanıtmıştı. Sky’ın sesinin meşhur oyuncu Scarlett Johansson’a benzerliği büyük münakaşa çıkarmıştı. Bu durum hem yapay zekâ fanatiklerinin hem de uzmanların eleştirisini çekmişti. Yeni güvenlik komisyonunun bu tür sorunlara engel olabileceği belirtiliyor. Kurulda yer edinen diğer rol alanlar arasında ise firmanın hazırlık ekibinin başkanı Aleksander Madry, güvenlik ekibinin başı Lilian Weng, eğilim bilimi biriminin başı John Schulman, koruma ekibinin başı Matt Knight ve baş bilim insanı Jakub Pachocki’den oluşuyor.