OpenAI’a birkaç ay ilkin ChatGPT’den yardım alarak intihar eden bir çocuk hakkında dava açılmıştı. Şimdi ise The Guardian’ın paylaşmış olduğu bir haber, firmanın mevzu hakkında korkulu bir izahat yaptığını gösterdi.
Dünyanın en önde gelen suni zekâ şirketi konumundaki OpenAI, son birkaç aydır ciddi suçlamalarla gündemeydi. Bunların hepsi bir ailenin 16 yaşındaki **Adam Raine **isminde evlatlarının intiharından ChatGPT’yi görevli tutarak şirkete dava açmasıyla başlamıştı. ChatGPT’nin çocuğa intihar etmesinde destek olduğu, intihar etme yollarını anlattığı, onu teşvik etmiş olduğu öne sürülmüştü.
Bu davadan ortalama 3 ay sonrasında The Guardian’dan mevzuya ilişkin yeni bir rapor paylaşıldı. İçerikte OpenAI’ın vakaya hem aileden hem de genel kamuoyundan fazlaca büyük tepki çekebilecek bir izahat yapmış olduğu görüldü.
OpenAI’a nazaran ChatGPT’nin ve kendisinin bir suçu yok, çocuğun ChatGPT’yi yanlış kullanımı intihardan görevli tutulmalı
ChatGPT’nin intiharı teşvik etmesinin hâlihazırda ne kadar korkulu bulunduğunu tamamımız anlayabiliyoruz. Sadece OpenAI’ın yapmış olduğu bir müdafa durumu da daha korkulu hâle getiriyor. O şekilde ki The Guardian’ın haberinde aktardığına nazaran şirket, Raine’in intiharından ChatGPT’nin görevli tutulmaması icap ettiğini belirterek vakası “ağlatısal bir vaka” olarak vasıflandırmış.
OpenAI’a nazaran Raine’in ChatGPT’yi direkt yada dolaylı yoldan kötüye kullanımı, uygunsuz kullanımı söyleşi botunda bu şekilde bir vaka yaşanmasına niçin oldu. Şu demek oluyor ki şirket, inanılması güç bir halde hizmet şartlarının ihlal edilmesi sebebiyle ChatGPT’nin yanıtlarının bu şekilde bulunduğunu söylüyor ve mesuliyet kabul etmiyor. Sadece ChatGPT’nin politikalarına baktığımızda söyleşi botunun intihar şeklinde mevzularda konuşmasının tamamen yasak olduğu görülüyor.
Şu demek oluyor ki anlayacağınız durum ne olursa olsun ChatGPT’nin intihar şeklinde mevzularda konuşmaması gerekiyor. Bu vakada bırakın intihar hakkında konuşmayı direkt olarak aslına bakarsanız eğilimli olan bir çocuğa teşvik edici ifadeler kullanmış, ona intihar yöntemlerini bile söylemiş. Bu yüzden OpenAI’ın kabahat kabul etmemesi tepki çekecek cinsten. Davada başka neler olacağını zaman içinde göreceğiz.
