OpenAI, ChatGPT’nin akıl sağlığı mevzusundaki kırılgan konuşmalarda iyi mi davrandığına dair yeni bir emek verme yayımladı. Şirket, suni zekânın bu tür durumlarda daha iyi cevap vermesi için 170’ten fazla uzmanla çalıştığını duyurdu. Açıklanan istatistikler ise durumun ciddiyetini gözler önüne seriyor: Her hafta 1 milyondan fazla kullanıcı intihar eğilimli konuşmalar yapıyor.
Dünyanın en popüler üretken suni zekâ aracı ChatGPT, hayatımızın tam ortasına yerleşti. OpenAI’ın geliştirdiği suni zekâ, artık birçoğumuz için bir sual sormaktan kod yazdırmaya, hatta dertleşmeye kadar her mevzuda başvurduğumuz ilk yer hâline geldi. Sadece bu “dertleşme” durumu, OpenAI için hem büyük bir mesuliyet hem de ciddi bir risk alanı oluşturuyor. Firmanın yayımladığı son veriler, durumun ne kadar tehlikeli sonuç bulunduğunu net bir halde ortaya koydu.
OpenAI, suni zekâ modelinin “kırılgan konuşmalar” olarak adlandırdığı durumlarda iyi mi daha iyi destek sağlayabileceğine dair kapsamlı bir emek verme yayımladı. Bu emek verme, kullananların ruh sağlığı, bunalım anları ve hatta intihar düşünceleri benzer biçimde mevzularda ChatGPT’ye ne çoğunlukla açıldığını ve firmanın bu yanıtları iyileştirmek için neler yaptığını detaylandırıyor. İstatistikler hakkaten çarpıcı.
Haftada 1 milyondan fazla kullanıcı intihar hakkında konuşuyor
OpenAI’ın paylaşmış olduğu verilere gore ChatGPT’nin 800 milyonu aşan haftalık etken kullanıcısı bulunuyor. Bu devasa kullanıcı kitlesinin yüzde 0,15’i, şu demek oluyor ki ortalama 1,2 milyon şahıs, suni zekâ ile intihar planları yada niyetleri içeren konuşmalar yapıyor. Bu, probleminin ne kadar yaygın bulunduğunu gösteren en net sayı.
Problem bir tek bununla sınırı olan değil. Firmanın analizine gore kullananların yüzde 0,07’si (ortalama 560.000 şahıs) psikoz yada engel benzer biçimde ciddi akıl sağlığı acil durumlarına işaret eden emareler gösteriyor. Ek olarak kullananların yüzde 0,15’i de suni zekayâ karşı “sağlıksız duygusal bağlılık” geliştirme eğiliminde.
OpenAI, ChatGPT yanıtlarını iyileştirmek için uzmanlarla çalıştı
Bu ürkütücü tablo karşısında harekete geçen OpenAI, ChatGPT’nin varsayılan modelini (GPT-5) güncellemek için 170’ten fazla akıl sağlığı uzmanı ile çalıştı. Bu uzmanlar, modelin tehlikeli yanıtlar vermesini engellemek, konuşmaları yatıştırmak ve kullanıcıları gerektiğinde ustalaşmış desteğe yönlendirmek için modeli eğitti.
Meydana getirilen iyileştirmeler netice vermiş görünüyor. Şirket, yeni modelle “uygunsuz” yada “istenmeyen” yanıtlarda yüzde 65 ila yüzde 80 içinde bir azalma bulunduğunu ifade ediyor. Mesela, intihar ve kendine zarar verme mevzularındaki uygunsuz yanıtlar yüzde 65 azalırken, suni zekâya sağlıksız duygusal bağlılık gösteren konuşmalardaki istenmeyen yanıtlar yüzde 80 oranında düşürüldü. Ek olarak kriz anlarında yardım hatlarına erişim genişletildi ve uzun konuşmalarda “ara ver” hatırlatmaları eklendi.
OpenAI’ın bu adımı, suni zekânın omuzlarındaki yükün ne kadar arttığını ve bu değişen teknolojinin artık bir tek bir “informasyon aracı” olmaktan çıkıp bir “dert ortağı” olarak da görüldüğünü ortaya koyuyor.
Peki siz ChatGPT’yi bu tür mevzularda bir “dert ortağı” olarak görüyor musunuz? Düşüncelerinizi yorumlarda bizimle paylaşın.
