ChatGPT, İnanılmaz İnandırıcı Düzmece Tıbbî Raporlar Yazıyor
Yapay zekânın yalan söyleyemediğine ve yalnız doğrulanmış bilgilerle çalıştığına inananlar için fena haber: ChatGPT bir şeyleri uydurmakla kalmıyor, uydurmuş olduğu şeylere insanları ikna etmekte de oldukça iyi.
Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu zamanda pek oldukca talebe, ödevlerini ya da yazılı sınavlarını geçmek için yapay zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Zira ChatGPT, gerçek olmayan şeyleri oldukca gerçekçi bir halde yazabiliyor. Görünüşe nazaran söz mevzusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor.
İtalya’da Cagliari Üniversitesi’nden Göz Doktoru Giuseppe Giannaccare, bir emek verme için ChatGPT’yi kontrol etti. Bu testte ChatGPT’nin bir tedaviyi öne çıkarmak için düzmece verilerden oluşan bir sıralama oluşturduğu göze çarptı. Giannaccare açıklamasında “GPT-4 yüzlerce hastaya ilişkin düzmece verileri dakikalar içinde oluşturdu. Bu oldukça şaşırtıcı fakat bununla beraber ürkütücü bir deneyimdi.” ifadelerini kullandı.
ChatGPT, bir tedaviyi öne çıkarmak için düzmece veriler oluşturdu
Göz doktoru ve ekibi, ChatGPT’yi gelişmiş bir Python veri analizi modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik verilerin üretilmesini istediklerinde ChatGPT’nin verileri uydurmaya başladığını gördüler. Gözün yapısı ve tedavi yöntemlerini yapay zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da aralarında pek de fark olmayan iki prosedürü söyledi. Gene de ChatGPT 4, bir prosedürü öne çıkaracak kadar oldukca düzmece veri üretti.
Yapay zekânın yararları sık sık gündeme geliyor. Evet, bazı işlemler için yapay zekâ oldukça yararlı olabiliyor. İş bilime ya da bilimsel nitelikli çalışmalara ulaştığında yapay zekânın gerçek olmayan şeyleri gerçek benzer biçimde yazması ciddi bir problem ortaya çıkarıyor. Öte taraftan buradaki tek problem yapay zekânın olmayan verileri uydurması değil.
Yapay zekâya bir şiir yazdırırsanız ya da bir mevzuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da yazının hatalı kısmının düzeltilmesini sağlayabiliyor. İş düzmece verilere ulaştığında, bu veriler denetim edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki emekler da bu hatalı bilgilerden eklenebiliyor. Üstelik bu emekler doğru kabul edilirse, hatalı ve hatta ölümcül sorunlara niçin olabiliyor.
Araştırma, JAMA Ophitalmology‘de yayımlandı.
