OpenAI’ın Whisper Aracının Halüsinasyon Problemi Ortaya çıkarıldı
Yazılım mühendisleri, uygulama geliştiriciler ve akademisyenler, OpenAI’ın transkripsiyon aracı Whisper’dan memnun değil.
Yapay zekânın popülerleşmesi ile beraber yaşamımıza giren kavramlardan biri de halüsinasyonlar olmuştu. Bilhassa dil modelleri, soruları yanıt verirken olmayan detayları de gerçekmiş benzer biçimde sunabiliyor. Hatta ara sıra olmayan bilimsel nitelikli kaynakları da gerçekmiş benzer biçimde kaynakçaya ekleyebiliyor.
Yapay zekânın bir şeyler “uydurması” oldukça tartışmalı bir mevzu sadece en azından teknik açıdan anlaşılabilir durumda. Değişik kavramlar içinde bağ kurduğunda ya da doğru bilgilere ulaşamadığında değişik çözümler bulması yapay zekânın oluşturduğu metinler için bir mesele teşkil edebiliyor. Öte taraftan probleminin transkripsiyon benzer biçimde bir alanda ortaya çıkması beklenmedik oldu.
Transkripsiyonda halüsinasyon problemi
Assoicated Press’e nazaran OpenAI’ın transkripsiyon aracı Whisper, konuşmaları metin hâline getirirken araya pek oldukca ilgisiz data ekliyor. Bu bilgiler içinde ırkçılık ile ilgili yorumlardan tıbbi tedavilere kadar pek oldukca değişik alanda sorunlara niçin oluyor. Araştırmacılar, bilhassa hastanelerde ve öteki tıbbi çalışmalarda bu durumun büyük sorunlara niçin olacağını belirtiyor.
Michigan Üniversitesi’nden bir araştırmacı da kamu toplantılarının transkripsiyonlarını inceledi. İncelemede her 10 metinden 8’inde halüsinasyonlar olduğu ortaya çıktı. Bir makine öğrenimi mühendisi ise 100 saatten fazla süreli bir çalışmada metinlerin minimum yarısında halüsinasyon bulunduğunu belirtti.
OpenAI tarafınca meydana getirilen açıklamada ise modellerin doğruluğunu arttırmak ve halüsinasyonları azaltmak için çalıştıklarını ve Whisper’ın “belirli yüksek riskli karar verme bağlamlarında” kullanılmasına engel olacak kullanım politikaları olduğu açıklandı. Bulgularını paylaştıkları için de araştırmacılara teşekkür edildi.
