Google, Yapay Zekâ Ürünü Metinlere Filigran Ekliyor
Google, yapay zekâ üretimi metinlerle gerçek metinleri ayırmak için filigranlara güveniyor.
Üretken yapay zekâlar gelişmeye devam ettikçe teknoloji devleri de yapay zekâların çıktılarının tespit edilebilmesi için araçlar geliştirmeye devam ediyor. Google da SynthID TexT adını verdiği teknoloji ile beraber kamuya açık yapay zekâ modellerinin ürettiği içerikleri ayırt etmeyi sağlayacak dijital filigran üstünde çalışıyor.
SynthID TexT, Hugging Face yapay zekâ platformu ve Responsible GenAI Toolkit üstünden indirilebilecek. Firmanın resmi X hesabı üstünden meydana getirilen açıklamada “SynthID TexT filigran aracını açık kaynak kodlu hâle getiriyoruz. Geliştiriciler ve işletmeler için ücretsiz bir şekilde kullanıma açık ve yapay zekâ ile üretilmiş içerikleri anlamalarını sağlayacak.” ifadesini kullandı.
SynthID TexT iyi mi çalışıyor?
Yapay zekâ modelleri çalışırken Token dağılımı kullanıyor. Google’ın yeni teknolojisi de metinleri bu tokenler ile eşleme prensibi üstünden çalışıyor. SynthID TexT, kelimelerin oluşturulma olasılıkları üstünden bir desen oluşturuyor ve bu desene nazaran işaretlemelerde bulunuyor.
Google bu hızla gelişen teknolojinin bazı sınırları bulunduğunu da kabul ediyor. Bilhassa kısa metinler, tekrardan yazılan ya da başka dile çevrilen makaleler ve bilgiye dayalı metinler söz mevzusu olduğunda model o kadar da başarıya ulaşmış bir performans sergilemiyor.
Teknoloji devi SynthID TexT’i Gemini modellerine entegre etti. Bu türden yapay zekâ çıktısı işaretleme teknolojileri, Çin ve Kaliforniya şeklinde bölgelerde mecburi hâle getirilmişti. Benzer yasaların yayılması ile beraber yapay zekâ işaretçileri de vakit içinde daha çok bölgede kullanılabilecek.
