Stable Diffusion, Akıllı Telefonda Çalıştırıldı
Qualcomm, kullanılması için oldukça yüksek işlem gücü gerektiren görsel oluşturucu yapay zekâ aracı Stable Diffusion’ı bir akıllı telefonda çalıştırmayı başardı. Doğal, telefon artık düzgüsel bir telefon değildi.
Akıllı telefonlarımızın işlem gücünün yüksekliği, günlük kullanımlarda pek çoğumuz tarafınca aslen fark edilmiyor. Fakat bilhassa amiral gemisi telefonlarda bulunan yonga setleri, günümüz bilgisayarlarına kafa tutabiliyor.
Bu saf gücün en büyük kanıtı Qualcomm tarafınca sunuldu. Şirket, yeni yonga seti Snapdragon 8 Gen 2 ile görsel oluşturucu yapay zekâ Stable Diffusion’ı çalıştırdı.
Ilk olarak Stable Diffusion’ın niçin mobil cihazda çalıştığına şaşırdığımızı anlatalım:
Stable Diffusion, çoğu zaman bulut tabanlı sistemler vasıtasıyla aşırı yüksek performansa haiz donanımlar üstünde eğitilen ve kullanılan bir görsel oluşturma aracı.
Bu yapay zekâyı eğitmek ve eğitimle oluşan verilerden faydalanarak görsel oluşturmak için en üst düzey grafik işlemcilerine haiz olmanız gerekiyor. En azından neticeleri elde etmek için saatlerce beklemek istemiyorsanız.
Fazlaca kuvvetli bir bilgisayarınız var ise ve yapay zekâyı eğittiyseniz, artık nimetlerinden web bağlantısı gerekmeden faydalanmaya başlayabiliyorsunuz.
Qualcomm, bu performansı iyi mi sağlamış oldu?
Qualcomm, Stable Diffusion’ı mobil cihazda çalıştırmak için akıllı telefonda büyük optimizasyon ayarları yaptığını açıkladı. Firmanın yapay zekâ araştırma ekibi, aygıt, kullanılan uygulama, algoritmalar, yazılım ve hatta donanımda düzgüsel bir telefonda görmeyeceğimiz işlemler gerçekleştirmiş oldu.
Doğal bu ayarların bir kısmı Stable Diffusion üstünde de yapılmış oldu. Ekip, Stable Diffusion ve genel olarak derin öğrenme için kullanılan kayan nokta formatı FP-32 veri tipinden daha düşük duyarlılık sunan INT8 tipine geçiş yapmış oldu. Ek olarak hemen hemen yeni piyasaya sürdüğü AI Model Efficiency Toolkit (Yapay Zekâ Modeli Verimlilik Vasıta Seti) teknolojisini de kullandı.
Meydana getirilen tüm optimizasyonlar ve ayarlamalarla Stable Diffusion, bir akıllı telefonda 15 saniye içinde 512×512 px çözünürlüğünde olan fotoğraf üretebilir hale geldi. Bu süre, bulut sistemlere entegre olan Stable Diffusion sistemlerine de oldukça yakın durumda.
Peki Qualcomm bu başarıyı ne için kullanacak?
Şirket, telefonda Stable Diffusion çalıştırmanın bir tek bir başlangıç bulunduğunu vurgulayarak dev çaptaki yapay zekâ teknolojilerinin mobil cihazlarda çalışmasıyla güvenlik, verimlilik ve maliyet benzer biçimde pek oldukca avantaja haiz olunacağını belirtti. Ek olarak meydana getirilen optimizasyon emekleri da alanında bir örnek oldu.
