Stable Diffusion, Akıllı Telefonda Çalıştırıldı
Qualcomm, kullanılması için devasa yükseklikte işlem gücü gerektiren görsel oluşturucu suni zekâ aracı Stable Diffusion’ı bir akıllı telefonda çalıştırmayı başardı. Doğal, telefon artık düzgüsel bir telefon değildi.
Akıllı telefonlarımızın işlem gücünün yüksekliği, günlük kullanımlarda pek çoğumuz tarafınca aslına bakarsak fark edilmiyor. Fakat bilhassa amiral gemisi telefonlarda bulunan yonga setleri, günümüz bilgisayarlarına kafa tutabiliyor.
Bu saf gücün en büyük kanıtı Qualcomm tarafınca sunuldu. Şirket, yeni yonga seti Snapdragon 8 Gen 2 ile görsel oluşturucu suni zekâ Stable Diffusion’ı çalıştırdı.
Ilk olarak Stable Diffusion’ın niçin mobil cihazda çalıştığına şaşırdığımızı anlatalım:
Stable Diffusion, çoğu zaman bulut tabanlı sistemler vasıtasıyla aşırı yüksek performansa haiz donanımlar üstünde eğitilen ve kullanılan bir görsel oluşturma aracı.
Bu suni zekâyı eğitmek ve eğitimle oluşan verilerden faydalanarak görsel oluşturmak için en üst düzey grafik işlemcilerine haiz olmanız gerekiyor. En azından neticeleri elde etmek için saatlerce beklemek istemiyorsanız.
Fazlaca kuvvetli bir bilgisayarınız var ise ve suni zekâyı eğittiyseniz, artık nimetlerinden web bağlantısı gerekmeden faydalanmaya başlayabiliyorsunuz.
Qualcomm, bu performansı iyi mi sağlamış oldu?
Qualcomm, Stable Diffusion’ı mobil cihazda çalıştırmak için akıllı telefonda büyük optimizasyon ayarları yaptığını deklare etti. Firmanın suni zekâ araştırma ekibi, aygıt, kullanılan uygulama, algoritmalar, yazılım ve hatta donanımda düzgüsel bir telefonda görmeyeceğimiz işlemler gerçekleştirmiş oldu.
Doğal bu ayarların bir kısmı Stable Diffusion üstünde de yapılmış oldu. Ekip, Stable Diffusion ve genel olarak derin öğrenme için kullanılan kayan nokta formatı FP-32 veri tipinden daha düşük duyarlılık sunan INT8 tipine geçiş yapmış oldu. Ek olarak hemen hemen yeni piyasaya sürdüğü AI Model Efficiency Toolkit (Suni Zekâ Modeli Verimlilik Vasıta Seti) teknolojisini de kullandı.
Meydana getirilen tüm optimizasyonlar ve ayarlamalarla Stable Diffusion, bir akıllı telefonda 15 saniye içinde 512×512 px çözünürlüğünde olan fotoğraf üretebilir hale geldi. Bu süre, bulut sistemlere entegre olan Stable Diffusion sistemlerine de oldukça yakın durumda.
Peki Qualcomm bu başarıyı ne için kullanacak?
Şirket, telefonda Stable Diffusion çalıştırmanın bir tek bir başlangıç bulunduğunu vurgulayarak dev çaptaki suni zekâ teknolojilerinin mobil cihazlarda çalışmasıyla güvenlik, verimlilik ve maliyet benzer biçimde pek oldukça avantaja haiz olunacağını belirtti. Ek olarak meydana getirilen optimizasyon emekleri da alanında bir örnek oldu.
