NVIDIA’dan Suni Zekâ Yazılım Platformu: NIM
NVIDIA, suni zekâ odaklı yazılım platformu “NIM”i duyurdu. NIM, suni zekâ teknolojilerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak.
NVIDIA, GTC 2024 etkinlikleri kapsamında mühim açıklamalarda bulunmuş oldu. O açıklamalardan bir tanesi de “NIM” olarak isimlendirilen yeni bir yazılım platformuydu. NIVIDA NIM, öncesinden eğitilmiş olan suni zekâ modellerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak. Böylelikle geliştiriciler, fazlaca ciddi anlamda vakit tasarrufu yapmış olacaklar.
NVIDIA’ya nazaran suni zekâ modellerinin üretim ortamlarına dağıtımı, genel anlamda haftalar alıyor. İşte NIM, tam olarak burada devreye giriyor. Kendi suni zekâ yol haritalarını hızlandırmak isteyen firmalar, NIM platformu ile bu süreci hızlandırmış olacaklar.
NIM, daha şimdiden pek fazlaca şirkete destek veriyor
NVIDIA’nın yeni yazılım platformu, şimdiden NVIDIA, A121, Adept, Cohere, Getty Images ve Shutterstock’un suni zekâ modellerini destekliyor. Ek olarak Google, Hugging Face, Meta, Microsoft, Mistral AI ve Stability AI’ın açık kaynak suni zekâ modellerine de destek veriliyor. Sadece NIM, bunlardan ibaret olmayacak. Daha çok destek ve entegrasyon için Amazon, Google ve Microsoft benzer biçimde firmalarla emek harcamalar devam ediyor.
NVIDIA, NIM ile bazı mikro hizmetler de sunacak. Örneğin bir şirket, konuşma ve tercüme modellerini özelleştirmek için Riva’yı, hava ve iklim simülasyonları için de Earth-2 modelini kullanabilecekler. Üstelik şirket, bunların kapsamını da genişleteceğini duyurdu. Örneğin RAG LLM yapısı, NIM ile uyumlu hâle getirilecek ve üretken suni zekâ söyleşi botları oluşturulabilecek.
