NVIDIA’dan Yapay Zekâ Yazılım Platformu: NIM
NVIDIA, yapay zekâ odaklı yazılım platformu “NIM”i duyurdu. NIM, yapay zekâ teknolojilerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak.
NVIDIA, GTC 2024 etkinlikleri kapsamında mühim açıklamalarda bulunmuş oldu. O açıklamalardan bir tanesi de “NIM” olarak isimlendirilen yeni bir yazılım platformuydu. NIVIDA NIM, öncesinden eğitilmiş olan yapay zekâ modellerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak. Böylelikle geliştiriciler, oldukça ciddi anlamda vakit tasarrufu yapmış olacaklar.
NVIDIA’ya bakılırsa yapay zekâ modellerinin üretim ortamlarına dağıtımı, genel anlamda haftalar alıyor. İşte NIM, tam olarak burada devreye giriyor. Kendi yapay zekâ yol haritalarını hızlandırmak isteyen firmalar, NIM platformu ile bu süreci hızlandırmış olacaklar.
NIM, daha şimdiden pek oldukça şirkete destek veriyor
NVIDIA’nın yeni yazılım platformu, şimdiden NVIDIA, A121, Adept, Cohere, Getty Images ve Shutterstock’un yapay zekâ modellerini destekliyor. Ek olarak Google, Hugging Face, Meta, Microsoft, Mistral AI ve Stability AI’ın açık kaynak yapay zekâ modellerine de destek veriliyor. Sadece NIM, bunlardan ibaret olmayacak. Daha çok destek ve entegrasyon için Amazon, Google ve Microsoft şeklinde firmalarla emekler devam ediyor.
NVIDIA, NIM ile bazı mikro hizmetler de sunacak. Sözgelişi bir şirket, konuşma ve tercüme modellerini özelleştirmek için Riva’yı, hava ve iklim simülasyonları için de Earth-2 modelini kullanabilecekler. Üstelik şirket, bunların kapsamını da genişleteceğini duyurdu. Sözgelişi RAG LLM yapısı, NIM ile uyumlu hâle getirilecek ve üretken yapay zekâ söyleşi botları oluşturulabilecek.
