MLPerf Inference 2.0: NVIDIA Orin, A100 ve A30
Megatron 530B gibi karmaşık modeller, yapay zekanın daha büyük sorunları çözebilmesini sağlıyor. Fakat bunun yanında, modellerin karmaşıklığı arttıkça da AI hesaplama platformları için yeni zorluklar oluşuyor: Bu modeller, makul bir sürede eğitilmeliler. Çıkarım işlemini gerçek zamanlı olarak yapabilmeliler. Eğitim ve çıkarım için çeşitli modellerde gerekli performansı sağlayabilen çok yönlü bir ...(Devamını oku)