NVIDIA, yapay zeka araştırmacıları, veri bilimcileri ve öğrenciler için NVIDIA Grace Blackwell platformunun gücünü masaüstlerine taşıyan NVIDIA Project DIGITS adlı kişisel yapay zeka süper bilgisayarını duyurdu.

GB10 Süper Çip: Petaflop Gücünde Yapay Zeka Performansı

GB10 Süper Çipi, NVIDIA Grace Blackwell mimarisi üzerine inşa edilmiş bir sistem-üzerinde-çip (SoC) olarak tasarlanmıştır ve FP4 hassasiyetinde 1 petaflop’a kadar yapay zeka performansı sunar.

• Çip, en yeni nesil CUDA® çekirdekleri ve beşinci nesil Tensor Çekirdekleri ile donatılmış bir NVIDIA Blackwell GPU içerir.
• Bu GPU, NVLink®-C2C çipler arası bağlantı ile yüksek performanslı bir NVIDIA Grace™ CPU’ya bağlanır.
• ARM mimarisiyle geliştirilmiş 20 enerji verimli çekirdek ile üstün performans sunar.

GB10 Süper Çipi, Project DIGITS’in standart bir elektrik prizinden güç alarak çalışmasını sağlar. Sistem, 128GB birleşik, uyumlu bellek ve 4TB’a kadar NVMe depolama kapasitesiyle donatılmıştır. Bu süper bilgisayar, geliştiricilerin 200 milyar parametreli büyük dil modellerini kolayca çalıştırabilmesini mümkün kılar.

Ayrıca, NVIDIA ConnectX® ağ teknolojisi ile iki Project DIGITS süper bilgisayarı birbirine bağlanabilir ve 405 milyar parametreli modeller çalıştırılabilir.

Yapay Zeka Prototiplerinden Üretim Sistemlerine

Grace Blackwell mimarisi, işletmelere ve araştırmacılara, modelleri yerel Project DIGITS sistemlerinde prototipleme, ince ayar ve test etme imkanı sunar. Bu sistemler, Linux tabanlı NVIDIA DGX OS ile çalışır. Prototipler daha sonra NVIDIA DGX Cloud™, hızlandırılmış bulut altyapısı veya veri merkezlerine sorunsuz bir şekilde aktarılabilir.

Kullanıcılar, aynı Grace Blackwell mimarisi ve NVIDIA AI Enterprise yazılım platformu ile modellerini bulut veya veri merkezlerinde kolayca ölçeklendirebilir.

Zengin Yapay Zeka Yazılım Ekosistemi

Project DIGITS kullanıcıları, prototip geliştirme ve deneyler için geniş bir NVIDIA yapay zeka yazılım kitaplığına erişebilir. Bu kaynaklar:

• NVIDIA NGC kataloğu ve NVIDIA Developer portalı üzerinden sağlanan yazılım geliştirme kitleri,
• Orkestrasyon araçları, framework’ler ve modeller içerir.

Kullanıcılar:

• NVIDIA NeMo™ framework ile modellerini optimize edebilir,
• NVIDIA RAPIDS™ kütüphaneleri ile veri bilimi projelerini hızlandırabilir,
• PyTorch, Python ve Jupyter Notebook gibi popüler framework’leri çalıştırabilir

Agentik Yapay Zeka Geliştirme

Kullanıcılar ayrıca, NVIDIA Blueprints ve NIM™ mikro servislerini (detaylı bilgi için bakınız: https://blog.openzeka.com/ai/nvidia-nim-olceklenebilir-yapay-zeka-cikarimi-icin-gelistirilmis-mikro-hizmetler/ ) araştırma, geliştirme ve test aşamalarında kullanabilir. Bu araçlar, NVIDIA Developer Programı üzerinden erişilebilir durumdadır.

Projeler, üretim aşamasına geçtiğinde, NVIDIA AI Enterprise lisansı, kurumsal düzeyde güvenlik, destek ve yazılım güncellemeleri sunarak tam kapsamlı bir çözüm sağlar.

NVIDIA Project DIGITS, dünyanın en küçük yapay zeka süper bilgisayarı olarak, yapay zeka geliştirme süreçlerini masaüstü ölçeğinde erişilebilir hale getiriyor. Güçlü GB10 Süper Çipi sayesinde petaflop seviyesinde performans sunan bu cihaz, hem bireysel araştırmacılar hem de kurumlar için devrim niteliğinde bir çözüm sunuyor. Prototiplemeden üretime kadar tüm aşamalarda NVIDIA’nın kapsamlı yazılım ekosistemi ve bulut entegrasyonlarıyla, yapay zeka projelerinizde hız, esneklik ve verimlilik sağlayabilirsiniz.