NVIDIA GTC 2022’de Jensen Huang, yeni silikonlar olarak geçen, Hopper GPU mimarisi, H100 GPU, yenilenmiş AI ve hızlandırılmış hesaplama yazılımları ve veri merkezi sistemlerini tanıttı.

NVIDIA Omniverse platformundaki sanal ortamdan konuşan Huang, AI’nın nasıl her yönde yarıştığını anlattı. Şirketler verilerini işliyor, sonuç çıkarıyor, AI yazılımı yapıyor, ve akıllı üretici haline geliyorlar dedi.

Yukarıda anlatılanların hepsi, insanlar ve AI arasındaki işbirliğini hızlandırmak, gerçek dünyayı daha iyi modelleyerek anlamak ve robotların test alanı olarak hizmet etmek için Omniverse üzerinde bir araya getiriliyor.

Jensen sunumuna Omniverse’te render edilmiş, gelişmiş robotik projelerin ve laboratuvarların da gösterildiği NVIDIA’nın yeni kampüsünde gezintiyle başladı.

Firmanın gelişmiş sağlık hizmetleri ve ilaç geliştirmeden, gezegeni kurtarmaya kadar çok geniş çapta bir ekosistemde nasıl çalıştığını anlattı.

Huang, bilim insanlarının, bölgesel boyutta iklim değişikliğini doğru bir şekilde simüle etmek için günümüz süper bilgisayarlarından milyarlarca kat daha büyük bir süper bilgisayara ihtiyaç olduğunu söylediklerini aktardı.

“NVIDIA, dünyanın ilk AI dijital ikiz süper bilgisayarı olan Earth-2 ile iklim değişikliğinin simüle edilmesi zorluğunun üstesinden gelecek ve çok geç olmadan bize bir billion-X vermek için yeni AI ve hesaplama teknolojileri icat edecek” dedi.

NVIDIA H100: Dünya AI Altyapısının Yeni Motoru

İddialı projelerini desteklemek için Huang, Hopper mimarisi üzerine inşa edilen NVIDIA H100’ü AI altyapılarının yeni motoru olarak tanıttı.

Konuşma, diyalog, müşteri hizmetleri ve tavsiye sistemleri gibi yapay zeka uygulamalarının veri merkezi tasarımlarında büyük çaplı değişikliklere yol açtığını söyledi.

Huang, “AI veri merkezleri, AI modellerini eğitmek ve iyileştirmek için sürekli olarak muazzam miktarda veri işliyor. Ham veriler gelir, işlenir ve çıktılar üretilir. Şirketler bu şekilde akıllı hizmetler sağlıyor ve dev yapay zeka fabrikaları işletiyorlar.” diyor.

Huang, fabrika operasyonlarının 7/24 çok yoğun olduğunu söyledi ve kalitede küçük iyileştirmeler yapmanın müşteri katılımında ve şirket kârlarında önemli bir artış sağladığını açıkladı.

80 milyar transistör çipi, TSMC’nin 4N sürecini kullanan H100, bu fabrikaların daha hızlı hareket etmesini sağlayacak. Huang, “A100’e göre 9 kat daha fazla ölçekli eğitim performansı ve 30 kat daha büyük dil modeli çıkarım çıktısı ile Hopper H100, şimdiye kadarki en büyük nesil sıçraması.” dedi.

Hopper, doğruluk değerinden ödün vermeden nöral ağları 6 kat hızlandırmak için yeni bir Transformer Engine de dahil olmak üzere birçok teknik gelişmelere sahip. Yeni transformer modeli, model eğitimini haftalardan günlere düşürülebilecek potansiyele sahip.

Jensen Huang, H100’ün üretimde olduğunu ve 2022’nin 3. çeyreğinde müşterilerin kullanmaya başlayabileceğini duyurdu.

Keynote’da ayrıca yüksek başarımlı hesaplamalar için NVIDIA’nın ilk ayrık veri merkezi CPU’su olan Grace CPU Superchip duyuruldu.

Grace, saniyede 1 terabayt bellek bant genişliğine sahip 144 çekirdekli bir CPU oluşturmak için saniyede 900 gigabaytlık NVLink çipten çipe ara bağlantıyla bağlı iki CPU çipinden oluşuyor.

Yeni Hopper GPU tabanlı AI süper bilgisayarları olan DGX H100, H100 DGX POD ve DGX SuperPOD duyuruldu.

NVIDIA’nın yeni NVLink yüksek hızlı ara bağlantı teknolojisi gelecekteki tüm NVIDIA yongalarına (CPU’lar, GPU’lar, DPU’lar ve SOC’ler) geliyor.

NVIDIA, NVLink’i companion chips oluşturmaları için müşterilerin ve ortaklarının kullanımına sunacağını duyurdu.

Huang, “NVLink, müşterilerin NVIDIA’nın platformlarından ve ekosistemlerinden yararlanan yarı özel çipler ve sistemler oluşturması için yeni bir fırsatlar dünyası sunuyor” dedi.

Yeni Nesil AI

Huang, “hızlandırılmış hesaplamanın sağladığı hızlanma sayesinde, yapay zekanın ilerlemesi çarpıcı seviyelere ulaştı. AI, yazılımların neler yapabileceğini ve nasıl yazılım yaptığınızı temelden değiştirdi” dedi.

Huang, doğal dil anlama, fizik, tasarım, karakter animasyonu ve hatta NVCell ile çip düzeni için yeni derin öğrenme modellerinden bahsetti.

Huang, “AI aynı anda her yönde yarışıyor. Yeni mimariler, yeni öğrenme stratejileri, daha büyük ve daha doğru modeller, yeni nesil bilim, yeni uygulamalar, yeni endüstriler gibi değişimlerin hepsi aynı anda oluyor.” dedi.

NVIDIA AI platformu, Triton Inference Server, büyük dil modellerini eğitmek için NeMo Megatron 0.9 kütüphanesi ve ses ve video kalitesi geliştirmesi için Maxine kütüphanesi dahil olmak üzere büyük güncellemeler aldı.

AI Platform, NVIDIA’nın optimize edip onayladığı, büyük veri merkezi ve bulut platformlarında desteklenen, uçtan uca, bulutta yerel bir AI ve veri analizi araçları ve kütüphaneleri paketi olan NVIDIA AI Enterprise 2.0’ı içeriyor.

Huang, “Bu GTC’de 60 SDK güncelleme aldı. 3 milyon geliştiricimiz, bilim insanımız ve yapay zeka araştırmacımız ve on binlerce startup ve işletmemiz için, çalıştırdığınız NVIDIA sistemleri artık daha da hızlandı.” dedi.

Sanal Dünyalar için Omniverse

Huang, geniş ölçekli dijital ikiz fikrinin, fiziksel dünyaya bağlı sanal bir dünya olduğunu ve gerçek ölçekli dijital ikizler oluşturmak için NVIDIA Omniverse yazılımı ve yeni veri merkezi ölçeğindeki NVIDIA OVX sistemleri, “eylem odaklı AI” için ayrılmaz ikili olacaklar.” diyor.

Huang, Omniverse’teki yeni sürümleri ve güncellemeleri paylaşırken “Omniverse, robotik platformlarımızın merkezinde yer alıyor. NASA ve Amazon gibi biz ve robotik ve endüstriyel otomasyondaki müşterilerimiz dijital ikizlerin ve Omniverse’in sektör için öneminin farkındayız.” diyor.

OVX aynı ortamda çalışan çoklu otonom sistemlerle büyük ölçekli simülasyonlar için Omniverse dijital ikizlerini çalıştırabilecek.

OVX’in omurgası olarak kullanılan NVIDIA Spectrum-4 yüksek performanslı ağ altyapısı duyuruldu. Dünyanın ilk 400 Gbps uçtan uca ağ platformu olan NVIDIA Spectrum-4, Spectrum-4 switch ailesi, NVIDIA ConnectX-7 SmartNIC, NVIDIA BlueField-3 DPU ve NVIDIA DOCA veri merkezi altyapı yazılımından oluşuyor.

Omniverse’in daha fazla kullanıcı için erişilebilir hale gelmesi için Omniverse Cloud’u tanıtıldı. Artık sadece birkaç tıklama ile ortak çalışanlar bulut üzerinde Omniverse’e bağlanabilecekler.

Huang, Cloud’un çalışma mantığını, biri yapay zeka olan ve sanal bir dünya oluşturmak için işbirliği yapan dört tasarımcıdan oluşan bir demo ile gösterdi.

Ayrıca Amazon’un ikmal merkezi operasyonlarını tasarlamak ve optimize etmek için” Omniverse Enterprise’ı nasıl kullandığını da gösterdi ve modern ikmal merkezlerinin teknik harikalara dönüştüğünü söyledi.

Yeni Nesil AI: Robotlar ve Otonom Araçlar

Yeni silikon, yeni yazılım ve yeni simülasyon yetenekleri robotları tasarlayabilen, planlayabilen ve harekete geçebilen bir hale getiriyor.

Huang, NVIDIA Avatar, DRIVE, Metropolis, Isaac ve Holoscan’ın dört özellik etrafında uçtan uca ve tam yığın olarak oluşturulmuş robotik platformlar olduğunu açıkladı: ground-truth veri üretimi, AI model eğitimi, robotik yığını ve Omniverse dijital ikizleri.

NVIDIA DRIVE’ın üzerine inşa edilen, sürücüsüz arabalar için donanım mimarisi olan Hyperion 8, 360 derecelik bir kamera, radar, lidar ve ultrasonik sensör paketi ile tam otonom sürüş gerçekleştirebilir.

Hyperion 8 2024’ten itibaren Mercedes-Benz arabalarında, 2025’te Jaguar Land Rover’da olacağını söyledi.

Huang, 2026’dan itibaren piyasaya sürülecek olan mevcut DRIVE Orin tabanlı mimarinin performansını iki katına çıkarmak için DRIVE Atlan SoC’yi içeren Hyperion 9’u duyurdu.

Dünyanın en büyük ikinci EV üreticisi olan BYD, 2023’ün ilk yarısında üretime başlayacak otomobiller için DRIVE Orin bilgisayarını kullanacağını duyurdu.

Lucid Motors, DreamDrive Pro gelişmiş sürücü yardım sisteminin NVIDIA DRIVE üzerine inşa edildiğini söyledi.

NVIDIA otomotiv hattının önümüzdeki altı yıl içinde 11 milyar doların üzerine çıkacağı tahmin ediliyor.

Clara Holoscan, DRIVE’da kullanılan gerçek zamanlı hesaplama gücünün çoğunu, medikal cihazlar ve RF ultrason, 4K cerrahi video, yüksek performanslı kameralar ve lazerler gibi gerçek zamanlı sensörleri desteklemek için kullanır. GTC’de, bir mikroskoptan alınan görüntüleri hızlandıran Holoscan demo videosu gösterildi. Bu, demoda Holoscan’in hareket eden ve bölünen hücrelerin filmini oluşturduğu görüldü.

Bu cihazların bir saat içinde ürettiği 3 TB’lık veriyi işlemek genellikle bir gün sürer. Ancak UC Berkeley Gelişmiş Biyogörüntüleme Merkezi’nde, Holoscan kullanan araştırmacılar bu verileri gerçek zamanlı olarak işleyebiliyor ve hatta deney esnasında mikroskop otomatik olarak odaklanabiliyor.

Holoscan geliştirme platformları, erken erişim müşterileri için açıldı, genel kullanım için Mayıs ayında ve tıbbi kullanıma da 2023’ün ilk çeyreğinde başlanacak.

NVIDIA üretim, perakende, sağlık, tarım, inşaat, havaalanları ve tüm şehirler için robotlar oluşturan binlerce müşteri ve geliştiriciyle de çalıştığını söyledi.

NVIDIA’nın robotik platformları Metropolis ve Isaac’den oluşuyor. Huang, Metropolis’in hareket eden şeyleri izleyen sabit bir robot, Isaac’in de hareket eden şeyler için bir platform olduğunu söyledi.

NVIDIA, robotların fabrika ve depo gibi iç mekanlarda gezinmesine yardımcı olmak ve otonom mobil robot geliştirme ve dağıtımını hızlandırmak için son teknoloji hesaplama ve sensör referans platformu olan Jetson AGX Orin üzerine kurulu Isaac Nova Orin’i duyurdu.

GTC’de PepsiCo’nun Metropolis ve Omniverse dijital ikizin birlikte nasıl kullandığını gösterdi.

Dört Katman, Beş Dinamik

NVIDIA, dört katmandan oluşan yığınında yeni ürünlerini duyurdu: donanım, sistem yazılımı ve kütüphaneleri, NVIDIA HPC, NVIDIA AI ve NVIDIA Omniverse yazılım platformları.

Huang ayrıca sektörü şekillendiren beş dinamiği de işaret etti: milyon-X hesaplama hızlanmaları, yapay zekayı turbo şarj eden transformerlar ve dijital ikizler.

Yazının kaynağına buradan ulaşabilirsiniz.