Hızlandırılmış hesaplama, bir filmi satın aldığınızda sizi kredi kartı dolandırıcılarından korur. Hoşunuza gidebilecek ve hızlı teslimat yapan bir restorandan, güzel bir akşam yemeği önerir. Bir yönetmene Oscar ödülü kazanması için özel efektlerinde bile yardım edebilir.

Günümüzde hem ticari hem de teknik sistemler, makine öğrenimi, veri analitiği, simülasyonlar ve görselleştirmeler gibi işlerin üstesinden gelmek için iş akışlarını hızlandırılmış hesaplamaya göre adapte etmektedir.

Hızlandırılmış Hesaplama Nedir?

Hızlandırılmış hesaplama, tekrarlayan görevleri bir araya getirerek paralel işlem ile işi önemli ölçüde hızlandırmak için özel donanımların kullanılmasıdır. Hızlandırılmış bilgisayarlar, heterojen hesaplama mimarisi denilen, CPU’ları ve diğer türden işlemcileri birlikte ve eşit kullanan bilgisayarlardır. Günümüzde, tüm akıllı telefon ve bütün bulut servislerinde bu yöntem kullanılmaktadır.

Hızlandırılmış Hesaplama: Derinlemesine Bakış

GPU’lar en çok kullanılan hızlandırıcılardır. Bununla beraber, gelişmiş ve hızlandırılmış ağ mimarisine mümkün kılan veri işleme birimleri (DPU) hızla yükselen bir işlemci sınıfıdır. Her birim, birleşik ve dengeli bir sistem oluşturmak için ana bilgisayar CPU’su ile birlikte çalışmaktadır.

Kişisel Bilgisayarlar, Hızlandırmayı Nasıl Geliştirdi?

CPU’ların daha hızlı çalışmasını sağlayan ve co-processor denilen özel mikroişlemci cihazlar, 1980 yılında bilgisayarlara ileri matematik yeteneği kazandıran floating-point işlemcileri ile ortaya çıktı.

Sonraki 10 sene, video oyunlarının ve grafiksel arayüzlerin yükselişe geçmesiyle grafik hızlandırıcılarına ihtiyaç duyulmaya başlandı.

1999 yılında NVIDIA, 3B görüntüleri işlemek için CPU tarafından görevlendirilen ilk çip olan GeForce 256’yı yayınladı. NVIDIA, bu çiplere grafik işleme birimi(GPU) adını verdi. Böylece yeni bir bilgisayar hızlandırıcı kategorisi açılmış oldu.

Araştırmacılar, Paralel İşlemi Nasıl Kullanıyor?

Bazı araştırmacılar, GPU’ların gücüne erişip, CPU’nun yapamayacağı görevlerin üstesinden gelebilmek için kendi kodlarını geliştirmeye başladı. Örneğin, Stanford Üniversitesi’nden Ian Buck’ın yönettiği bir ekip, paralel işleme için C dilini genişleten ilk programlama modeli olan Brook’u geliştirdi.

Buck, 2006 yılında, GPU’nun içindeki paralel işleme birimi motorundan faydalanmayı sağlayan, CUDA programlama modelinin geliştirilmesine liderlik etti.

CUDA, 2007 yılında bir G80 işlemci ile birleştirildi. Endüstriyel ve bilimsel uygulamalar için dizilere(array) hızlandırılmış hesaplama desteği getiren yeni bir NVIDIA GPU serisine güç verdi.

HPC + GPU = Hızlandırılmış Bilim

Veri merkezi için tasarlanan GPU ailesi, adını yenilikçilerden alan(Tesla, Fermi, Kepler, Maxwell, Pascal, Volta, Turing, Ampere.) bir dizi yeni mimariyle düzenli bir aralıkta genişletildi.

Dünyanın dört bir yanındaki yüksek başarımlı hesaplama uzmanları, bilime öncülük etmek için GPU hızlandırmalı HPC sistemleri oluşturdu. Bu sistemler, astrofizik için kara delik çalışmalarından, sağlık için genom dizilemeye kadar geniş bir alanda çalışma imkanı sağlar.

CUDA ekosisteminde şu ana kadar, ilaç keşfi, afet yönetimi hatta Mars görevlerini barından 700’den fazla uygulama geliştirildi.

InfiniBand, Hızlandırılmış Ağların Performansını Artırıyor

Birçok süper bilgisayar, büyük çaplı görevler için düşük gecikmeli bağlantı, dağıtılmış GPU ağları gibi özellikleri olan InfiniBand kullanıyor.

NVIDIA 2020 yılında, DPU adı verilen, yeni seviye güvenlik, depolama ve ağ hızlandırması sağlayan veri işlemcisini duyurdu. DPU’lar, süper bilgisayarlar, bulut servisleri, OEM sistemler ve 3. parti yazılımlar tarafından ilgi görüyor.

Haziran 2021 analizlerine göre, TOP500 süper bilgisayarlarının 342 tanesi, TOP10 listesinden 8 tanesi ve yeni sistemlerin %70’i NVIDIA teknolojilerini kullanıyor.

AI: Hızlandırılmış Hesaplamanın Sınırlarını Çizen Uygulama

2012 yılında, teknoloji dünyası, yeni ve çok güçlü bir hesaplama türü olan AI’ı duydu. AI, aslında bir paralel işlem görevidir. Bu nedenle araştırmacılar ve bulut servis sağlayıcıları, sinir ağlarını eğitmek ve kullanmak için GPU hızlandırmalı bilgisayarlar kullanır.

Alanında lider olan şirketler, iş akışlarını çok hızlı bir AI’a göre adapte etti

• American Express, kredi kartı dolandırıcılığını önleme çalışmalarında kullanıyor.
• Bulut servisleri, araç satışları için öneri sistemlerinde kullanıyor.
• Birçok firma müşteri hizmetlerini geliştirmek için diyalog tabanlı AI kullanıyor.
• Telcos, akıllı 5G servisleri sağlamak için kullanıyor.
• Film yapımcıları, The Irishman filminde Robert DeNire ve Al Pacino’yu daha genç göstermek için kullandı.
• VMware ve Red Hat gibi bilgi işlem firmaları, ürünlerini hızlandırma için uyumlu hale getiriyor.

Bir gün her firmanın bir veri firması, her sunucunun bir hızlandırılmış bilgisayar olacağı öngörülüyor.

NVIDIA, iş akışlarının hızlandırılmış hesaplama dönüşümüne yardımcı olacak, NVIDIA AI Enterprise, Base Command, Fleet Command ve NGC kataloğundaki kullanıma hazır hızlandırılmış uygulamalar gibi çözümler sunuyor.

Enerji Tasarruflu Gelecek

Tecrübeli hesaplama uzmanları, John Hennessey ve David Patterson, 2017 Turing ödül töreni konuşmalarında bu trendi, alan özelinde geliştirilmiş(domain-specific architectures) mimariler olarak tanımladılar.

Bu yaklaşımın enerji tasarruflu olması, geleceği neden temsil ettiğini açıklıyor. Örneğin, GPU’lar, AI çıkarımlarını CPU’lara göre 42 kat enerji tasarruflu bir şekilde yapıyor.

Dünya çapında sadece CPU çalıştıran sunucular, GPU hızlandırıcılı sistemlere geçiş yaparsa, bir yılda 10 trilyon watt-saat enerji tasarrufu yapılabiliyor. Bu miktar 1.4 milyon evin 1 yıllık enerji tasarrufuna eşit.

Green500 listesindeki en iyi 40 sistemin 35’i, en iyi 10 sistemin 9’u NVIDIA teknolojilerini kullanıyor.

Daha fazla bilgiye aşağıdaki GTC hızlandırılmış hesaplama konuşmalarını izleyerek ulaşabilirsiniz.

Yazının kaynağına buradan ulaşabilirsiniz.