Jetson & Spark Performans Rehberi: Modeller Hangi Metriklerde Nasıl Performans Gösteriyor?
Edge cihazda büyük dil modeli çalıştırmak, artık "çalışır mı?" sorusundan çok "ne kadar akıcı çalışır?" sorusuna evrildi. Bu yazıda, Jetson cihaz ailesinde hangi modellerin çalıştığını, hangi nicemleme ve runtime kombinasyonunun ne kadar hız verdiğini, ve en önemlisi — farklı hızların ekranda nasıl hissettirdiğini ele alacağız. Hız Nasıl Hissedilir? ...(Devamını oku)
DGX Spark Üzerinde GPU Hızlandırmalı Veri Bilimi ve Makine Öğrenmesi
Bu eğitimde, bir DGX Spark üzerinde veri bilimi ve makine öğrenmesi iş akışlarını GPU ile hızlandıracağız. Spark, monitör ve klavye bağlanarak doğrudan bir bilgisayar olarak kullanılabileceği gibi, başka bir bilgisayardan uzaktan bağlanılan bir sunucu olarak da kullanılabilir. Biz bu eğitimde Spark’a uzaktan bağlanacağız ve gerekli yazılımları kurup çalıştıracağız. Veri işleme ...(Devamını oku)
DGX Spark Üzerinde Odysseus ile Yerel AI Çalışma Alanı
Odysseus, açık kaynaklı bir AI çalışma alanıdır (GitHub’da 84.3k yıldız, AGPL-3.0 lisansı). Open WebUI gibi bir sohbet arayüzü sunmakla beraber, aşağıdaki özellikleri sağlar: Ajanlar: Modelin dosya yazma, kabuk komutu çalıştırma ve araç kullanma gibi işlemleri otonom olarak yapması Derin Araştırma: Çok adımlı web araştırması, kaynak okuma ve rapor üretimi ...(Devamını oku)
DGX Spark Üzerinde Unsloth ile Yerel Model İnce Ayarı (Fine-Tuning)
Bu eğitimde, tek bir DGX Spark üzerinde bir büyük dil modelini Unsloth kullanarak ince ayar (fine-tuning) yapacaksınız. Spark, monitör ve klavye bağlayarak doğrudan bilgisayar olarak kullanılabileceği gibi, başka bir bilgisayarla uzaktan bağlanılan bir sunucu olarak da kullanılabilir. Biz bu eğitimde Spark’a uzaktan bağlanacağız ve gerekli yazılımları kurup modelin ince ...(Devamını oku)
