LOKAL LLM’LER

2x DGX Spark Üzerinde DeepSeek-V4-Flash-0731

Bu eğitimde, iki DGX Spark üzerinde DeepSeek-V4-Flash-0731 büyük dil modelini sparkrun kullanarak çalıştıracaksınız. Bu model, 284 milyar toplam ve 13 milyar aktif parametre ile çalışan bir Mixture-of-Experts modelidir. Ayrıca, çalıştırmadan önce modelin ne kadar zeki olduğunu inceleyeceğiz. Spark, monitör ve klavye bağlayarak doğrudan bilgisayar olarak kullanılabileceği gibi, başka bir ...(Devamını oku)

Tarafından Oluşturuldu|AI CLUSTER, LOKAL LLM'LER|

Jetson & Spark Performans Rehberi: Modeller Hangi Metriklerde Nasıl Performans Gösteriyor?

Edge cihazda büyük dil modeli çalıştırmak, artık "çalışır mı?" sorusundan çok "ne kadar akıcı çalışır?" sorusuna evrildi. Bu yazıda, Jetson cihaz ailesinde hangi modellerin çalıştığını, hangi nicemleme ve runtime kombinasyonunun ne kadar hız verdiğini, ve en önemlisi — farklı hızların ekranda nasıl hissettirdiğini ele alacağız. Hız Nasıl Hissedilir? ...(Devamını oku)

Tarafından Oluşturuldu|AI, LOKAL LLM'LER, Openzeka|

DGX Spark Üzerinde Odysseus ile Yerel AI Çalışma Alanı

Odysseus, açık kaynaklı bir AI çalışma alanıdır (GitHub’da 84.3k yıldız, AGPL-3.0 lisansı). Open WebUI gibi bir sohbet arayüzü sunmakla beraber, aşağıdaki özellikleri sağlar: Ajanlar: Modelin dosya yazma, kabuk komutu çalıştırma ve araç kullanma gibi işlemleri otonom olarak yapması Derin Araştırma: Çok adımlı web araştırması, kaynak okuma ve rapor üretimi ...(Devamını oku)

Tarafından Oluşturuldu|LOKAL LLM'LER, AI, Openzeka|

DGX Spark Üzerinde Unsloth ile Yerel Model İnce Ayarı (Fine-Tuning)

Bu eğitimde, tek bir DGX Spark üzerinde bir büyük dil modelini Unsloth kullanarak ince ayar (fine-tuning) yapacaksınız. Spark, monitör ve klavye bağlayarak doğrudan bilgisayar olarak kullanılabileceği gibi, başka bir bilgisayarla uzaktan bağlanılan bir sunucu olarak da kullanılabilir. Biz bu eğitimde Spark’a uzaktan bağlanacağız ve gerekli yazılımları kurup modelin ince ...(Devamını oku)

Tarafından Oluşturuldu|LOKAL LLM'LER, AI, Openzeka|
Go to Top