Odysseus, açık kaynaklı bir AI çalışma alanıdır (GitHub’da 84.3k yıldız, AGPL-3.0 lisansı). Open WebUI gibi bir sohbet arayüzü sunmakla beraber, aşağıdaki özellikleri sağlar:

• Ajanlar: Modelin dosya yazma, kabuk komutu çalıştırma ve araç kullanma gibi işlemleri otonom olarak yapması
• Derin Araştırma: Çok adımlı web araştırması, kaynak okuma ve rapor üretimi
• Terminal erişimi: Modelin sandboxed terminal üzerinden komut çalıştırması
• Belge yönetimi: Belge yükleme, düzenleme ve AI destekli analiz
• E-posta: IMAP/SMTP gelen kutusu, triyaj ve yanıt taslakları
• Takvim ve Notlar: Hatırlatmalar, yapılacaklar ve zamanlanmış görevler
• Kod çalıştırma: Program yazma, kaydetme ve test etme
• Web araması: SearXNG entegrasyonu ile gerçek zamanlı web araması

Odysseus, vLLM, Ollama, llama.cpp gibi herhangi bir OpenAI uyumlu çıkarım sunucusuna bağlanabilir ve aynı anda birden çok modeli yönetebilir. Biz bu eğitimde GPT-OSS 120B kullanacağız. Ancak siz dilerseniz başka bir model kullanabilirsiniz.

Bu eğitim üç bölümden oluşur:

1. Kurulum: Odysseus’un indirilmesi, yapılandırılması ve başlatılması
2. Odysseus’u Kullanma: Model bağlantısı, sohbet, belge analizi, derin araştırma ve ajan modu
3. Kapatma: Servislerin durdurulması ve veri kalıcılığı

GPT-OSS 120B modelini (ya da eğitimlerde kullandığımız başka modelleri) çalıştırmak için önceki eğitimlere göz atabilirsiniz. Bu eğitim, GPT-OSS 120B modelinin başlatılmış ve 8000 portundan hizmet verdiğini varsayar.

Kurulum

1. Odysseus’u İndirme

Odysseus, Docker Compose ile çalışan 4 servisli bir yazılım yığını kullanır: Odysseus web arayüzü, ChromaDB (vektör veritabanı), SearXNG (web arama motoru) ve ntfy (anlık bildirimler). Önce repoyu klonlayın:

Repodaki .env.example dosyasını .env olarak kopyalayın:

Odysseus, .env dosyasındaki PUID ve PGID değişkenlerini kullanarak bind-mounted dosyaların sahipliğini belirler. Spark’taki nvidia kullanıcısının UID ve GID değerlerini kontrol edin:

DGX Spark’ta nvidia kullanıcısının UID/GID değeri 1001’dir (genellikle 1000 olur). Bu değeri .env dosyasında doğru şekilde ayarlamamız gerekecek.

2. .env Yapılandırması

.env dosyasına, varsayılan ayarların sonuna şu yapılandırmayı ekleyin:

Eklediğiniz satırları doğrulayın:

Aşağıdaki tablo her değişkenin neden gerekli olduğunu açıklar:

3. Derleme ve Başlatma

Odysseus’u derleyip başlatın:

İlk derleme yaklaşık 6 dakika sürer. Derleme sırasında Docker, gerekli imajları indirir ve Odysseus web arayüzü imajını yerel olarak derler. Derleme tamamlandığında şu çıktıyı göreceksiniz:

Docker imajı başarıyla derlendi ve 4 konteyner başlatıldı. SearXNG sağlık kontrolü geçildi (Healthy), ardından Odysseus web arayüzü konteyneri başlatıldı. Docker Compose, kendi ağını (odysseus_default) ve 3 adet isimlendirilmiş volume oluşturdu.

4. Durum Kontrolü

Odysseus, kimlik doğrulamayı varsayılan olarak etkinleştirir ve ilk yönetici hesabını otomatik olarak oluşturur. Yönetici parolası, konteyner loglarında yazdırılır. Logları kontrol edin:

Yönetici hesabı oluşturuldu: kullanıcı adı admin, parola akZ-yra12HxXCV5HIqvfVtFa. Bu parolayı ilk girişten sonra değiştirebilirsiniz. Kendi parolanızı belirlemek isterseniz .env dosyasına ODYSSEUS_ADMIN_PASSWORD değişkenini ekleyebilirsiniz.

Konteynerlerin durumunu kontrol edin:

4 konteyner de çalışıyor. Odysseus web arayüzü 0.0.0.0:7000 üzerinde (LAN erişilebilir), diğer servisler ise yalnızca localhost üzerinde.

Sunucunun yanıt verdiğini doğrulayın:

HTTP 200 yanıtı, Odysseus konteynerinin host.docker.internal:8000 üzerinden vLLM’e başarıyla eriştiğini doğrular.

Odysseus’un başlangıç loglarını kontrol ederek tüm bileşenlerin hazır olduğunu doğrulayın:

Application startup complete. ve Uvicorn running on http://0.0.0.0:7000 satırları Odysseus’un hazır olduğunu gösterir. Ayrıca loglar, başlangıçta otomatik olarak kaydedilen 5 MCP (Model Context Protocol) sunucusunu gösterir: Memory (1 araç), Image Generation (1 araç), RAG (1 araç), Email (16 araç) ve Browser (30 araç ; Playwright/chromium ile web tarayıcı otomasyonu). Bu MCP sunucuları, ajan modunda modelin dosya okuma, görsel oluşturma, e-posta yönetimi ve web tarayıcı kontrolü gibi işlemler yapmasını sağlar.

Odysseus kurulumu tamamlandı. Tarayıcıdan erişmeye hazırsınız.

Odysseus’u Kullanma

1. Giriş

Bilgisayarınızın tarayıcısını açın ve Spark’ın IP adresini 7000 portundan girin:

Karşınıza giriş ekranı gelecek. Önceki adımda kaydettiğiniz yönetici adı (admin) ve parolayı kullanarak giriş yapın.

Giriş yaptıktan sonra, Odysseus’un entegre çalışma alanı karşınıza çıkar. Soldaki menüden birçok uygulamaya erişebilirsiniz: E-posta, Araçlar, Beyin, Takvim, Karşılaştır, Cookbook, Derin Araştırma, Galeri, Kütüphane, Notlar, Görevler ve Tema. Sohbet alanı orta kısımda yer alır ve model seçildikten sonra kullanıma hazır hale gelir. Sağ alt köşedeki seçici, Agent modu (araçlarla çok adımlı işlemler) ve Chat modu (geleneksel dil modeli yanıtı) arasında geçiş yapmanızı sağlar.

2. Model Seçimi

Odysseus, vLLM gibi OpenAI uyumlu çıkarım sunucularından modelleri otomatik olarak keşfeder. Sol alt köşedeki ayarlar simgesine tıklayın ve Add Models bölümüne gidin. Yerel model sunucusu olarak vLLM’in adresini girin:

Yeşil renkte “Added — found 1 model” mesajını göreceksiniz. Bu, Odysseus’un vLLM sunucusuna bağlandığını ve gpt-oss-120b modelini keşfettiğini gösterir.

Model, sohbet arayüzünde gpt-oss-120b olarak görünür ve seçilmeye hazırdır.

3. Sohbet ve Akıl Yürütme

GPT-OSS 120B ile sohbet ederek başlayalım:

Model, yapılandırılmış bir Türkçe yanıt üretir, başlıklar, tablolar ve kategorize bilgi içerir. Yanıtın üzerinde, “View thinking process” panelini genişleterek modelin akıl yürütme sürecini görebilirsiniz. Arayüz, yaklaşık 6.5 saniyelik üretim süresini ve 435 token sayısını da gösterir. Bu, sıradan bir model çıkarımıdır; yanıt, modelin içsel bilgilerine dayanır.

Şimdi sohbet penceresinin alt kısmındaki ekleme menüsünü açın:

Bu menü üç seçenek sunar: Attach files (bilgisayardan dosya yükleme — PDF özetleme, kaynak kod analizi, tablo analizi, görsel yorumlama), Documents (Odysseus Kütüphanesi’nden mevcut belge seçme) ve Prompt (kaydedilmiş prompt şablonu ekleme).

4. Belge Yükleme ve Analiz

DGX Spark veri sayfası PDF’ini yükleyerek modelin belge anlama yeteneğini test edelim. Ekleme menüsünden Attach files seçeneğini kullanarak PDF’i yükleyin ve özetlemesini isteyin:

GPT-OSS 120B, PDF’in içeriğini çıkarır, içerik model bağlamına eklenir ve model Türkçe bir özet üretir.

5. Derin Araştırma

Derin Araştırma (Deep Research), Odysseus’un en ayırt edici özelliklerinden biridir. Bu özellik, modelin çok adımlı bir web araştırması yapmasını sağlar: arama sorguları üretir, web kaynaklarını okur, bulguları iteratif olarak geliştirir ve bir rapor üretir.

Sol menüden Deep Research uygulamasını açın ve bir araştırma konusu girin.

Araştırma yapılandırması şu seçenekleri sunar: Rounds (yinelemeli araştırma döngüsü sayısı), Format (çıktı yapısı), Search Engine (arama motoru), Endpoint (çıkarım uç noktası) ve Model (arama planlama, kaynak analizi ve rapor sentezi için kullanılacak model). Start düğmesine basarak araştırmayı başlatın.

Araştırma başladığında, arayüz araştırma grafiğini canlı olarak gösterir. Kök düğüm orijinal araştırma sorusunu, dallanmış düğümler ise üretilen alt soruları ve keşfedilen kaynakları temsil eder. İlk turda sistem arama sorguları üretir ve web’de arama yapar.

Arama sonuçları toplandıkça, sistem web sayfalarını fetch eder, metin çıkarır ve içeriği araştırma modeline sağlar. Sistem, kaynakları okur, ilgili içerikleri filtreler ve ek aramalar veya nihai sentez için hazırlar.

Sonuç, “Past research” bölümünde kaydedilir: İki ana sonuç düğmesi bulunur: Visual Report (biçimlendirilmiş araştırma raporu) ve Discuss (raporu yeni bir sohbet bağlamı olarak açma). Araştırma sonuçları Kütüphane > Research altında kalıcı olarak saklanır.

6. Agent Modu ve Araçlar

Sağ alt köşedeki seçiciyi Agent moduna alın. Agent modunda, model yalnızca metin üretmekle kalmaz; dosya yazma, kabuk komutu çalıştırma ve araç kullanma gibi işlemleri otonom olarak gerçekleştirir.

Agent moduna geçtikten sonra, Shell Access kartını etkinleştirin. Modelden, bir program yazıp, Spark’a kaydedip, sonra da çalıştırıp test etmesini isteyin.

Agent, önce programı tasarlar, ardından write_file aracıyla dosyayı kaydeder ve shell üzerinden test edip iş akışını izler.

7. Diğer Özellikler

Odysseus, yukarıda gösterilenlerin yanbında birçok entegre uygulama içerir. Bunların tümü aynı web arayüzünden erişilebilir:

• Cookbook: Donanım farkındalıklı model önerileri, indirme ve yerel sunma. Cookbook, Spark’ın GPU’suna uygun modeller önerir ve bunları tek tıkla indirebilir.
• Compare: Kör yan yana model testi ve sentez. Birden çok modeli aynı prompt ile karşılaştırma.
• E-posta: IMAP/SMTP gelen kutusu, triyaj, etiketler, özetler, hatırlatmalar ve yanıt taslakları.
• Notlar, Görevler ve Takvim: Hatırlatmalar, yapılacaklar, zamanlanmış ajan görevleri, CalDAV senkronizasyonu.
• Galeri ve Görsel Düzenleyici: Görsel yükleme, düzenleme ve oluşturma.
• MCP Sunucuları: Odysseus başlangıçta 5 MCP sunucusu kaydeder: Memory (bellek), Image Generation (görsel oluşturma), RAG (belge arama), Email (16 araç), Browser (30 araç — Playwright/chromium ile web tarayıcı otomasyonu). Dilerseniz, ilave sunucular ekleyebilirsiniz.
• Tema ve Özelleştirme: Çoklu temalar, oturum yönetimi.

Kapatma

İşiniz bittiğinde Odysseus’u durdurun:

Tüm 4 konteyner durduruldu. Docker ağı (odysseus_default) da temizlendi — ODYSSEUS_TTS_CACHE_MAX_BYTES uyarısı zararsızdır.

Konteynerler durdurulsa da tüm gerekli bileşenler diskte kalıcıdır:

• Odysseus Docker imajı (odysseus-odysseus:latest, 2.76 GB) — yeniden derleme gerekmez.
• Odysseus repo’su (~/odysseus/) — yapılandırılmış .env dosyasıyla birlikte hazır.
• Odysseus verileri (~/odysseus/data/) — yönetici hesabı (app.db, auth.json), ChromaDB vektörleri, fastembed önbelleği, üretilen görseller ve araştırma verileri kalıcıdır.
• Docker volume’ları (odysseus_chromadb-data, odysseus_ntfy-cache, odysseus_searxng-data) — sonraki çalıştırmalar için saklanır.

Odysseus’u tekrar başlatmak için: