Nemotron 3.5 Bolt 74B-A9B 24GB
NVIDIA
Son güncelleme: 16 Ekim 2026
🖥️ Bu model bilgisayarında çalışır mı?
Q4 quantization ile en az 24 GB VRAM ya da birleşik bellek ister.
74B toplam / 9B aktif, native 2-bit (IQ2) quant ile 24 GB belleğe sığıyor. RTX Spark / DGX Spark, llama.cpp, Ollama ve LM Studio desteği var
Ekran kartını seç, çalışır mı gör →Bağlam uzunluğu
262K token
API giriş (1M token)
—
API çıkış (1M token)
—
Kullanıcı planı
Ücretsiz (açık kaynak)
Ücretsiz plan mevcut
Türkçe destek
Zayıf
Çok modlu
Evet
Hızı
Hızlı
Bilgi kesim tarihi
2026-05
OpenAI uyumlu
Evet
Ne İçin Kullanılır?
- ✓Yerel makinede çalışan kodlama ve terminal ajanları
- ✓Web araştırması ve belge anlama görevleri
- ✓Gizlilik gerektiren, verinin dışarı çıkmadığı iş akışları
- ✓LM Studio, Ollama veya llama.cpp ile yerel deneme
Güçlü Yönler
- ↑74B toplam / 9B aktif olmasına rağmen 24 GB belleğe sığıyor
- ↑Native 2-bit quant + quantization-aware distillation — sonradan quant değil
- ↑PinchBench 87,82 ve BrowseComp 66,75 (NVIDIA model kartı)
- ↑256K context, görsel ve video girdisi
- ↑Ollama, llama.cpp, LM Studio ve GGUF desteği hazır
- ↑Açık ağırlık (OpenMDW 1.1), API ücreti yok
Dikkat Edilecekler
- ↓24 GB bellek gerektiriyor, 6-8 GB VRAM'li tüketici kartlarında çalışmaz
- ↓2-bit quant doğruluk kaybı yaratabilir
- ↓OpenRouter veya bulut API'si yok
- ↓Benchmark'lar NVIDIA'nın kendi ölçümü
- ↓Türkçe, desteklenen 10 dil arasında değil
Nemotron 3.5 Bolt 74B-A9B 24GB, NVIDIA'nın 15 Ekim 2026'da yayınladığı, yerelde çalışmak için tasarlanmış agent modeli. İsmindeki "24GB" kısmı iddianın özü: model 74 milyar toplam parametreye sahip olmasına rağmen 24 GB belleğe sığacak şekilde paketlenmiş, yani tek bir tüketici sınıfı makinede çalışabiliyor. Sıkıştırma iki adımda yapılmış. Önce Star Elastic compression ile model Nemotron 3.5 Super VL'den (120B-A12B) türetilmiş, ardından 2-bit quantization-aware distillation uygulanmış. Ağırlıklar native IQ2 hassasiyetinde, yani bu sonradan yapılmış bir quant değil, eğitimin parçası. Mimari Mamba-2 ve Transformer katmanlarını birleştiren hibrit bir LatentMoE, görsel tarafında C-RADIO v4-H vision encoder var. Token başına aktif parametre 9 milyar, context penceresi 256 bin token. Girdi olarak metin, görsel ve video alıyor, çıktı metin. Model kartındaki skorlar: PinchBench 87,82, GPQA Diamond 86,43, BrowseComp 66,75, Terminal-Bench 2.1 50,98. NVIDIA tabloda Qwen3.6-35B-A3B, Gemma 4 26B-A4B ve Nemotron 3.5 Lightning ile kıyaslıyor, Bolt listelenen testlerin çoğunda önde ama hepsinde değil. Bu skorlar NVIDIA'nın kendi ölçümü. Hedef donanım GeForce RTX bilgisayarlar, DGX Spark, DGX Station, RTX PRO iş istasyonları ve RTX Spark dizüstüleri. llama.cpp, Ollama, LM Studio, Unsloth ve vLLM desteği var, GGUF dönüşümleri ve LiLiCorr speculative-decoding checkpoint'i de yayınlandı. Ağırlıklar Hugging Face'te OpenMDW 1.1 lisansıyla açık. API fiyatı yok çünkü model barındırılan bir servis olarak değil, indirilip yerelde çalıştırılmak üzere yayınlandı. Aynı ailede NVIDIA 15 Ekim'de Nemotron 3.5 Super VL'yi de yayınladı, Nemotron 3.5 Bolt E4B 4GB ise 23 Ekim'de geliyor. Türkçe, model kartındaki 10 dil (İngilizce, Fransızca, İspanyolca, İtalyanca, Almanca, Japonca, Hintçe, Korece, Brezilya Portekizcesi, Çince) arasında değil, kendi test setimizle de ölçmedik.
En Yakın Alternatif
Gerekli Programlar
Açık ağırlıklı bir modeli kendi bilgisayarında çalıştırmak için bir model yöneticisi gerekir. İkisi de ücretsiz, ikisi de Windows, Mac ve Linux'ta çalışır.
LM Studio — görsel arayüz isteyenler için
Modeli listeden seçip indiriyorsun, terminal yok. Yeni başlayan için en kısa yol.
Ollama — terminalden çalıştıranlar için
Ollama'yı kurduktan sonra aşağıdaki satırı terminale yapıştırıp Enter'a bas; model kendiliğinden iniyor ve sohbet açılıyor.
ollama run nemotron-3.5-boltDonanım tarafı
Büyük modeller için ekran kartı yetmiyorsa, iş istasyonu sınıfı donanımın ne verdiğini rehberde ölçtük.
DGX Spark rehberi →