ChatGPT'ye Aylık Para Vermeyi Bırak: AnythingLLM ile Kendi Yapay Zekanı Kur

AnythingLLM Kurulum ve Kullanım Rehberi

Kendi bilgisayarında, internetsiz, ücretsiz çalışan bir AI asistan kurmak istiyorsan doğru yerdesin.

📌 Araç hakkında daha fazla bilgi: mindilot.com → AnythingLLM

AnythingLLM Nedir?

AnythingLLM, Mintplex Labs tarafından geliştirilen açık kaynaklı, hepsi bir arada bir AI uygulamasıdır. Kendi bilgisayarında çalışır, verilerini buluta göndermez ve ChatGPT gibi bir aylık abonelik gerektirmez.

Öne çıkan özellikler:

• Herhangi bir LLM ile çalışır (Llama, Mistral, GPT-4, Claude vb.)
• PDF, Word, CSV gibi belgelerinle sohbet edebilirsiniz (RAG)
• AI Agent desteği — web arama, SQL sorguları, grafik üretimi
• Tamamen local ve offline çalışabilir
• Hesap açmaya gerek yok

Sistem Gereksinimleri

⚠️ Local bir LLM de çalıştırmak istiyorsan gereksinimler artar. 7B parametreli model için en az 8 GB RAM/VRAM önerilir.

Kurulum — Desktop (Önerilen Başlangıç)

Desktop versiyonu tek kullanıcı için idealdir, ek kurulum gerektirmez ve tamamen ücretsizdir.

1. İndir ve Kur

https://anythingllm.com/desktop adresine git, işletim sistemine uygun kurulum dosyasını indir.

Windows kullanıcıları için önemli not:

• Kurulum sırasında "Current User" seçeneğini seç, "All Users" seçme.
• Uygulama kapatıldığında sistem tepsisinde (system tray) çalışmaya devam eder. Güncelleme sorunuyla karşılaşırsan tepside AnythingLLM ikonuna sağ tıklayıp "Quit AnythingLLM" diyerek tamamen kapat.

2. İlk Açılışta LLM Seç

Uygulama ilk açıldığında hangi LLM'i kullanmak istediğini sorar. İki seçenek var:

a) Yerleşik model (en kolay yol)
AnythingLLM, Lm Studio üzerinden Llama, Gemma gibi modelleri otomatik olarak indirip kurar. Ekstra bir şey yapman gerekmez.

b) Harici sağlayıcı bağla
OpenAI, Anthropic, Google Gemini gibi bulut sağlayıcılarına API key ile bağlanabilirsin. Bunun için ilgili servisten API key almanız gerekir.

LM Studio ile Kurulum (Önerilen Yerel Model Yöntemi)

Terminal kullanmak istemiyorsan yerel model çalıştırmak için en pratik yol LM Studio'dur. Modelleri arayüz üzerinden indirip tek tıkla sunucu olarak başlatabilirsin — AnythingLLM bağlantıyı otomatik algılar.

Adımlar:

1. lmstudio.ai adresinden LM Studio'yu indir ve kur
2. LM Studio'yu aç → sol menüden Discover sekmesine git
3. İstediğin modeli ara ve indir (başlangıç için Llama 3.2 3B veya Gemma 3 4B önerilir)
4. Sol menüden Local Server sekmesine geç → Start Server butonuna bas
5. Sunucu varsayılan olarak http://localhost:1234 adresinde çalışır
   💡 LM Studio kurulumu için detaylı rehber: Kendi Bilgisayarında Ücretsiz AI Asistan — LM Studio Rehberi
   AnythingLLM'de bağlantıyı kur:

AnythingLLM'i aç → Settings → LLM Provider → LM Studio seç → URL olarak http://localhost:1234 gir → modeli seç → kaydet.

💡 LM Studio hakkında detaylı bilgi için: mindilot.com/araclar/lm-studio

Workspace (Çalışma Alanı) Oluşturma

AnythingLLM her şeyi workspace adı verilen izole alanlarda organize eder. Her workspace'in kendi belgeleri, sohbet geçmişi ve ayarları vardır.

1. Sol panelde "+ New Workspace" butonuna tıkla
2. Workspace'e bir isim ver (örneğin: "İş Belgeleri", "Araştırma", "Kişisel")
3. Farklı workspace'lerde farklı LLM modelleri kullanabilirsin

Belgelerinle Sohbet (RAG)

AnythingLLM'in en güçlü özelliği kendi belgelerinle AI destekli sohbet etmektir.

Desteklenen dosya formatları:
PDF, Word (.docx), TXT, Markdown, CSV, Excel, PowerPoint, HTML, 50+ kod dosyası formatı

Belge yükleme adımları:

1. Workspace'i aç
2. Sağ panelde "Upload Document" butonuna tıkla
3. Dosyayı yükle — sistem otomatik olarak index'ler
4. Sohbet kutusuna belgeni hakkında soru sor

💡 Büyük belgeler için Chunk Size'ı 2000, Overlap'i 200 olarak ayarlamak daha iyi sonuç verir.

AI Agent Kullanımı

Agent modu, LLM'e gerçek dünya araçlarını kullanma yeteneği kazandırır.

Herhangi bir sohbette @agent yazarak agent modunu aktive edebilirsin.

Agent neler yapabilir:

• Web'de arama yapma
• SQL sorgusu çalıştırma
• Grafik ve tablo oluşturma
• Özel agent skill'leri ile genişletilebilir

⚠️ Tüm modeller agent olarak iyi çalışmaz. GPT-4o veya Llama 3.1 70B+ gibi daha güçlü modeller önerilir.

Docker ile Self-Host (Takımlar İçin)

Birden fazla kullanıcıyla çalışmak istiyorsan Docker versiyonunu tercih et. Multi-user desteği, rol bazlı erişim kontrolü ve beyaz etiketleme bu versiyonda bulunur.

mkdir anythingllm-setup && cd anythingllm-setup

docker pull mintplexlabs/anythingllm:latest

docker run -d \
  -p 3001:3001 \
  -v /opt/anythingllm:/app/server/storage \
  --name anythingllm \
  mintplexlabs/anythingllm:latest

Tarayıcıdan http://localhost:3001 adresine giderek arayüze erişebilirsin.

Fiyatlandırma

Sık Karşılaşılan Sorunlar

"AnythingLLM cannot be closed" hatası (Windows):
Uygulama sistem tepsisinde çalışıyor olabilir. Tepside ikonuna sağ tıkla → "Quit AnythingLLM" → Kurulumu tekrar başlat.

Yavaş yanıt süresi:
Local model çalıştırıyorsan GPU desteği olmadan CPU üzerinden çalışıyor olabilir. NVIDIA/AMD GPU'n varsa driver'ların güncel olduğundan emin ol — kurulum sırasında GPU desteği otomatik yüklenir.

Cloud versiyonunda 502 hatası:
Ağır embedding işlemlerinde cloud tier'ının compute sınırına ulaşmış olabilirsin. Self-host versiyonu bu tür yoğun işlemler için daha sağlamdır.

Alternatifler

🐙 Bu rehber mindilot.com tarafından hazırlanmıştır.
AnythingLLM hakkında mindi'nin yorumu için: mindilot.com/araclar/anythingllm
kalın