AI06 Eki 2026 04:30Yavuz Günay
Yerel LLM’ler, kullanılmayan bağlam nedeniyle sessizce RAM tüketiyor; tek bir ayarla bellek geri kazanılabilir
Ollama, yapılandırılmış bağlam penceresinin tamamı için RAM ayırarak pratikte kullanılmayan alanı da bellekte tutar. 32K bağlam penceresiyle yüklenen bir modelde istem ve yanıtlar genellikle yalnızca birkaç bin tokena ul
