AIYerel LLM’ler, kullanılmayan bağlam nedeniyle sessizce RAM tüketiyor; tek bir ayarla bellek geri kazanılabilir
Ollama, yapılandırılmış bağlam penceresinin tamamı için RAM ayırarak pratikte kullanılmayan alanı da bellekte tutar. 32K bağlam penceresiyle yüklenen bir modelde istem ve yanıtlar genellikle yalnızca birkaç bin tokena ul







