Ollama:500, message=‘Internal Server Error’ Hatası

Hatanın sebebi RAM'lerin yetersiz olmasından dolayıdır. Boşda bulunan 4,5 GB RAM'iniz varsa ve kurduğunuz model 5 GB üstü RAM istiyorsa bu hatayı alıyorsunuz demektir.

Bu yüzden düşük seviye RAM tüketen modelleri denemeniz gerekiyor.

Örnek olarak; LLaMA3, Gemma ve Gemma2 gibi modellerinin 2b olanları yani en düşük GB olan versiyonları kurmak gerekiyor.