#LLM

Technologietrends in lokalen LLMs

Die monatlichen Downloadzahlen von Ollama stiegen innerhalb von drei Jahren um das 520-fache. Die Studie untersucht, wie der rasante Aufstieg von Open-Weight-Modellen und ausgereifte Quantisierungstechniken große Sprachmodelle in etwas verwandeln, das auf einem Heim-PC läuft.