#Quantization
Sensoren und Hardware
September 5, 2026
Edge-KI-Beschleuniger – Coral, Jetson, Movidius
Anstatt ganze Einplatinencomputer wie den Raspberry Pi oder Jetson zu vergleichen, konzentriert sich dieser Artikel auf die darauf befindlichen „KI-Inferenzbeschleuniger“-Chips und vergleicht drei Designphilosophien: Google Coral (Edge TPU), Intel Movidius (Myriad X) und NVIDIA Jetson Orin NX. Er erläutert das Prinzip, warum die INT8-Quantisierung Genauigkeit gegen Geschwindigkeit eintauscht, anhand eines konkreten Beispiels einer Skydio-Drohne, die neun neuronale Netze gleichzeitig auf einem einzelnen Jetson TX2 ausführt, und geht auf den aktuellen Stand von Coral ein, das von Google faktisch aufgegeben, aber von seiner Community weitergeführt wird.
Fundamentals · 13 Min. LesezeitTechnologietrends in lokalen LLMs
Die monatlichen Downloadzahlen von Ollama stiegen innerhalb von drei Jahren um das 520-fache. Die Studie untersucht, wie der rasante Aufstieg von Open-Weight-Modellen und ausgereifte Quantisierungstechniken große Sprachmodelle in etwas verwandeln, das auf einem Heim-PC läuft.
Trends · 7 Min. Lesezeit