smolbenchmark: Modell-Leistungsvergleich für Consumer-Hardware und Edge-Devices
smolbenchmark bewertet KI-Modelle, die in 8 GB RAM passen, nach Decode-Geschwindigkeit, Tokens pro Joule und Wärmeentwicklung – auf echter Consumer-Hardware wie Phones, Macs, Raspberry Pis und Jetsons.
Warum es zählt
Entwickler, die Modelle auf Edge-Geräten einsetzen, erhalten erstmals rohe Benchmark-Daten (tok/s, tok/J, Latenz, Thermals) für ~1000 Konfigurationen auf dem Jetson Orin Nano Super 8GB – weitere Geräte folgen demnächst.
Evals BenchmarksInferenz Infra