O
OnnxStream
@vitoplantamura
Lightweight inference library for ONNX files, written in C++. It can run Stable Diffusion XL 1.0 on a RPI Zero 2 (or in 298MB of RAM) but also Mistral 7B on desktops and servers. ARM, x86, WASM, RISC-V supported. Accelerated by XNNPACK. Python, C# and JS(WASM) bindings available.
Commit 3 maanden geleden ★ 2.089
Pijlers en weging
Waarom deze score
- Laatste commit 101 dagen geleden
- Top 44% naar sterren in AI & ML › Machine-learning-frameworks
Feiten
- Licentie
- NOASSERTION (Licentie onbekend)
- Taal
- C++
- GitHub-sterren
- 2.089
- Laatste commit
- 2026-06-18 (3 maanden geleden)
- Laatste release
- 2024-01-14T09:35:26Z
- OpenSSF Scorecard
- Nog niet gemeten
- Zelf hosten
- Niet vastgesteld
- Maintainer-locatie
- Onbekend
- Bron
- github-crawl