O
openmodelz
@tensorchord
Autoscale LLM (vLLM, SGLang, LMDeploy) inferences on Kubernetes (and others)
Apache-2.0 Commit 3 jaaren geleden ★ 284
Pijlers en weging
Waarom deze score
- Apache-2.0 (permissief)
- Laatste commit 1059 dagen geleden
- Top 70% naar sterren in AI & ML › AI-operations
Feiten
- Licentie
- Apache-2.0 (Permissief)
- Taal
- Go
- GitHub-sterren
- 284
- Laatste commit
- 2023-11-03 (3 jaaren geleden)
- Laatste release
- 2023-09-27T08:52:09Z
- OpenSSF Scorecard
- Nog niet gemeten
- Zelf hosten
- Niet vastgesteld
- Maintainer-locatie
- Onbekend
- Bron
- github-crawl
Alternatieven in AI-operations
01 77 02 76 03 76 04 73
Q
Qdrant
Qdrant - High-performance, massive-scale Vector Database and Vector Search Engine for the next generation of AI. Also available in the cloud https://cloud.qdrant.io/
O
Olares
Open-Source Personal Cloud OS for Always-On Agents
V
vLLM
A high-throughput and memory-efficient inference and serving engine for LLMs
A
argo-workflows
Workflow Engine for Kubernetes