PowerInfer

@Tiiny-AI

High-speed Large Language Model Serving for Local Deployment

MIT Commit 5 maanden geleden ★ 9.811

Pijlers en weging

Soevereiniteit 30% 53

Onderhoud 25% 84

Beveiliging 20% geen gegevens

Adoptie 15% 83

Open standaarden 10% 0

Waarom deze score

MIT (permissief)
Laatste commit 139 dagen geleden
Top 17% naar sterren in AI & ML › Grote taalmodellen

Feiten

Licentie: MIT (Permissief)
Taal: C++
GitHub-sterren: 9.811
Laatste commit: 2026-05-11 (5 maanden geleden)
Laatste release: Onbekend
OpenSSF Scorecard: Nog niet gemeten
Zelf hosten: Niet vastgesteld
Maintainer-locatie: Onbekend
Bron: github-crawl

Alternatieven in Grote taalmodellen

Dify.ai

Build, test and deploy LLM applications.

88 02

Langfuse

LLM engineering platform for model tracing, prompt management, and application evaluation. Langfuse helps teams collaboratively debug, analyze, and iterate on their LLM applications such as chatbots or AI agents.

87 03

textgen

Open-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.

84 04

Firecrawl

The web data API to search, scrape, and interact at scale. 🔥