distributed-llama

@b4rtaz

Distributed LLM inference. Connect home devices into a powerful cluster to accelerate LLM inference. More devices means faster inference.

MIT Commit 3 maanden geleden ★ 3.063

Pijlers en weging

Soevereiniteit 30% 48

Onderhoud 25% 94

Beveiliging 20% geen gegevens

Adoptie 15% 58

Open standaarden 10% 0

Waarom deze score

MIT (permissief)
Laatste commit 84 dagen geleden
Uitgebracht in de afgelopen 12 maanden
Top 42% naar sterren in AI & ML › Grote taalmodellen

Feiten

Licentie: MIT (Permissief)
Taal: C++
GitHub-sterren: 3.063
Laatste commit: 2026-07-05 (3 maanden geleden)
Laatste release: 2026-02-02T12:06:23Z
OpenSSF Scorecard: Nog niet gemeten
Zelf hosten: Niet vastgesteld
Maintainer-locatie: Onbekend
Bron: github-crawl

Alternatieven in Grote taalmodellen

Dify.ai

Build, test and deploy LLM applications.

88 02

Langfuse

LLM engineering platform for model tracing, prompt management, and application evaluation. Langfuse helps teams collaboratively debug, analyze, and iterate on their LLM applications such as chatbots or AI agents.

87 03

textgen

Open-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.

84 04

Firecrawl

The web data API to search, scrape, and interact at scale. 🔥