Medusa

@FasterDecoding

Medusa: Simple Framework for Accelerating LLM Generation with Multiple Decoding Heads

Apache-2.0 Commit 2 jaaren geleden ★ 2.771

Pijlers en weging

Soevereiniteit 30% 48

Onderhoud 25% 0

Beveiliging 20% geen gegevens

Adoptie 15% 56

Open standaarden 10% 0

Waarom deze score

Apache-2.0 (permissief)
Laatste commit 824 dagen geleden
Top 44% naar sterren in AI & ML › Grote taalmodellen

Feiten

Licentie: Apache-2.0 (Permissief)
Taal: Jupyter Notebook
GitHub-sterren: 2.771
Laatste commit: 2024-06-25 (2 jaaren geleden)
Laatste release: 2023-09-11T20:35:12Z
OpenSSF Scorecard: Nog niet gemeten
Zelf hosten: Niet vastgesteld
Maintainer-locatie: Onbekend
Bron: github-crawl

Alternatieven in Grote taalmodellen

Dify.ai

Build, test and deploy LLM applications.

88 02

Langfuse

LLM engineering platform for model tracing, prompt management, and application evaluation. Langfuse helps teams collaboratively debug, analyze, and iterate on their LLM applications such as chatbots or AI agents.

87 03

textgen

Open-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.

84 04

Firecrawl

The web data API to search, scrape, and interact at scale. 🔥