Help &
Resources.

Ja. Der Mycelis-Proxy-Endpunkt ist vollständig OpenAI-kompatibel. Du musst nur base_url auf https://api.mycelis.ai/proxy/v1 und api_key auf deinen PAT setzen. Kein SDK-Wechsel nötig.

Über den Modell-Marktplatz kannst du alle gängigen Open-Source-Modelle deployen: Llama 3.1 (8B, 70B, 405B), Mistral, Mixtral, Qwen und weitere. Für Managed Keys sind OpenAI (GPT-4o, o1), Anthropic (Claude 3.5) und Google (Gemini 1.5) verfügbar.

Deine API-Anfragen werden ausschließlich auf deiner eigenen GPU-Instanz verarbeitet. Die Inference findet auf dedizierter Hardware statt — keine Daten werden an Modell-Anbieter weitergeleitet. Prompts und Responses werden nicht dauerhaft gespeichert.

Bei Managed Keys zahlst du über Mycelis pay-per-token — kein eigener API-Key bei OpenAI/Anthropic nötig. Bei BYOK (Bring Your Own Key) hinterlegst du deinen eigenen API-Key, der Traffic wird über Mycelis geroutet und protokolliert, aber die Kosten laufen über deinen eigenen Account beim Anbieter.

Smart Routing ist Teil des VirtualModel-Systems. Du definierst Regeln (z.B. 'Anfragen mit <500 Token → kleines Modell, Rest → großes Modell') und Mycelis wählt automatisch das passende Deployment. So kannst du bis zu 80% der API-Kosten einsparen, ohne deinen Code zu ändern.

Neue Accounts erhalten ein kleines Startguthaben zum Ausprobieren der Plattform. Danach ist die Nutzung vollständig pay-as-you-go — keine monatliche Grundgebühr, keine Mindestabnahme.