Was ist neu
bei Mycelis.

Smart Routing — regelbasiertes Routing auf Basis von Token-Budget, Latenz und Modell-Typ. Ein VirtualModel-Slug, mehrere Deployments dahinter.

MCP Library — Model Context Protocol Unterstützung. Externe APIs als Tools direkt im Modell-Kontext verfügbar machen.

Drei neue GPU-Typen: NVIDIA A40, L4 und H100 SXM — für Training, Inferenz und Batch-Workloads.

VirtualModel-System — ein Slug, mehrere Deployments. Automatisches Fallback bei Instanz-Ausfall.

Routing-Engine vollständig überarbeitet — 40% weniger Latenz im P99 bei Multi-Deployment-Setups.

API Gateway: Streaming-Responses jetzt vollständig SSE-kompatibel, auch für lange Antworten.

Token-Zählung bei Anthropic-Modellen war um ~12% zu hoch — korrigiert auf offizielle cl100k-Tokenisierung.

Fine-Tuning Wizard — LoRA Training direkt im Dashboard. JSONL-Upload, Hyperparameter-Konfiguration, Trainings-Job starten.

Knowledge Base v2 — Multi-Dokument-RAG mit semantischer Suche. Unterstützt PDF, TXT, Markdown und DOCX.

BYOK für Google Gemini — eigene Gemini-API-Keys über Mycelis routen und protokollieren.

Workspace-Rollen — Admin und Mitglied mit granularen Zugriffsrechten. Team-Einladungen per E-Mail.

Dashboard-Ladezeit um ~60% reduziert durch Lazy Loading der Deployment-Liste.

Usage-Dashboard: Token-Verbrauch jetzt nach Modell, Deployment und Zeitraum filterbar.

Selten auftretender Race Condition beim gleichzeitigen Start mehrerer Trainings-Jobs.

BYOK OpenAI: Timeout bei sehr langen Completions (>30s) schlug fälschlicherweise fehl.

GPU Instance Deployment — Open-Source-Modelle auf dedizierter RunPod-Hardware deployen. Unterstützte Modelle: Llama 3.1, Mistral 7B, Mixtral 8x7B.

OpenAI-kompatibler Proxy-Endpunkt — drop-in Ersatz für die OpenAI API. Nur base_url und api_key tauschen.

Knowledge Bases v1 — Dokumente hochladen und als Kontext in Completions einbinden.

PAT-basierte Authentifizierung — Personal Access Tokens für sichere API-Kommunikation.

Managed Keys — OpenAI und Anthropic über Mycelis pay-per-token, ohne eigene API-Keys.

Usage & Billing Dashboard — Echtzeit-Verbrauchsübersicht mit täglicher Abrechnung.