Ersten Agent konfigurieren
Was ist ein Agent?
Ein Agent ist eine konfigurierbare KI-Schnittstelle, die:
- Über einen eindeutigen Slug als
model-Feld in API-Anfragen erreichbar ist - Eine Routing-Strategie definiert (welches Deployment antwortet)
- Einen System-Prompt vorschaltet (Verhaltensvorgaben)
- Optional Knowledge Bases (RAG) und MCP-Tools integriert
Schritt 1 — Agent erstellen
- Navigiere zu Dashboard → Agents → Neuer Agent
- Vergib einen Namen (z. B.
Support Agent) - Definiere einen Slug — dieser wird als
model-Parameter in API-Anfragen verwendet (z. B.support-agent) - Optional: Beschreibung hinzufügen
Der Slug kann später nicht mehr geändert werden, ohne bestehende Integrationen zu aktualisieren.
Schritt 2 — System-Prompt definieren
Unter Allgemein → System Prompt legst du das Verhalten des Agents fest:
Du bist ein hilfreicher Support-Agent für Musterfirma GmbH.
Du beantwortest Fragen zu unseren Produkten und Dienstleistungen.
Wenn du eine Frage nicht beantworten kannst, verweise den Nutzer an support@musterfirma.de.
Antworte immer auf Deutsch, präzise und freundlich.
Tipps für effektive System-Prompts:
- Rolle klar definieren ("Du bist ein...")
- Wissensgrenzen explizit setzen ("Wenn du X nicht weißt...")
- Antwortformat vorgeben ("Antworte immer in Stichpunkten")
- Sprache und Ton festlegen
Schritt 3 — Routing-Strategie wählen
Unter Modelle & Routing wählst du, wie Anfragen weitergeleitet werden.
Fixed (Einfachste Option)
Alle Anfragen gehen an ein festes Deployment.
- Wähle Fixed als Strategie
- Wähle das Ziel-Deployment aus der Liste
- Speichern
Geeignet für: einfache Assistenten, Support-Bots, Produktionssysteme mit einem Modell.
Rule-Based
Verschiedene Deployments basierend auf Regeln (Sprachkennung, Keywords, Sentiment).
- Wähle Rule-Based
- Klicke Neue Regel und definiere Bedingungen:
-
- B.: Wenn die Anfrage
"englisch"enthält → Deploymentenglish-model
- B.: Wenn die Anfrage
- Default-Regel (Fallback): immer ausführen wenn keine andere Regel passt
-
- Speichern
Workflow
Visueller Graph-Editor für komplexe Pipelines:
- Wähle Workflow
- Wähle eine Vorlage (oder starte mit leerem Canvas)
- Verbinde Nodes: Input → Condition → Deployment(s)
- Workflow speichern
Schritt 4 — Knowledge Base anbinden (optional)
Unter Wissen & Tools → Knowledge Bases kannst du eine oder mehrere Knowledge Bases aktivieren:
- Erstelle zuerst eine Knowledge Base unter Dashboard → Wissensdatenbanken
- Lade Dokumente hoch (PDF, TXT, Markdown)
- Warte bis die Indizierung abgeschlossen ist
- Komme zurück zum Agent und aktiviere die Knowledge Base per Checkbox
Der Agent sucht bei jeder Anfrage automatisch nach relevanten Dokumentenstellen und fügt sie als Kontext ein.
Schritt 5 — Agent testen
Erstelle einen API-Key unter Dashboard → API-Keys und sende eine Test-Anfrage:
curl https://deine-domain.com/api/proxy/v1/chat/completions \
-H "Authorization: Bearer myk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "support-agent",
"messages": [{"role": "user", "content": "Wie kann ich euch kontaktieren?"}]
}'
Checkliste
- Agent erstellt mit eindeutigem Slug
- System-Prompt definiert
- Mindestens ein Deployment vorhanden und aktiv
- Routing-Strategie konfiguriert und gespeichert — Status zeigt "Aktiv"
- API-Key erstellt
- Testanfrage erfolgreich
Nächste Schritte
- RAG Pipeline aufsetzen — Dokumente als Wissensquelle anbinden
- MCP Tools — Externe APIs in den Agent integrieren
- API-Referenz — Alle API-Parameter