API-Referenz
Vor dem Go-live
Nutzen Sie diese Checkliste vor dem Produktivbetrieb. Sie verbindet Schlüsselsicherheit, Wiederholungen, Dauerhaftigkeit asynchroner Tasks, Beobachtbarkeit und Abrechnung zu einer Go-live-Prüfung.
#Checkliste für die Produktion
Sicherheit
- Bewahren Sie API-Schlüssel auf vertrauenswürdigen Servern auf; liefern Sie nie einen dauerhaften Schlüssel in einem Browser- oder Mobile-Binary aus.
- Verwenden Sie pro Projekt einen eigenen eingeschränkten Schlüssel und konfigurieren Sie Limits für Modelle, IP, RPM, RPD und Kontingent.
- Rotieren Sie Schlüssel, ohne den Integrationscode für Modelle zu ändern.
Zuverlässigkeit
- Setzen Sie für jede Anfrage Verbindungs- und Antwort-Timeouts.
- Beachten Sie Retry-After und verwenden Sie exponentiellen Backoff mit Jitter.
- Verwenden Sie Idempotency-Key für kostenpflichtige asynchrone Einreichungen und speichern Sie task_id.
Beobachtbarkeit
- Protokollieren Sie Anfrage-ID, Modell, Endpunkt, Latenz, HTTP-Status und task_id.
- Halten Sie Prompt-Inhalte aus Protokollen heraus, es sei denn, das Debugging ist ausdrücklich aktiviert.
- Verknüpfen Sie für Kunden sichtbare Fehler mit der passenden Zeile im Anfrageprotokoll.
Kostenkontrolle
- Lesen Sie Preise und unterstützte Optionen aus den aktuellen Modell-Metadaten.
- Legen Sie Kontingentlimits pro Projekt fest und lassen Sie sich warnen, bevor das Wallet leer ist.
- Gleichen Sie mit dem endgültigen Verbrauch (sechs Nachkommastellen) im Anfrageprotokoll ab.
#Go-live-Prüfung
- 1
Minimale Anfrage testen
Führen Sie genau dieses Modell und diesen Endpunkt in der Workbench aus und kopieren Sie dann die generierte Anfrage.
- 2
Fehlerpfade testen
Prüfen Sie die Behandlung von 401, 402, 429, Timeout, ungültigen Medien und endgültig fehlgeschlagenen Tasks.
- 3
Abrechnung prüfen
Ordnen Sie einer erfolgreichen Anfrage ihren Verbrauch (sechs Nachkommastellen) und ihre Anfrage-ID zu.
- 4
Monitoring aktivieren
Warnen Sie bei Fehlerrate, Latenz, hängenden Tasks, Webhook-Fehlern und niedrigem Guthaben.
#Schnellzugriffe
Immer noch nicht gelöst?
Senden Sie uns die Anfrage-ID oder die Fehlermeldung, und wir sehen uns das an.