Voraussetzungen
Bevor Sie beginnen, stellen Sie sicher, dass Sie Folgendes haben:- Novita AI LLM API Key:
- Besuchen Sie die Website von Novita AI, um ein Konto zu erstellen.
-
Melden Sie sich an und gehen Sie zur Seite Key Management, um Ihren API Key zu generieren, der für die Integration der Modelle von Novita AI mit Langfuse erforderlich ist.

- Langfuse-Konto:
- Registrieren Sie sich auf der offiziellen Langfuse-Website für ein Langfuse-Konto, um mit der Entwicklung leistungsstarker KI-Anwendungen zu beginnen.
Integrationsschritte
Schritt 1: Abhängigkeiten installieren
Stellen Sie sicher, dass Sie alle erforderlichen Python-Pakete installiert haben:Schritt 2: Umgebungsvariablen einrichten
Schritt 3: Langfuse OpenAI-Drop-in-Replacement
In diesem Schritt verwenden wir das native OpenAI-Drop-in-Replacement, indem wirfrom langfuse.openai import openai importieren.
Um Novita AI mit den Client-Bibliotheken von OpenAI zu verwenden, übergeben Sie Ihren Novita AI API Key an die Option api_key und ändern Sie base_url in https://api.novita.ai/openai:
@observe() instrumentation, um alle Teile Ihrer Anwendung zu tracen.
Schritt 4: Ein Beispiel ausführen
Die folgende Codezelle zeigt, wie Sie den getracten OpenAI-Client verwenden, um das Chat-Modell von Novita AI aufzurufen. Alle API-Aufrufe werden nahtlos von Langfuse getract.Schritt 5: Traces in Langfuse ansehen
Nachdem Sie den Beispiel-Modellaufruf ausgeführt haben, können Sie die Traces in Langfuse ansehen. Diese Traces liefern detaillierte Informationen zu Ihren Novita AI API-Aufrufen, darunter:- Anfrageparameter (model, messages, temperature usw.)
- Antwortinhalt
- Token-Nutzungsstatistiken
- Latenzmetriken