Vereisten
Zorg ervoor dat je het volgende hebt voordat je begint:- Novita AI LLM-API-sleutel:
- Bezoek de website van Novita AI om een account aan te maken.
-
Log in en ga naar de pagina Key Management om je API-sleutel te genereren, die essentieel is voor het integreren van de modellen van Novita AI met Langfuse.

- Langfuse-account:
- Registreer je voor een Langfuse-account op de officiële Langfusewebsite om krachtige AI-applicaties te gaan bouwen.
Integratiestappen
Stap 1: Dependencies installeren
Zorg ervoor dat je alle vereiste Python-pakketten hebt geïnstalleerd:Stap 2: Omgevingsvariabelen instellen
Stap 3: Langfuse OpenAI drop-in replacement
In deze stap gebruiken we de native OpenAI drop-in replacement doorfrom langfuse.openai import openai te importeren.
Om Novita AI met de clientbibliotheken van OpenAI te gaan gebruiken, geef je je Novita AI API-sleutel door aan de optie api_key en wijzig je de base_url naar https://api.novita.ai/openai:
@observe() instrumentation om alle onderdelen van je applicatie te traceren.
Stap 4: Een voorbeeld uitvoeren
De volgende codecel laat zien hoe je de getraceerde OpenAI-client gebruikt om het chatmodel van Novita AI aan te roepen. Alle API-aanroepen worden naadloos door Langfuse getraceerd.Stap 5: Traces in Langfuse bekijken
Nadat je de voorbeeldmodelaanroep hebt uitgevoerd, kun je de traces in Langfuse bekijken. Deze traces bieden gedetailleerde informatie over je Novita AI API-aanroepen, waaronder:- Requestparameters (model, messages, temperature, enz.)
- Response-inhoud
- Statistieken over tokengebruik
- Latentiemetrics