前提条件
始める前に、以下を準備してください。- Novita AI LLM API Key:
- Novita AI のウェブサイトにアクセスしてアカウントを作成します。
-
ログインして Key Management ページに移動し、API Key を生成します。これは Novita AI のモデルを Langfuse と統合するために必須です。

- Langfuse アカウント:
- 強力な AI アプリケーションの構築を始めるために、公式 Langfuseウェブサイトで Langfuse アカウントを登録します。
統合手順
ステップ 1: 依存関係をインストールする
必要な Python パッケージがすべてインストールされていることを確認してください。ステップ 2: 環境変数を設定する
ステップ 3: Langfuse OpenAI drop-in Replacement
このステップでは、from langfuse.openai import openai をインポートして、ネイティブの OpenAI drop-in replacement を使用します。
OpenAI のクライアントライブラリで Novita AI の使用を開始するには、Novita AI API key を api_key オプションに渡し、base_url を https://api.novita.ai/openai: に変更します。
@observe() instrumentation と完全に互換性があり、アプリケーションのすべての部分をトレースできます。
ステップ 4: 例を実行する
次のコードセルは、トレースされた OpenAI クライアントを使用して Novita AI のチャットモデルを呼び出す方法を示しています。すべての API 呼び出しは Langfuse によってシームレスにトレースされます。ステップ 5: Langfuse でトレースを確認する
サンプルのモデル呼び出しを実行した後、Langfuse でトレースを確認できます。これらのトレースには、Novita AI API 呼び出しに関する詳細情報が含まれます。- リクエストパラメータ(model、messages、temperature など)
- レスポンス内容
- トークン使用量の統計
- レイテンシ指標