Functieaanroepen

Function Calling stelt AI-modellen in staat om te communiceren met externe tools en API’s, zodat ze specifieke acties kunnen uitvoeren en toegang hebben tot realtime informatie. Deze mogelijkheid breidt de functionaliteit van AI-modellen uit tot voorbij eenvoudige tekstgeneratie, waardoor dynamischere en praktischere toepassingen mogelijk worden.

Ondersteunde modellen

De volgende modellen ondersteunen Function Calling:

Snelstartgids

Deze gids laat zien hoe je Function Calling gebruikt om actuele weersinformatie op te halen voor een door de gebruiker opgegeven locatie. We doorlopen een volledig Python-codevoorbeeld. Raadpleeg voor de specifieke API-indeling van Function Calling de API-referentie Create Chat Completion.

1. Initialiseer de client

Eerst moet je de client initialiseren met je Novita API key.

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    # Get the Novita AI API Key from: https://novita.ai/settings/key-management.
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek_v3"

2. Definieer de functie die moet worden aangeroepen

Definieer vervolgens de Python-functie die het model kan aanroepen. In dit voorbeeld is het een functie om weersinformatie op te halen.

# Example function to simulate fetching weather data.
def get_weather(location):
    """Retrieves the current weather for a given location."""
    print("Calling get_weather function with location: ", location)
    # In a real application, you would call an external weather API here.
    # This is a simplified example returning hardcoded data.
    return json.dumps({"location": location, "temperature": "60 degrees Fahrenheit"})

3. Stel het API-verzoek samen met tools en gebruikersbericht

Maak nu het API-verzoek naar het Novita-endpoint. Dit verzoek bevat de parameter tools, waarmee de functies worden gedefinieerd die het model kan gebruiken, en het bericht van de gebruiker.

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get weather of an location, the user shoud supply a location first",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA",
                    }
                },
                "required": ["location"]
            },
        }
    },
]

messages = [
    {
        "role": "user",
        "content": "What is the weather in San Francisco?"
    }
]

# Let's send the request and print the response.
response = client.chat.completions.create(
    model=model,
    messages=messages,
    tools=tools,
)

# Please check if the response contains tool calls if in production.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())

Uitvoer:

{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}

4. Reageer met het resultaat van de functieaanroep en verkrijg het definitieve antwoord

De volgende stap is het verwerken van de functieaanroep, het uitvoeren van de functie get_weather en het terugsturen van het resultaat naar het model om de definitieve reactie voor de gebruiker te genereren.

# Ensure tool_call is defined from the previous step
if tool_call:
    # Extend conversation history with the assistant's tool call message
    messages.append(response.choices[0].message)

    function_name = tool_call.function.name
    if function_name == "get_weather":
        function_args = json.loads(tool_call.function.arguments)
        # Execute the function and get the response
        function_response = get_weather(
            location=function_args.get("location"))
        # Append the function response to the messages
        messages.append(
            {
                "tool_call_id": tool_call.id,
                "role": "tool",
                "content": function_response,
            }
        )

    # Get the final response from the model, now with the function result
    answer_response = client.chat.completions.create(
        model=model,
        messages=messages,
        # Note: Do not include tools parameter here.
    )
    print(answer_response.choices[0].message)

Uitvoer:

ChatCompletionMessage(content="The weather in San Francisco, CA is currently **60 degrees Fahrenheit**. For more detailed information, such as specific conditions (e.g., sunny, cloudy, rainy), you might want to check a local weather app or website. Let me know if you'd like help with anything else!", refusal=None, role='assistant', function_call=None, tool_calls=None)

De volledige code

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    # Get the Novita AI API Key from: https://novita.ai/settings/key-management.
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek_v3"

# Example function to simulate fetching weather data.
def get_weather(location):
    """Retrieves the current weather for a given location."""
    print("Calling get_weather function with location: ", location)
    # In a real application, you would call an external weather API here.
    # This is a simplified example returning hardcoded data.
    return json.dumps({"location": location, "temperature": "60 degrees Fahrenheit"})

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get weather of an location, the user shoud supply a location first",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA",
                    }
                },
                "required": ["location"]
            },
        }
    },
]

messages = [
    {
        "role": "user",
        "content": "What is the weather in San Francisco?"
    }
]

# Let's send the request and print the response.
response = client.chat.completions.create(
    model=model,
    messages=messages,
    tools=tools,
)

# Please check if the response contains tool calls if in production.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())

# Ensure tool_call is defined from the previous step
if tool_call:
    # Extend conversation history with the assistant's tool call message
    messages.append(response.choices[0].message)

    function_name = tool_call.function.name
    if function_name == "get_weather":
        function_args = json.loads(tool_call.function.arguments)
        # Execute the function and get the response
        function_response = get_weather(
            location=function_args.get("location"))
        # Append the function response to the messages
        messages.append(
            {
                "tool_call_id": tool_call.id,
                "role": "tool",
                "content": function_response,
            }
        )

    # Get the final response from the model, now with the function result
    answer_response = client.chat.completions.create(
        model=model,
        messages=messages,
        # Note: Do not include tools parameter here
    )
    print(answer_response.choices[0].message)

Get started

Model APIs

Agent Sandbox

GPUs

Observability

Resources

Ondersteunde modellen

Snelstartgids

1. Initialiseer de client

2. Definieer de functie die moet worden aangeroepen

3. Stel het API-verzoek samen met tools en gebruikersbericht

4. Reageer met het resultaat van de functieaanroep en verkrijg het definitieve antwoord

De volledige code

​Ondersteunde modellen

​Snelstartgids

​1. Initialiseer de client

​2. Definieer de functie die moet worden aangeroepen

​3. Stel het API-verzoek samen met tools en gebruikersbericht

​4. Reageer met het resultaat van de functieaanroep en verkrijg het definitieve antwoord

​De volledige code

Ondersteunde modellen

Snelstartgids

1. Initialiseer de client

2. Definieer de functie die moet worden aangeroepen

3. Stel het API-verzoek samen met tools en gebruikersbericht

4. Reageer met het resultaat van de functieaanroep en verkrijg het definitieve antwoord

De volledige code