模型调用示例

原则上,接口请求规范完全和OpenAI一样,应当直接以OpenAI的接口文档为准:https://platform.openai.com/docs/api-reference/introduction

如果是国内模型,只需要将模型参数 model 修改为国内的模型名字即可!

(因为OpenAI接口也时常更新,建议直接以上面OpenAI的官方文档为准,我们仅列出关键补充说明和示例)

下面示例怎么调用讯飞的星火大模型:

模型名字这里有列表:https://docs.zhizengzeng.com/ru-men/mo-xing-shuo-ming

import os
from openai import OpenAI
import requests
import time
import json
import time

API_SECRET_KEY = "xxxxxx";
BASE_URL = "https://flag.smarttrot.com/v1/"

# chat with other model
def chat_completions4(query):
    client = OpenAI(api_key=API_SECRET_KEY, base_url=BASE_URL)
    resp = client.chat.completions.create(
        model="SparkDesk",
        messages=[
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": query}
        ]
    )
    print(resp)
    print(resp.choices[0].message.content)
    
if __name__ == '__main__':
    chat_completions4("你是哪个公司开发的什么模型?");

正常就会返回:

ChatCompletion(id='', choices=[Choice(finish_reason='stop', index=0, message=ChatCompletionMessage(content='我是由科大讯飞开发的讯飞星火认知大模型,我的设计和构建都是由科大讯飞的团队进行的,并且不断进行更新和改进,以让我能够为用户提供更好的服务。', role='assistant', function_call=None, tool_calls=None))], created=1704960724, model=None, object='chat.completion', system_fingerprint=None, usage=CompletionUsage(completion_tokens=42, prompt_tokens=31, total_tokens=73), code=0, msg='ok')
我是由科大讯飞开发的讯飞星火认知大模型,我的设计和构建都是由科大讯飞的团队进行的,并且不断进行更新和改进,以让我能够为用户提供更好的服务。

最后更新于