
当您在使用%ignore_a_1%微调模型时遇到“the model `xxxxx` does not exist”错误,这通常是由于选择了错误的api端点。解决此问题的关键在于识别您的微调模型所基于的原始模型类型:若基于gpt-3.5 turbo,应使用chat completions api;若基于gpt-3(如`babbage-002`或`davinci-002`),则需使用completions api。本文将详细指导您如何根据模型类型选择正确的api端点,并提供相应的代码示例。
理解“模型不存在”错误及其根源
在使用OpenAI API时,如果尝试调用一个微调模型却收到”The model ft-modelname` does not exist”`的错误信息,即使您已通过API确认该模型确实存在,这通常不是模型本身的问题,而是您调用的API端点与微调模型类型不匹配。OpenAI的API设计区分了不同类型的模型及其对应的交互方式。
历史背景与API演进
最初,OpenAI的微调功能主要针对GPT-3系列的基础模型(如davinci-002、babbage-002)。这些微调模型只能通过Completions API (/v1/completions) 来调用,其请求体中包含一个prompt字符串。
然而,自2023年8月22日起,OpenAI正式开放了GPT-3.5 Turbo模型的微调功能。这意味着现在您可以对gpt-3.5-turbo进行微调,而这些基于gpt-3.5-turbo的微调模型,则需要通过Chat Completions API (/v1/chat/completions) 来调用,其请求体中包含一个messages数组,遵循聊天对话的结构。未来,GPT-4的微调功能也将遵循类似的逻辑。
因此,解决“模型不存在”错误的核心在于:根据您的微调模型所基于的原始模型类型,选择正确的API端点。
如何确定正确的API端点
当您完成微调任务并成功创建了一个微调模型后,OpenAI会在微调任务的详情中提供fine_tuned_model字段,其中包含模型名称。要确定应使用哪个API端点,您需要知道这个微调模型是基于哪个原始模型进行训练的。
如果您的微调模型是基于 gpt-3.5-turbo 训练的:
请使用 Chat Completions API (https://api.openai.com/v1/chat/completions)。请求体应包含一个 messages 数组。
如果您的微调模型是基于 babbage-002 或 davinci-002(或其他GPT-3系列模型)训练的:
请使用 Completions API (https://api.openai.com/v1/completions)。请求体应包含一个 prompt 字符串。
示例代码:根据模型类型调用微调模型
以下是根据不同微调模型类型调用API的示例。
场景一:调用基于GPT-3.5 Turbo的微调模型 (使用 Chat Completions API)
如果您的微调模型(例如 ft-your-gpt35-model)是基于 gpt-3.5-turbo 训练的,您应使用 chat/completions 端点。
const API_KEY = "YOUR_OPENAI_API_KEY";const ORG_ID = "YOUR_OPENAI_ORG_ID"; // 可选,如果您的API密钥关联到特定组织const headers = { "Content-Type": "application/json", Authorization: "Bearer " + API_KEY, "OpenAI-Organization": ORG_ID, // 如果有组织ID,请包含};const fineTunedChatModel = "ft-your-gpt35-model"; // 您的基于GPT-3.5 Turbo的微调模型名称const userMessage = "你好,请问你是谁?";try { const res = await axios.post( "https://api.openai.com/v1/chat/completions", { model: fineTunedChatModel, messages: [ { role: "system", content: "你的名字是小助手。", }, { role: "user", content: userMessage, }, ], }, { headers } ); console.log("Chat Completions API 响应:", res.data.choices[0].message.content);} catch (error) { console.error("Chat Completions API 调用失败:", error.response ? error.response.data : error.message);}
场景二:调用基于GPT-3(如babbage-002或davinci-002)的微调模型 (使用 Completions API)
如果您的微调模型(例如 ft-your-gpt3-model)是基于GPT-3系列模型训练的,您应使用 completions 端点。
const API_KEY = "YOUR_OPENAI_API_KEY";const ORG_ID = "YOUR_OPENAI_ORG_ID"; // 可选const headers = { "Content-Type": "application/json", Authorization: "Bearer " + API_KEY, "OpenAI-Organization": ORG_ID, // 如果有组织ID,请包含};const fineTunedCompletionModel = "ft-your-gpt3-model"; // 您的基于GPT-3的微调模型名称const promptText = "请说这是一个测试。";try { const res = await axios.post( "https://api.openai.com/v1/completions", { model: fineTunedCompletionModel, prompt: promptText, max_tokens: 50, // 根据需要设置 }, { headers } ); console.log("Completions API 响应:", res.data.choices[0].text);} catch (error) { console.error("Completions API 调用失败:", error.response ? error.response.data : error.message);}
其他语言和工具的通用 Completions API 调用示例
以下是针对Completions API(用于GPT-3系列微调模型)的通用调用方式。
Python
import osimport openaiopenai.api_key = os.getenv("OPENAI_API_KEY")fine_tuned_model_name = "ft-your-gpt3-model"your_prompt = "请说这是一个测试。"try: response = openai.Completion.create( model=fine_tuned_model_name, prompt=your_prompt ) print(response.choices[0].text)except openai.error.OpenAIError as e: print(f"API 调用失败: {e}")
NodeJS (使用官方 openai 库)
const { Configuration, OpenAIApi } = require("openai");const configuration = new Configuration({ apiKey: process.env.OPENAI_API_KEY,});const openai = new OpenAIApi(configuration);const fineTunedModelName = "ft-your-gpt3-model";const yourPrompt = "请说这是一个测试。";async function callCompletionAPI() { try { const response = await openai.createCompletion({ model: fineTunedModelName, prompt: yourPrompt, }); console.log(response.data.choices[0].text); } catch (error) { console.error("API 调用失败:", error.response ? error.response.data : error.message); }}callCompletionAPI();
cURL
curl https://api.openai.com/v1/completions -H "Authorization: Bearer $OPENAI_API_KEY" -H "Content-Type: application/json" -d '{ "prompt": "请说这是一个测试。", "model": "ft-your-gpt3-model", "max_tokens": 50 }'
OpenAI CLI
openai api completions.create -m -p "请说这是一个测试。"
注意事项与总结
确认微调模型的基础类型: 这是解决问题的关键。务必知道您的 ft-xxxxx 模型是基于 gpt-3.5-turbo 还是 babbage-002/davinci-002 等GPT-3模型训练的。API 端点匹配:基于 gpt-3.5-turbo 的微调模型 → https://api.openai.com/v1/chat/completions (使用 messages 参数)。基于 GPT-3 (如 babbage-002, davinci-002) 的微调模型 → https://api.openai.com/v1/completions (使用 prompt 参数)。API 密钥和组织ID: 确保您的 OPENAI_API_KEY 和 OpenAI-Organization (如果适用) 是正确且有效的。请求体结构: chat/completions 期望 messages 数组,而 completions 期望 prompt 字符串。即使模型名称正确,错误的请求体结构也会导致API报错。
通过仔细核对您的微调模型类型并选择对应的API端点和请求参数,您将能够成功调用您的微调模型,避免“模型不存在”的错误。
以上就是OpenAI微调模型调用错误:“模型不存在”的解决方案与API选择指南的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1532463.html
微信扫一扫
支付宝扫一扫