在使用openai微调模型时，开发者常遇到“the model `xxxxx` does not exist”错误。这通常是由于使用了错误的api端点或请求格式。本文将详细阐述不同基础模型（gpt-3与gpt-3.5 turbo）微调后对应的正确api端点（completions api vs. chat completions api）及请求参数（`prompt` vs. `messages`），并提供多种语言的示例代码，帮助开发者有效解决此类问题。
理解微调模型与API端点的匹配
当您在OpenAI平台对模型进行微调后，虽然通过API列表可以确认该模型确实存在，但在实际调用时仍可能遇到“The model xxxxx does not exist”的错误。这并非模型本身不存在，而是您用于调用该模型的API端点或请求结构不正确，未能与您微调模型的基础类型相匹配。
OpenAI API针对不同类型的模型提供了不同的端点和请求参数：
Completions API (/v1/completions): 主要用于访问较早的GPT-3系列模型（如text-davinci-003、babbage-002、davinci-002等）及其微调版本。这些模型通常接受一个简单的字符串作为prompt参数。Chat Completions API (/v1/chat/completions): 专为GPT-3.5 Turbo及GPT-4等对话模型设计。这些模型通过一个messages数组来处理对话历史，每个消息包含role和content。
核心问题：API端点与模型类型的不匹配
最初，OpenAI的微调功能主要针对GPT-3基础模型（如babbage-002和davinci-002）。这些微调模型必须通过Completions API (/v1/completions) 进行调用，并使用prompt参数。如果尝试使用Chat Completions API (/v1/chat/completions) 和messages参数来调用这些GPT-3微调模型，就会出现“模型不存在”的错误。
重要更新（2023年8月22日）：OpenAI已推出GPT-3.5 Turbo的微调功能。这意味着，如果您的微调模型是基于gpt-3.5-turbo训练的，那么它现在可以通过Chat Completions API (/v1/chat/completions) 进行调用，并使用messages参数。
解决方案：根据基础模型选择正确的API端点
解决此问题的关键在于识别您的微调模型所基于的基础模型类型，并据此选择正确的API端点和请求结构。
对于基于GPT-3基础模型（如babbage-002, davinci-002）的微调模型：
API端点： https://api.openai.com/v1/completions请求参数： 使用prompt字段传递您的输入文本。示例：
{ "model": "ft-your-gpt3-model-name", "prompt": "您的输入文本"}
对于基于GPT-3.5 Turbo基础模型的微调模型：
API端点： https://api.openai.com/v1/chat/completions请求参数： 使用messages字段传递对话历史数组。示例：
{ "model": "ft-your-gpt35-turbo-model-name", "messages": [ {"role": "system", "content": "您是一个有帮助的助手。"}, {"role": "user", "content": "您的输入文本"} ]}
您可以通过查询微调作业的详细信息来确定您的fine_tuned_model是基于哪种基础模型。当微调作业成功后，fine_tuned_model字段会显示模型的名称，其前缀或命名约定通常会暗示其基础模型。
示例代码
以下是针对不同场景和编程语言的调用示例。
原始问题中的Node.js Axios调用修正（假设为GPT-3微调模型）
如果您的微调模型是在2023年8月GPT-3.5 Turbo微调功能发布之前训练的，或者您确定它是基于GPT-3基础模型，则需要将chat/completions端点更改为completions，并将messages参数更改为prompt。
const API_KEY = "/"; // 替换为您的OpenAI API Keyconst ORG_ID = "/"; // 替换为您的OpenAI Organization IDconst headers = { "Content-Type": "application/json", Authorization: "Bearer " + API_KEY, "OpenAI-Organization": ORG_ID,};// 假设 ft-modelname 是基于 GPT-3 的微调模型const res = await axios.post( "https://api.openai.com/v1/completions", // 更改为 completions 端点 { model: "ft-modelname", prompt: "您的输入消息。", // 更改为 prompt 参数 max_tokens: 150 // 可选：设置生成文本的最大长度 }, { headers });console.log(res.data.choices[0].text); // Completions API 的响应结构不同
使用OpenAI官方库的通用示例
Python
import osimport openaiopenai.api_key = os.getenv("OPENAI_API_KEY")# 对于基于 GPT-3 的微调模型# 例如: ft-your-babbage-002-modelresponse_gpt3 = openai.Completion.create( model="ft-your-gpt3-model-name", prompt="这是您的输入文本。", max_tokens=150)print(response_gpt3.choices[0].text)# 对于基于 GPT-3.5 Turbo 的微调模型# 例如: ft-gpt-3.5-turbo-your-model-idresponse_gpt35_turbo = openai.ChatCompletion.create( model="ft-your-gpt35-turbo-model-name", messages=[ {"role": "system", "content": "你是一个乐于助人的助手。"}, {"role": "user", "content": "这是您的输入文本。"} ], max_tokens=150)print(response_gpt35_turbo.choices[0].message.content)
Node.js (使用 openai 库)
const { Configuration, OpenAIApi } = require("openai");const configuration = new Configuration({ apiKey: process.env.OPENAI_API_KEY,});const openai = new OpenAIApi(configuration);// 对于基于 GPT-3 的微调模型// 例如: ft-your-babbage-002-modelasync function callGpt3FineTune() { const response = await openai.createCompletion({ model: "ft-your-gpt3-model-name", prompt: "这是您的输入文本。", max_tokens: 150 }); console.log(response.data.choices[0].text);}// 对于基于 GPT-3.5 Turbo 的微调模型// 例如: ft-gpt-3.5-turbo-your-model-idasync function callGpt35TurboFineTune() { const response = await openai.createChatCompletion({ model: "ft-your-gpt35-turbo-model-name", messages: [ { role: "system", content: "你是一个乐于助人的助手。" }, { role: "user", content: "这是您的输入文本。" } ], max_tokens: 150 }); console.log(response.data.choices[0].message.content);}callGpt3FineTune();callGpt35TurboFineTune();
cURL
# 对于基于 GPT-3 的微调模型curl https://api.openai.com/v1/completions -H "Authorization: Bearer $OPENAI_API_KEY" -H "Content-Type: application/json" -d '{ "model": "ft-your-gpt3-model-name", "prompt": "这是您的输入文本。", "max_tokens": 150 }'# 对于基于 GPT-3.5 Turbo 的微调模型curl https://api.openai.com/v1/chat/completions -H "Authorization: Bearer $OPENAI_API_KEY" -H "Content-Type: application/json" -d '{ "model": "ft-your-gpt35-turbo-model-name", "messages": [ {"role": "system", "content": "你是一个乐于助人的助手。"}, {"role": "user", "content": "这是您的输入文本。"} ], "max_tokens": 150 }'
OpenAI CLI
# 对于基于 GPT-3 的微调模型openai api completions.create -m -p "这是您的输入文本。" --max-tokens 150# 对于基于 GPT-3.5 Turbo 的微调模型# 注意：CLI 目前对 chat completions 的微调模型调用可能需要特定版本或格式，# 通常直接使用 API 客户端更灵活。以下是一个概念性示例，实际可能需要调整。# 更好的做法是使用 Python/Node.js 客户端或 cURL。# openai api chat.completions.create -m # -M '[{"role": "system", "content": "你是一个乐于助人的助手。"}, {"role": "user", "content": "这是您的输入文本。"}]' # --max-tokens 150
注意事项与总结
确认微调模型的基础类型： 在使用微调模型之前，务必确认它是基于GPT-3系列（如babbage-002）还是GPT-3.5 Turbo。这决定了您应该使用哪个API端点和请求参数。API端点和参数匹配：GPT-3微调模型 → Completions API (/v1/completions) + prompt 参数。GPT-3.5 Turbo微调模型 → Chat Completions API (/v1/chat/completions) + messages 参数。响应结构差异： Completions API和Chat Completions API的响应结构不同。Completions API的响应通常在choices[0].text中包含生成内容，而Chat Completions API的响应在choices[0].message.content中。模型名称准确性： 确保您在API请求中使用的微调模型名称与OpenAI平台返回的fine_tuned_model名称完全一致。
通过遵循这些指导原则，您可以避免“模型不存在”的常见错误，并成功地将您的OpenAI微调模型集成到应用程序中。
以上就是OpenAI微调模型API调用中的“模型不存在”错误解析与解决方案的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/1532487.html
微信扫一扫 
支付宝扫一扫 
