冰橙API提供与OPENAI官方的API兼容的接口方式,方便国内开发者进行与OPENAI的CHATGPT的接口对接服务此方法可强制规定返回内容必须符合json类型,这样可更有效的生成符合更为预期的数据结果,来实现与现有系统软件的有效结合
启用限定Json格式的回复,必须注意两点,一个是提交的Messages里必须包含json示例,以及必须设定max_tokens。
若不设定max_tokens,则模型可能会生成无休止的空格流,并且请求可能会持续运行,直到达到令牌限制。
JSON 模式不保证输出与任何特定架构匹配,只保证它是有效的并且解析没有错误。
当前只有新版模型支持此模式:gpt-4o、gpt-4-turbo、gpt-3.5-turbo
如果模型返回的消息中的 JSON 可能是部分的(即截断),这表示超出了生成次数或会话超出了令牌限制。若要防止这种情况,请在分析响应之前进行检查。finish_reasonlength、max_tokens、finish_reason 这三项值是否对应匹配完整度
token获取方式:#
访问公众号《冰橙云》进入菜单冰橙AI助手后,访问右上角 / API密钥 可查看 token