DeepSeek模型调用-快捷版 400 role参数错误,不能以assistant开头 问题原因:模型setting首次配置错误,更改配置后,因为本次对话包含历史错误信息,导致仍然会报错。 解决方案:开启一个新的对话即可。 API statuscode429:DEEPSEEKMODELCONCURRENCYLIMIT ruby 报错信息为:[openaiapicompatible]Error:APIrequestfailedwithstatuscode429:{"code":700007,"detail":"Deepseek模型并发已达上限","message":"DEEPSEEKMODELCONCURRENCYLIMIT","error":{"code":"700007","message":"Deepseek模型并发已达上限","type":"DEEPSEEKMODELCONCURRENCYLIMIT"}} 问题原因:大模型并发是大模型的并发能力,和用户、tokens是否用完都无关,只和机器负载能力有关。目前单个模型有固定的并发度,这是所有ds模型共享的并发度,只能支持固定个请求同时访问。 解决方案:等一段时间再调用,或增加重试机制。 API 直连调用耗时长 问题原因:大模型API同步耗时长是因为其推理过程复杂,需要逐个生成token并拼接结果,且在处理长文本或复杂问题时,等待完整结果返回的时间过长。而流式API可以在推理过程中逐步返回结果,用户无需等待全部结果生成,从而提升交互效率。 解决方案:改为流式调用。