跳转到内容

AIGoCode Chat Completions 流式响应怎么读:delta、[DONE] 和 usage 分开核对

AIGoCode发布于 更新于

AIGoCode Chat Completions 流式响应从事件流汇聚成完整回复

先分清普通响应和流式响应

AIGoCode 的 OpenAI Chat Completions 接口支持两种读取方式。普通请求从 choices[0].message.content 取文本;请求体把 stream 设为 true 后,服务端改为 SSE 事件流,新增内容位于每个事件的 choices[].delta。如果程序仍按普通 JSON 只读取一次 message.content,就会出现“请求成功但页面没有文字”的错觉。

接口地址是 https://api.aigocode.dev/v1/chat/completions,鉴权仍使用 Authorization: Bearer YOUR_API_KEY。model 必须填写当前分组可用的完整模型 ID,messages 按角色和内容顺序传入。Key、模型和地址属于同一条配置链,排查时一次只改一个变量。

stream=true 后,文本在 delta 里

开启流式后,不要把每个事件当作一条完整回复。官方文档说明,程序应从每个事件的 choices[].delta 读取新增内容,再按收到的顺序拼接。某个事件可能只带一小段文字,也可能携带角色或其他字段;应用应按字段是否存在来处理,而不是假定每个事件都有完整 content。

排查时可以先记录三件事:事件是否持续到达、choices 是否存在、delta 中是否出现新增内容。这样能区分网络没有收到事件、解析路径写错,还是模型确实返回了空片段。

用 [DONE] 判断流结束

AIGoCode 文档把 data: [DONE] 作为流结束标记。收到它后再关闭读取循环、合并最终文本并更新界面状态。不要把连接断开直接当成“正常完成”,也不要因为某个空片段就提前结束;连接中断和 [DONE] 是不同的状态。

如果要保留调试记录,建议保存脱敏后的事件顺序、最后一个正常事件和是否收到 [DONE]。不要把 API Key、完整 Authorization 头或未经处理的用户代码写入日志。

usage 不等于正文片段

普通响应和流式事件都可能携带用量信息。文档列出 usage 下常见的 prompt_tokens、completion_tokens 和 total_tokens,消费明细还可以在「使用统计」中核对。用量字段用于统计和对账,不应当拼接进展示文本,也不能用 token 数量推断某个模型的效果。

不要把 Responses 的解析器直接复用

AIGoCode 同时提供 Responses API,但官方文档明确说明 Responses 使用另一套事件结构。Chat Completions 解析器应围绕 choices、message 和 delta 编写;切换到 Responses 时,先按对应文档重画事件字段映射,不要只替换 URL 或模型名。

这也是迁移时最容易漏掉的一步:协议都属于 OpenAI 兼容范围,不代表返回事件可以共用。先固定一种协议跑通最小请求,再把流式显示、结束状态和用量记录逐项迁移。

四项快速检查

  1. stream 是否真的设为 true,并且客户端按 SSE 读取,而不是等待一个完整 JSON。
  2. 文本是否从 choices[].delta 增量拼接,普通响应是否仍从 choices[0].message.content 读取。
  3. 是否收到 data: [DONE],并把它与网络断开、HTTP 错误分开记录。
  4. usage 是否单独进入统计路径,Responses 是否使用了自己的事件解析器。

需要先确认模型 ID 和分组可用范围时,可查看 AIGoCode 模型名称列表;第一次请求的协议示例见 AIGoCode 文档。

小结

Chat Completions 流式处理可以拆成三条线:从 delta 汇聚正文,用 [DONE] 判断正常结束,把 usage 留给统计。协议切换到 Responses 时重新核对事件结构,才能避免“请求通了但解析器不出字”的问题。