← 返回文章列表
所属专题:AI 外骨骼

AI 对话流式响应选型:为什么是 SSE 而不是 WebSocket?

by李奕锦年份:2026字数:800阅读时长:2 分钟

技术选型不看热度看场景——AI 文本生成是单向、低频、文本级、一次性的场景,SSE 以最低的架构成本对齐了这个业务本质。

TL;DR · 核心结论

  • 1单向推流用 SSE,双向高频用 WebSocket:AI 文本回答是单向、低频、一次性的场景,SSE 的生命周期与“一次提问 → 一次流式回答 → 结束”逐一对齐。
  • 2SSE 是标准 HTTP:状态码、网关鉴权、CDN 都能直接复用,不必为长连接重写基础设施。
  • 3原生 EventSource 只支持 GET,改用 fetch-event-source 即可发送 POST body 与自定义 Header,再用 AbortController 实现“停止生成”。
SSE|单向推流HTTP|标准协议fetch-event-source|POST 与自定义 Header0|重连状态机1|abort() 停止
选型一句话

做 AI 对话常被问:为什么不用 WebSocket?长连接看起来更强。真实项目里的结论相反——AI 文本流式输出用 SSE 更合适。选型逻辑只有一句:单向推流用 SSE,双向高频用 WebSocket。语音同传这类需要双向传音频的场景,我们仍然使用 WebSocket。

AI 文本回答是“我发一句、它吐一段”,属于单向、低频、文本级的一次性场景,SSE 恰好匹配它。下面四点是我们感受最深的。

一、SSE 本质是一条不立即断开的 HTTP 响应

WebSocket 完成握手升级后就脱离了传统 HTTP,出错时前端只能收到一个数字状态码,还要额外写逻辑判断原因。

SSE 则沿用标准 HTTP:401、500 等状态码原样可用;现有的网关、鉴权、签名、CDN 无需重写,直接复用。它的响应类型是 text/event-stream,服务端把每条消息写成若干行 data:,再以一个空行分隔,客户端逐条解析即可。因为它跑在普通 HTTP/1.1 或 HTTP/2 之上,不额外占用端口、也不需要协议升级,代理与网关都按常规响应处理,基础设施成本因此最低。

data: {"delta":"你"}

data: {"delta":"好"}

data: [DONE]

二、用 fetch-event-source 绕开原生 GET 限制

原生 EventSource 只支持 GET,不能自定义请求头,断线后还会自动重连——这两点对 AI 对话都没有用。我们改用基于 fetch 封装的 @microsoft/fetch-event-source,既保留服务端持续推送的语义,又能像普通 fetch 一样发送 POST body 与自定义 Header,重连时机也交回业务自己控制。

import { fetchEventSource } from '@microsoft/fetch-event-source'

await fetchEventSource('/api/chat', {
  method: 'POST',
  headers: {
    'Content-Type': 'application/json',
    Authorization: `Bearer ${token}`,
  },
  body: JSON.stringify({ prompt }),
  onmessage(ev) {
    // 逐段追加文本,驱动打字机
  },
})

三、一次提问就是一个独立请求

WebSocket 是长连接,需要维护心跳、断线重连与防重复发送。而 AI 对话的流程是固定的:一次提问、一次流式回答、结束。SSE 的生命周期与它完全对齐。

我们甚至显式关闭了客户端的自动重连。断线后若重发同一句话,服务端可能生成新的消息 ID,导致前端打字机错位。请求结束连接即断,语义更干净。

四、停止生成只需一行

用户随时可能点击“停止生成”。用 SSE,前端直接调用 controller.abort(),标准 fetch 原语在传输层就能中断请求。即使服务端没有主动关流,前端收到结束标记后再 abort() 一次兜底即可,不需要像 WebSocket 那样协商 Close Code。

const controller = new AbortController()

stopBtn.addEventListener('click', () => controller.abort())

总结

AI 文本生成是单向、低频、文本级、一次性的场景。SSE 架构成本最低、代码最少、Bug 也最少。把长连接留给真正需要的场景。

本文属于 AI 实用主义流派 的第 51 篇肉身实战。

阅读时长:2 分钟


文档信息

版权声明:自由转载-非商用-非衍生-保持署名(CC BY-NC-ND 3.0)

原文链接:https://yijinlee.com/articles/article-69

作者:李奕锦

商业用途或修改衍生请联系授权。


李奕锦
李奕锦

全栈工程师,业余马拉松选手。

TL;DR

  • 单向推流用 SSE,双向高频用 WebSocket:AI 文本回答是单向、低频、一次性的场景,SSE 的生命周期与“一次提问 → 一次流式回答 → 结束”逐一对齐。
  • SSE 是标准 HTTP:状态码、网关鉴权、CDN 都能直接复用,不必为长连接重写基础设施。
  • 原生 EventSource 只支持 GET,改用 fetch-event-source 即可发送 POST body 与自定义 Header,再用 AbortController 实现“停止生成”。
Tags:SSEWebSocketServer-Sent EventsEventSourcefetch-event-sourceAbortController流式输出AI Coding

参考文章:相关链接

权威引文 · 官方文档 · 站内深度文

  1. SSE 协议与 text/event-stream 事件流格式的官方说明。

  2. 官方文档MDN · EventSource

    原生 EventSource 仅支持 GET 且不能自定义 Header 的官方依据。

  3. 基于 fetch 的 SSE 客户端,支持 POST body、自定义 Header 与 AbortController 中断。

  4. 传输层中断请求的标准原语,“停止生成”一行 controller.abort() 的依据。

  5. 同属 SSE 流式输出的完整链路复盘,含 AbortController 三层协作与缓冲策略。

该专题下的阅读路径

AI Coding架构排障

常见问题 FAQ

Q1. 为什么 AI 对话选 SSE 而不是 WebSocket?
AI 文本回答是单向推流、低频、一次性场景,SSE 本质是一条不立即断开的 HTTP 响应,生命周期与“一次提问 → 一次流式回答 → 结束”天然对齐;WebSocket 是双向高频长连接,需要自维护心跳与重连,架构成本更高。
Q2. 原生 EventSource 只能 GET,怎么加 Header 和 POST body?
用基于 fetch 封装的客户端(如 @microsoft/fetch-event-source),既保留 SSE 服务器持续推数据的语义,又能像普通 fetch 一样传 POST body 和自定义加密 Header。
Q3. 为什么反而要关闭断线重连?
AI 对话一次一问,断线重连若重复发送同一句话,服务端可能生成新的消息 ID,导致前端打字机错位。SSE 请求结束连接即断,业务语义更干净。
Q4. 怎么实现“停止生成”?
前端直接调用 controller.abort(),标准 fetch 原语在传输层即可掐断请求;服务端未主动关流时,前端收到结束标记后自己 abort() 兜底。

发表评论

分享你的想法和反馈

支持 Markdown 格式

0/5000