AI 能力是「后端能力」，不是「前端能力」

很多新手会想：大模型不就是个 HTTP 接口吗，直接在 App 里带着 Key 调不就行了？这在生产上是严重错误。朋友好学的架构是：App 只请求自己的后端，由后端（再经一个专门的 TTS 服务）去调用火山方舟大模型与语音服务，Key 永远不出服务器。这一课讲清楚为什么必须这样，以及流式对话、语音合成在工程上怎么跑通。

为什么密钥必须在服务端

服务端中继还带来三个工程红利：可以在一处切换模型供应商或模型版本而不用发新版 App；可以缓存、限流、记账、做失败降级；可以把供应商返回的格式适配成自己 App 的稳定接口，把「第三方会变」隔离在后端。

大模型流式输出：SSE 如何一路贯通

大模型生成是逐 token 的，如果等整段生成完再返回，用户要干等十几秒。正确体验是「边生成边显示」。链路是：App 到你后端建立一条 SSE 长连接，你后端再向上游大模型发起流式请求，上游每吐一点，后端就透传一点给 App（呼应 Stage15-m2 的 SSE、Stage15-m5 的 Nginx 关缓冲）。

TTS：从一段文字到一段声音的管线

语音合成 TTS（Text-to-Speech）不是「文字直接变声音」那么简单，它在内部是一条流水线，理解这条管线有助于你选型、调延迟、处理多音字和断句：

工程上，朋友好学把 TTS 做成独立服务（经 Nginx 的 /tts 路径分流），后端把要朗读的文本送去、拿回音频。降低延迟的常用手段：按句子切分、合成一句播一句（流式播放）；对固定话术（如「回答正确」）预生成并在客户端缓存；选择合适音色与采样率；长文本先做文本规范化避免读错。

配额保护、成本控制与内容安全

AI 能力按调用/token 计费，必须像管钱一样管：①每用户、每 IP、全局多层配额与限流；②服务端记录每次调用量用于计量和异常发现；③按场景选模型（简单任务用小模型、复杂任务才用大模型）、限制最大 token、用缓存；④内容安全：在服务端注入系统约束、对输入输出做关键词/模型审核、对 AI 生成内容做标识（这在国内还有合规要求，Stage14 从法规角度讲过，这里是工程落地）；⑤防止 Prompt 注入——不要把用户输入当成系统指令执行，涉及工具调用/数据操作时尤其要隔离。

本节小结

大模型/TTS 是后端能力：Key 放前端会被反编译盗刷、无法限流与审核、受跨域限制，必须服务端中继，且带来一处切换供应商、缓存记账、格式适配的红利。流式靠 SSE 贯通(App↔后端↔大模型)，上游 delta 即时透传不攒批，鉴权后耗配额、客户端断开要中止上游、异常发约定事件降级，并备非流式兜底、去抖、上下文截断、短期缓存。TTS 管线=文本规范化(数字日期符号)→分词多音字消歧韵律→声学模型(梅尔频谱)→声码器出波形→编码(MP3/AAC/PCM)，延迟优化靠按句流式合成播放、固定话术预生成缓存、选采样率音色。AI 要多层配额限流、计量、按场景选模型限token、内容审核与AIGC标识、防Prompt注入。接入第三方本质是管理不确定性。