于是这个零值特征继续占着计算资源、消费者们的注意力(每个新人都会困惑"这个特征为什么是零"),直到某天日志恢复供货、特征突然有值了——模型预期外的输入变化导致线上效果暴跌。
这种做法在 Demo 阶段看似可行,但一旦进入生产环境,问题便接踵而至:不同模型供应商的 API 格式各异(OpenAI、Azure OpenAI、Anthropic、国内模型),切换供应商需要重写调用逻辑;流式响应(SSE)的处理缺乏统一抽象;Prompt 模板散落在业务代码中,难以版本管理和 A/B 测试;调用失败时的重试与降级策略缺失,导致级联故障。
h: void test(); struct Stu { int id; char name[20]; }; 这样写,test.
如果业务知识只存在于几个人脑子里,如果文档散在不同系统里,如果口径互相冲突,如果一篇文档过了三个月就没人知道还能不能信,那么再强的 Agent 接进来,也只能在不完整信息里猜。