为什么 LLM 需要一个「外壳」
单次对话式的 LLM 本质上是一个「无状态的文本映射函数」:输入一段 prompt,输出一段 token 序列。它没有外部记忆、不能主动获取实时信息、更不会在多次调用之间自我修正。把 LLM 直接暴露给生产环境,会立刻撞上三堵墙:
- 知识截断:模型权重内的知识停留在训练截止时间,无法回答「今天股价多少」「当前告警是什么」这类需要实时数据的问题。
- 幻觉与不可靠计算:纯靠内隐知识做乘法、查单号、调接口参数,正确率随任务复杂度指数下降。
- 不可控的长链路:复杂任务往往需要拆解、重试、回溯,单次生成无法承载。
2025/6/21大约 11 分钟