从演示,到生产
追求“哇”的效果→先问失败怎么办
演示关心上限,生产关心里下限。灰度发布、人工复核、可回滚、可审计, 这些在 Demo 里完全看不到的东西,成了上线前的硬门槛。
2022 — 2026 · 应用视角
三年前,AI 还是一个能写诗、会编故事的新奇玩具。今天,它已经在补全代码、审阅合同、 接听客服电话、整理会议纪要。这篇文章不谈参数和榜单,只回答一个问题: AI 应用这几年,到底改变了什么?
基于公开事件与行业观察整理 · 不含产品推广
01 概览
2022 年底,AI 的能力第一次被普通人直观地感知到:提问、回答、写文案、改代码。 但那时的产品更像一个聪明的聊天框——你说得越具体,它答得越好;一旦任务变长,它就开始掉链子。
接下来的几年,真正的进展发生在“接”上:接入企业文档、接入业务系统、接入工具、 接入审批流程。模型本身当然也在进步,但让 AI 从“能用”变成“敢用”的, 是这些看起来不那么性感的工程工作。
02 发展脉络
按时间顺序看,每一步都解决了一个当时最棘手的问题,同时也暴露出新的问题。
一项原本停留在论文和实验室里的技术,被包装成了一个谁都能用的对话框。 它的历史意义不在技术突破,而在于把“AI”从名词变成了动词——人们开始真的去用它做事。
当时的问题:回答流畅,但会自信地编造事实;上下文一长就忘。
插件、联网、知识库开始出现。企业很快发现一个朴素的道理:把公司自己的文档交给模型, 比让它“自由发挥”有用得多。检索增强(RAG)从论文走向产品,成为几乎所有企业 AI 应用的底座。
同年,国内多家公司陆续发布大模型产品,中文场景第一次有了可用的选择。
文字、图片、语音、视频被放进同一个模型里处理。截图提问、拍照识别、实时语音对话不再是演示功能, 而是新产品的默认能力。长上下文窗口也让“一次读完一整份资料”变得可行。
这一年,“能不能看懂”的问题基本解决,“看得准不准”成了新问题。
推理模型让 AI 在给出答案前先想一遍;智能体(Agent)开始能拆解任务、调用工具、分步执行、 失败重试。应用的重心从“生成一段内容”转向“完成一件事”。
随之而来的是新风险:能动手,也就意味着可能动错手。
决定一个 AI 应用成败的,越来越不是模型本身,而是上下文怎么组织、知识怎么检索、 工具怎么接入、结果怎么评估、出错怎么兜底、成本怎么控制。
同一个模型,换一套工程方案,效果可能差出一个数量级。
03 关键转变
判断一个 AI 应用好不好,标准在几年里被彻底改写。下面四组对比,是行业里最明显的四个转向。
追求“哇”的效果→先问失败怎么办
演示关心上限,生产关心里下限。灰度发布、人工复核、可回滚、可审计, 这些在 Demo 里完全看不到的东西,成了上线前的硬门槛。
给我一段文字→帮我把事办完
任务一旦变长,模型就要面对中间状态:做了一半失败了怎么办、工具返回了错的数据怎么办、 用户的意图中途变了怎么办。这些才是智能体真正的难点。
换个更强的模型→把场景磨细
接不接企业知识库、提示词怎么组织、输出格式稳不稳定、评估集建没建—— 同样的模型,工程做得好和做得差,效果差出一个量级。
它还能做什么→做错要赔多少
模型能不能做,和敢不敢让它做,是两件事。涉及钱、法律责任和人身安全的场景, 失败成本决定了 AI 只能在哪个环节出现。
04 应用版图
下面每一项都分成两半:左边是已经在真实业务里跑起来的,右边是仍然需要人来兜底的。
05 冷静看
模型仍然会一本正经地编造不存在的事实和引用。检索、引用溯源、交叉验证能缓解,但都不是根治。
推理单价在下降,可把 AI 接进业务流程的工程成本、评估成本和维护成本在上升。省下的钱常常又花在别处。
什么能传、什么必须留在内网、调用日志留多久,成了企业采购 AI 时的第一个问题,而不是最后一个。
AI 给出的建议造成损失,责任在用户、在模型厂商、还是在部署方,法律上仍在探索,多数场景只能靠合同约定。
被替代的往往是一个个任务,而不是整个职业。但任务重新组合的过程,会让一部分人先感受到压力。
06 结语
模型能力还会继续提升,这几乎没有悬念。但真正决定体验的, 是上下文、工具、评估、成本和兜底这些看起来不那么性感的部分。 对使用者来说,这意味着判断标准也该换了:少问“它有多聪明”,多问“它出错时会发生什么”。