AI Agent 工程师课程
小白科普版

第 2 课 · 大模型和普通程序,差在哪?

一个靠规则死板执行,一个靠理解生成,好产品把两者结合起来用

你有没有想过,为什么用计算器算数从来不会出错,但让 AI 帮你算个稍微复杂点的数学题,它有时候反而会算错?

这一课讲清楚:大模型和你平时用的普通程序,根本是两套不同的逻辑。

普通程序像自动售货机

投币、按数字、掉货,规则写死了,1 号键永远出可乐,不会有例外。

好处是极其精确、极其可靠。坏处是只能处理设计好的情况,你说「随便来点什么」,它是听不懂的。

大模型像请来吃饭的师傅

你不需要精确说「我要 300 克米饭配 200 克青菜」,你只需要说「我想吃点清淡的」,师傅就能理解你的意思,做出合理的菜。

它处理的是没有标准答案、需要理解意思的事情,而不是死板的规则。

普通程序自动售货机规则提前写死同样输入永远同样输出强:精确、可靠、便宜弱:只认设计好的情况算账、查库存、转账大模型请来吃饭的师傅理解意思再生成同样输入可能不同输出强:灵活、能处理模糊要求弱:不保证精确、会说错写文案、总结、聊天
两条路各有各的强项,选错了路,再好的工具也不好用

好产品是把两者搭配着用

这也是为什么大模型能写文案、能聊天、能总结长文,这些事都没有唯一正确答案,靠的是理解加生成,不是查表。

反过来,像计算 1234 乘以 5678 这种有唯一标准答案的事,普通程序(计算器)反而比大模型更快更准。因为大模型本质是在接话,不是在精确运算。虽然它现在也能算得八九不离十,但原理上就不是为这个设计的。

正因为这样,很多真正好用的 AI 产品,其实是把两者搭配着用

  • 需要理解意思、生成内容的部分交给大模型,比如「帮我把这段话润色一下」
  • 需要精确计算、查询数据库的部分交给普通程序,比如「查一下这个订单到底多少钱」

后面会学到的 AI Agent,很大一部分工作,其实就是负责判断这一步该交给大模型理解,还是该交给普通程序精确执行,然后把两者串起来。

常见问题

本课自测

小结:普通程序靠规则死板执行,胜在精确可靠;大模型靠理解加生成处理没有标准答案的事,胜在灵活。好产品往往是把两者结合起来用。

下一课第 3 课 · AI 现在做不到什么?

On this page