AI Agent 工程师课程
小白科普版

第 3 课 · AI 现在做不到什么?

五件它真的做不好的事,知道边界比知道能力更重要

上两课讲了它是什么、强在哪。这一课反过来讲:它做不到什么。

这节课可能是全篇最有用的一节。用不好 AI 的人,八成不是不知道它能干什么,而是不知道它不能干什么,然后在错误的地方指望它,最后得出「AI 也就那样」的结论。

一、它不知道你没告诉它的事

它不知道你们公司的内部规定、上个月的销售数据、你老板的脾气、这个客户上次为什么生气。

它的知识来自公开的训练资料,你们内部的东西它一概不知。所以当你问「我们这个季度该怎么调整策略」,它只能给你一套放之四海而皆准的空话。

怎么办:把背景喂给它。你给的信息越具体,它给的回答越不空。这是超级普通版里所有提示词模板都要求你填背景的原因。

二、它不知道最近发生了什么

模型的训练资料有一个截止时间,之后的事它不知道。有些工具接了联网搜索能部分弥补,但没接的就是真不知道。

更麻烦的是:它常常不会告诉你它不知道,而是编一个听起来合理的答案。

三、它算不准,也数不清

除了上一课说的复杂计算,还有几个反直觉的弱项:

  • 数数:让它数一段话里有几个「的」,它经常数错
  • 精确长度:让它写「正好 200 字」,出来的很可能是 170 或 240
  • 排序和比较:数据一多,它容易搞混

这些都源于同一个原因:它在按语言规律接话,不是在执行精确操作。

四、它没有真正的判断力,只有像判断的话

你问它「这两个方案哪个好」,它会给你一个答案,而且说得有理有据。但它不是在权衡你的真实处境,它是在生成一段「一个顾问会怎么回答」的文字。

遇到真正需要承担后果的决策,它给的东西只能当参考素材,不能当结论。

五、它记不住上次聊了什么

多数聊天工具里,你关掉窗口重开一个,它就完全不记得你了。哪怕在同一个对话里聊太久,前面的内容也可能被挤掉。

有些工具做了记忆功能,但那是产品额外加的,不是模型天生就有。

它做不到的五件事1不知道你没说的内部数据、你的处境2不知道最近的训练有截止时间3算不准数不清字数、个数、排序4没有真判断力只有像判断的话5记不住上次记忆是产品加的
把这五条贴在心里,比记住一百个提示词技巧更有用

一个实用的反推

把这五条倒过来看,就是它最擅长的场景

信息你都给全了、不依赖最新消息、不需要精确数字、后果你自己兜底、一次对话里能说完。

同时满足这五条的活,交给它基本不会翻车。差得越多,越要盯紧。

常见问题

本课自测

小结:不知道你没说的、不知道最近的、算不准数不清、没有真判断力、记不住上次。知道边界的人,才用得好 AI。

下一课第 4 课 · 怎么判断 AI 说的对不对?

On this page