学会把需求向生成式 AI 助手说清楚,认出流畅的答案会以哪几种方式出错,用第二条路径核对要紧的说法,并知道哪些内容不该发进聊天窗口。不需要技术背景。
看清自信满满的 AI 答案会在哪几处出错,再学一套简短的做法,在你依赖它之前逐项检查。
由 AI 辅助撰写和审阅,并经过自动规则检查。尚未经领域专家审定,也不是认证课程。
学习成果
预览
可在这里阅读完整课程。阅读不会创建私人副本、保存进度或记录学习证据。
预览材料
生成式 AI 助手,就是你在聊天窗口里打字提问、它回你一段文字的那类工具。它写的是最可能接在你这句话后面的回答。它读过海量文字,学会了“像样”长什么样;写回答时一小块一小块地往下接,每一小块都要和前面的衔接得上。这门课只需要知道这么多,而由此得出的一点比其他任何事都重要:助手是被训练成“听上去对”的,而听上去对和真的对,是两回事。
一个答案靠三样东西写成。第一是训练数据里的规律,训练数据有截止日期,之后发生的变化它都看不到。第二是你们的对话:你发的消息、你贴进去的内容,以及前面几轮。第三是工具递给它的东西,比如联网搜索或计算器,前提是这个助手有这类工具,而且已经开启。没有工具,它什么也不会去查。你的文件、你单位的规定、你正开着的网页,只要你没放进聊天,也没有接入,它都看不到。接入的方式有:上传的文件、能读取你浏览器页面或文件的功能,或者能记住以前聊天内容的功能。如果答案里看不到搜索的迹象,也没有链接,或者你拿不准,就当它没有用工具。即使用了搜索,也要打开那个页面看一看:助手可能把页面总结错。
这三样里有你的问题需要的内容时,最可能的文字往往就是真的文字,因为它学到的文字里,真话本来就多。没有的时候,助手照样会写出点什么,而且同样行文流畅。这就是编造,也有人叫它“幻觉”:内容写出来了,背后却没有任何东西撑着。精确的数字、笃定的语气、条款编号、整齐的清单,都只是流畅文字的特征,不能说明内容被核实过。就连它表达把握大小的措辞,也只是更多的文字,并不可靠地跟着内容的真假走。
由此还有三点。同一个问题问两遍,措辞会不同,内容有时也会不同,因为每一小块的选择里带有一点随机。答错了的助手,常常会把错的答案解释得头头是道,因为解释得好,恰恰是它最擅长的事。另外,助手经过调校,倾向于给出人们评价高的回答,这在一定程度上解释了你在第 3 课会遇到的一种倾向:顺着你说。
预览材料
第 1 步:问清每个答案靠什么。答案 A 靠的是许多地方都有的建议,林悦读一遍,想想对自己的团队行不行,就能自己判断。答案 B 只能靠港湾厅自己公布的开放时间,而助手没有办法看到。
第 2 步:看看有什么能让 B 变得可核对。答案 B 含有两个说法,也就是可能对也可能错、林悦能去核对的陈述:8:00 开放,以及厨房 9:00 起可用。场地的网站、一通电话,或者林悦的预订确认单,里面都有真实的时间。答案没有引用其中任何一个,但精确的时间和厨房那一条,读起来就像用过其中之一。
第 3 步:按差别行动。林悦把 A 当作可以自己判断的起点,把 B 当作要先核对的说法,核对完才通知大家 8:00 到。如果助手回答的是“我看不到港湾厅的开放时间,请向场地确认”,它就做对了。如果林悦逼一句“你就给个最可能的猜测”,她得到的是同样口吻的猜测,而逼问并不会改变它是不是真的。
结论:差别出在问题上,不在文笔上。两个答案读起来一样,只有一个站在助手够得着的地基上。
用第二条路径核对一个说法,把敏感内容挡在聊天之外,知道什么时候该先找专业人士,再把这些做法整理成一套流程。