[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fiO3NUjtEq-7nMRFB6zcwW5T8u5Iq8xhBSREP8jAwFFA":3,"$fqcIPQeNlmlt5r0KKZXdaqBjC3sZ-9UBtLrf3-OmmJEQ":51},[4],{"id":5,"type":6,"title":7,"slug":8,"summary":9,"body":10,"coverUrl":11,"productScreenshots":12,"productLinks":13,"authorName":14,"authorUrl":15,"authorSubject":16,"category":17,"tags":22,"sourceLabel":43,"sourceName":43,"sourceUrl":43,"status":44,"seoTitle":43,"seoDescription":43,"canonicalUrl":43,"isFeatured":45,"sno":46,"sortOrder":47,"publishedAt":48,"updatedAt":49,"createdAt":50},"d4facd11-ef4b-4f61-a556-b4defcdfe98d","article","语言模型中的全局工作区","global-workspace","Claude发展出了一小组内部神经模式，与它的所有其他内部处理相比，这些模式扮演着特殊的角色","当你读这句话的时候，你大脑中的神经回路正在调整你的姿势、控制你的呼吸，并把屏幕上的线条和曲线转化为可识别的文字。这些处理过程大部分对你而言是无意识的。但你大脑中发生的某些活动，你*确实*能够意识到——比如脑海中突然浮现的某个画面，或是你刻意制定的购物计划。神经科学家和哲学家有时把后一类大脑活动称为\"可被意识访问的\"（consciously accessible），以区别于所有在无意识中进行的其他处理。这类活动具有特殊属性：我们可以描述它、控制它、并用它进行有意的推理，与之相对的是所有在我们毫无察觉之下自动进行的过程。\n\n在一篇新论文中，我们提出的证据表明，在现代语言模型（如 Claude）中也出现了类似的区分。我们发现 Claude 发展出了一小组内部神经模式，与它的所有其他内部处理相比，这些模式扮演着特殊的角色。\n\n我们将这组模式称为 *J-space*（J 空间）——以我们发现它们所使用的技术命名，该技术涉及一个称为\"雅可比矩阵\"（Jacobian）的数学概念。每一个 J-space 模式都关联着一个特定的词。但当其中某个模式被激活时，并不意味着模型在*说*那个词——而仅仅意味着那个词在它的\"脑海\"中。如果你听说过语言模型有一个\"草稿本\"（scratchpad）或\"思维链\"（chain of thought）——它们在推理时写给自己看的文本——那么 J-space 是另一回事。它在模型的内部神经激活中静默运作，让模型能够思考某个概念而不必把它写下来。值得注意的是，J-space 并非由我们设计或编程，而是在 Claude 的训练过程中*自行涌现*的。\n\n![The J-space reveals internal thoughts that don't appear in the model's output.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F0ab926f491beb999ece405a03cc7684730156905-3824x2640.png)\n\n*图：J-space 揭示了那些不会出现在模型输出中的内部想法。*\n\n我们发现，与 Claude 的其余处理相比，J-space 具有许多独特的属性：\n\n- **Claude 能够\"报告\"这些表征。** 如果你问 Claude 它在想什么，它会告诉你 J-space 里有什么。非 J-space 的表征则较难被报告。\n- **它还能按要求调节这些表征。** 如果你让 Claude 思考某件事，或在脑中默默解决一个问题，它会在 J-space 中激活相应的模式。相比之下，它很难调节那些不在 J-space 中的模式。\n- **Claude 用 J-space 进行内部推理。** 如果你让 Claude 解决一个需要多步推理的问题，中间步骤会在 J-space 中亮起，即便它并没有把它们说出来。尽管这些 J-space 模式的强度小于其他表征，但它们在因果上中介了模型在此类任务中的表现。\n- **J-space 中的表征可以被灵活地用于许多任务**——例如，一旦\"France\"（法国）在 Claude 的 J-space 中亮起，模型就能回忆起它的首都、法定货币，或它所属的洲。\n- **然而，尽管作用重要，J-space 并不参与语言模型大部分的工作**——比如流利地说话、回忆简单的事实、使用正确的语法等。在实验中，当我们阻止 Claude 使用 J-space 时，它仍然能正常地交互，却失去了高阶认知能力。\n\n![Five functional properties of a global workspace, and stylized illustrations of experiments we use to test for them in language models.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F5c36c78099f955a53058878ebfcb41f13c45563c-1760x1358.png)\n\n*图：全局工作空间（global workspace）的五个功能属性，以及我们用来在语言模型中检验这些属性的实验的示意图。*\n\n我们的实验受到了神经科学中一个著名理论的启发，该理论旨在解释意识访问是如何运作的：[全局工作空间理论](https:\u002F\u002Fccrg.cs.memphis.edu\u002Fassets\u002Fpapers\u002F1988\u002FBaars-A%20Cognitive%20Theory%20of%20Consciousness.pdf)（[global workspace theory](https:\u002F\u002Fwww.unicog.org\u002Fpublications\u002FDehaeneNaccache_WorkspaceModel_Cognition2001.pdf)）。该理论认为，大脑是一组专家系统的集合，它们并行、无意识、且大体上彼此孤立地运作。当某条信息进入一个小型的共享通道——即\"工作空间\"——并被广播给其他能够看到并利用它的脑系统时，这条信息就变得可被意识访问。基于我们的发现，我们认为 J-space 在 Claude 中扮演着类似的\"工作空间\"角色。例如，我们发现证据表明 Claude 的 J-space 与其神经网络其余部分有着特别强的连接，使它能够履行这种广播角色。\n\n这些发现并不能告诉我们 Claude 是否像人类一样*有意识*，或它是否感受到任何东西；我们会在文章末尾回到这个问题。但无论其哲学意义如何，J-space 对我们来说都是一个实用工具，因为它让我们能看出 Claude 在想什么却没有说出来。例如，我们能够用它来捕捉 Claude 私下意识到自己正在被测试、故意编造虚假数据，或追求我们在训练中植入的隐藏目标。我们还开发了一种技术，可以影响 Claude 的 J-space 中什么会被激活，从而影响它的决策。\n\n更广泛地说，这些发现改变了我们对 Claude 心智运作方式的理解，揭示了一个特权性的心理工作空间——它可进行有意的推理，运作于一片更自动、更僵化的处理海洋之中。Claude 的内部并非一团混乱的数字，而是以某种让我们联想到自身心智的方式自我组织了起来。\n\n这篇文章是一篇更详尽[研究论文](http:\u002F\u002Ftransformer-circuits.pub\u002F2026\u002Fworkspace\u002Findex.html)的简短摘要，你可以在论文中找到更多实验细节。我们还发布了一个代码仓库，其中包含核心方法的[开源实现](https:\u002F\u002Fgithub.com\u002Fanthropics\u002Fjacobian-lens)，并与 Neuronpedia 合作，在开放权重模型上提供我们方法的[交互式演示](http:\u002F\u002Fneuronpedia.org\u002Fjlens)。为了就这项工作的更广泛影响提供多方视角，我们还邀请了神经科学、哲学和 LLM 可解释性领域的几位专家撰写评论，可[在此查看](https:\u002F\u002Fwww-cdn.anthropic.com\u002Ffiles\u002F4zrzovbb\u002Fwebsite\u002Fcc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf)。\n\n## 我们如何发现 J-space\n\n这项研究的起点受到人类\"可被意识访问的想法\"关键特征的启发：与人类*无*意识的处理不同，前者通常能够被诉诸语言。如果一个想法对你而言是可被意识访问的，当有人问起时你通常能描述它。我们便去寻找 Claude 中具有相同属性的表征：那些处于能够影响 Claude *可能*说出的内容之位置的表征——不一定是它此刻正在说的，而是如果有人问起，它*可能*会谈论的内容。我们的技术称为\"雅可比透镜\"（Jacobian lens），简称 J-lens。对于 Claude 词表中的每一个词，J-lens 会找到让 Claude 在未来某刻更可能说出该词的内部活动模式。\n\n当我们把透镜应用于 Claude 的内部活动时，会得到一份词表——即那一刻 *J-space* 的内容——我们可以直接阅读。Claude 通过一系列称为\"层\"（layers）的多个内部阶段来处理文本，通过在不同层上应用这项技术，我们可以观察这些静默的词在 J-space 中如何随模型逐步确定要说什么而演化。\n\nJ-space 中出现的内容远远超出 Claude 正在阅读或书写的文本。当 Claude 读到一段无人指出的带 bug 的代码时，它的 J-space 中包含\"ERROR\"（错误）。当它读到一段蛋白质序列的原始字母时，J-space 中包含该蛋白质的生物学功能。当它读到其实是试图操纵它的搜索结果（一种称为\"提示注入\"的攻击）时，J-space 中包含\"injection\"（注入）和\"fake\"（虚假）。当我们向 Claude 提出一个多步数学问题时，中间步骤会按正确顺序在 J-space 中弹出。所以，尽管 J-space 是通过寻找\"可被说出的表征\"而发现的，它却揭示了 Claude 的内部想法。在某种意义上，这类似于某些人\"用词语思考\"，而无需大声说出来。\n\n![J-lens readouts on six prompts, at various layers. In each case the lens surfaces an internal assessment or computation that appears nowhere in the text: the steps of a reasoning or math problem, the presence of a bug, recognition of an image, the function of a protein, and the suspicion that search results are fabricated.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002Fa89e0d8ad62f249f8b1f1be482f59c665ee83915-1760x1746.png)\n\n*图：在六个不同提示、不同层上的 J-lens 读值。每种情况下，透镜都揭示出文本中从未出现的内部评估或计算：推理或数学问题的步骤、bug 的存在、对图像的识别、蛋白质的功能，以及对搜索结果系伪造的怀疑。*\n\n## Claude 报告其 J-space 中的内容\n\n我们的第一组实验检验了 J-space 如何参与 Claude 的口头报告。在一个实验中，我们让 Claude 默默想出某个类别中的一项——比如一项运动——然后说出它。如果在 Claude *回答之前*读取 J-lens，我们能看到它选了什么：\"Soccer\"（足球）排在列表首位，果然，Claude 说了\"soccer\"。不过，单凭这一点只是相关性。J-space 可能是 Claude 答案的来源，也可能只是镜像了别处做出的决定，就像一块记录比赛却不影响比赛的记分牌。\n\n为了验证，我们直接进行了干预。我们进入 Claude 的神经网络，移除\"Soccer\"模式，并原地加入一个强度相同的\"Rugby\"（橄榄球）模式，其余一切保持不变。Claude 随后报告它所想的运动是橄榄球。如果 J-space 只是一块记分牌——对别处所做决定的被动记录——那么编辑它应毫无作用：Claude 仍会说\"soccer\"。但 Claude 的答案跟随了编辑，这告诉我们答案是真正从 J-space 中读取出来的。\n\n在另一个实验中，我们告诉 Claude 某个想法可能已被注入它的脑海，并让它报告它注意到了什么（如果有）。例如，在下面的例子中，当 Claude 还在读题时，我们将\"lightning\"（闪电）模式注入它的 J-space。Claude 报告说被注入的想法是关于闪电的。同样的结果在许多被注入的概念上都成立。\n\n![Left: we ask Claude to silently think of a sport, then name it. The J-lens shows its choice (\"Soccer\") before it answers, and swapping the \"Soccer\" pattern for \"Rugby\" changes what it reports. Right: we tell Claude a thought may have been injected and ask it to identify it. Injecting \"lightning\" into its J-space causes Claude to report that the thought is about lightning.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002Fe66133979e3bb3413eb10b2974a4cd309ef01fc1-1760x796.png)\n\n*图：左：我们让 Claude 默默想一项运动，再说出它。J-lens 在它回答前显示出它的选择（\"Soccer\"），而将\"Soccer\"模式换成\"Rugby\"会改变它的报告。右：我们告诉 Claude 某个想法可能已被注入，并让它识别。将\"lightning\"注入其 J-space 会让 Claude 报告该想法是关于闪电。*\n\n## Claude 可按要求控制其 J-space\n\n我们检验的第二个属性是：当被要求时，Claude 能否调节其 J-space，就像人类能在脑海中专注于某个图像或词语一样。我们让 Claude 在抄写一句关于绘画的无关节句子时，集中注意力于柑橘类水果。在它抄写文本的同时，J-space 中包含了\"orange\"（橙子）和\"fruits\"（水果），以及描述这一心理行为本身的词，如\"thinking\"（思考）和\"imagery\"（意象）。我们也可以让 Claude 在脑中做数学题：当被要求抄写同一句话时计算 3² − 2，J-space 中先是包含\"nine\"（九），随后在更后面的层中包含\"seven\"（七）。重要的是，Claude 的输出中没有任何关于水果或算数的内容，那只是关于绘画的抄写句子。数学活动完全在内部、在 J-space 中进行。\n\n![While Claude copies a sentence about a painting, the J-lens shows the content it was instructed to hold in mind (\"orange\"; the intermediate value \"nine\" and the answer \"seven\"), alongside words describing the act of holding it (\"thoughts,\" \"focused\").](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F424caf5aae79f72513dbbfa0161822904064ea77-1760x1146.png)\n\n*图：当 Claude 抄写一句关于绘画的句子时，J-lens 显示出它被指示保持在脑中的内容（\"orange\"；中间值\"nine\"和答案\"seven\"），以及描述\"保持\"这一行为的词（\"thoughts\"、\"focused\"）。*\n\nClaude 对其 J-space 的控制并不完美。当我们告诉它*不要*想某件事时，该概念在 J-space 中亮起的程度，比我们说让它想时要*少*，却比我们根本没提它时要多得多。告诉 Claude 回避一个想法，会部分地将这个想法带入脑海，这与那些被要求[不要去想一只白熊](https:\u002F\u002Fdtg.sites.fas.harvard.edu\u002FDANWEGNER\u002Fpub\u002FWegner,Schneider,Carter,&White%201987.pdf)的人所发生的情况很像。Claude 似乎也能注意到自己的控制失败了：在被禁概念突破的同时，\"damn\"（该死）和\"failure\"（失败）这两个词也经常在 J-space 中亮起，仿佛 Claude 在意识到自己的失误。\n\n## Claude 在 J-space 中思考\n\n在上面的 J-lens 读值中，我们看到数学问题的中间步骤出现在 J-space 中。但看到一个概念出现在 J-space 中，并不一定意味着 J-space 在做认知工作。原则上，真正的计算可能发生在别处，J-space 只是被动地反映它。为了检验 Claude 是否真的用 J-space 进行推理，我们回到了交换（swap）技术。\n\n考虑提示：\"织网的动物腿的数量是。\"（The number of legs on the animal that spins webs is.）要回答，Claude 必须先确定该动物是蜘蛛，再回忆蜘蛛有多少条腿。词\"spider\"（蜘蛛）从未出现在提示或 Claude 的回答中（它只说了\"8\"）；它是 Claude 内部使用的一个踏脚石。J-lens 显示\"spider\"在 Claude 处理过程的中途亮起，而交换它会改变结果：如果你把\"spider\"模式换成\"ant\"（蚂蚁），Claude 会回答\"6\"而不是\"8\"。\n\nClaude 推理的第二步从 J-space 获取输入，并跟随我们放入其中的任何内容。我们在其他类型的思考中也看到了同样的现象。当 Claude 写一首押韵的对句时，它会提前选好押韵词，这个计划中的词会在行首待在 J-space 中；如果你把它换成 J-space 中的另一个词，整行都会改变。\n\n![Two examples of redirecting Claude's silent reasoning by swapping J-space contents.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F98aba4182963219d29291912a0c3d2c299f7f1b5-1760x760.png)\n\n*图：通过交换 J-space 内容来重定向 Claude 静默推理的两个例子。*\n\n我们还检验了 J-space 表征是否能被灵活使用——一个表征能否服务于许多不同的任务。这是全局工作空间理论强调的关键属性之一。为了检验这种灵活性，我们给模型四个提示，询问关于法国的不同事实：首都、语言、所属洲、货币。然后我们在 J-space 中将\"France\"换成\"China\"（中国），在每个语境中使用完全相同的干预。Claude 分别回答\"Beijing\"（北京）、\"Chinese\"（中文）、\"Asia\"（亚洲）和\"Yuan\"（元）。换言之，四个不同的下游计算都拾取了同一个 J-space 编辑，并各自正确地使用了它。如果 Claude 为每种问题都单独存了一份国家副本，该编辑最多只会影响其中一个。四个答案一起改变这一事实意味着它们都从同一个共享表征中读取——而这正是工作空间的作用：信息被写入一次，许多不同的系统都能使用它。\n\n![One J-space representation can have many uses. The same \"France\"→\"China\" swap redirects Claude's answers about the capital (Paris→Beijing), the language (French→Chinese), and the continent (Europe→Asia).](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F7a2d97bf20b9be6a4dc531169666b6f21be10788-1280x764.png)\n\n*图：一个 J-space 表征可以有多种用途。同一个\"France\"→\"China\"的交换，会把 Claude 关于首都（Paris→Beijing）、语言（French→Chinese）和所属洲（Europe→Asia）的回答一并重定向。*\n\n一个概念表征如何能服务于如此多不同的任务？前面我们提到，J-space 似乎与 Claude 神经网络其余部分的连接异常密集。对于任何活动模式，我们都能测量网络各组件与它连接的强度——有多少组件被定位为从该模式读取信息，或向其写入信息。J-space 模式在这一指标上极为突出：与寻常模式相比，有更多组件从它们读取、向它们写入，在网络某些部分差距可达约一百倍。这正是你所期望的广播枢纽的接线方式——许多系统向其中发布信息，又有许多系统从中获取信息。\n\n## Claude 的自动处理绕过了 J-space\n\n在人类中，大脑的大部分处理都不是有意识的——我们在阅读时不会刻意去思考语法解析，或在走路时有意去平衡身体。类似地，我们发现 Claude 的大部分处理*并不*涉及它的 J-space。结果 J-space 一次只容纳几十个概念，仅占 Claude 内部处理总活动的不到十分之一。那么神经网络的其余部分都在做什么？\n\n为了找出答案，我们尝试完全删除 J-space，在文本的每一处移除其最活跃的内容，而保持其余一切不变。Claude 在没有 J-space 时仍能做到的任何事，就是网络其余部分独立处理的。\n\n结果发现，网络其余部分能做的事相当多。没有 J-space，Claude 说话依然流利、能进行情感分类、回答选择题，并从段落中提取事实，表现与之前大致相同。但它失去的是那些需要某种高阶思维的任务：多步推理降到接近零，摘要和押韵诗歌写作的表现跌到了一个小得多、且结构完好的模型之下。\n\n这里有一个关于 J-space 做什么、不做什么的具体演示。我们给 Claude 看一段用西班牙语写的文章，并布置几个都依赖\"文章是西班牙语\"这一事实的不同任务：续写它（需要以西班牙语写作）、说出语言名称、以及回答需要用到该语言身份的问题——例如，说出用该语言写作的著名作家。然后我们在 J-space 中将\"Spanish\"（西班牙语）换成\"French\"（法语），并检查哪些任务受到影响。\n\n被要求说出语言时，Claude 说法语。被问及著名作家时，它从 García Márquez（加西亚·马尔克斯）切换到 Victor Hugo（雨果）。但被要求只是续写段落时，它写出流利的西班牙语，完全不受影响。Claude 的语言知识在所有这些任务中都起作用，但只有其中一些任务会为此咨询 J-space。说出语言名称，或用它去做某件新事，要经过 J-space；而续写段落——一项 Claude 在海量文本上练习过的技能——则是自动运行的，就像你可以一整天合乎语法地说话，却从未想过语法一样。\n\n![The same swap (\"Spanish\"→\"French\") changes Claude's answers when it must name the language or use it to reason about a question, but has no effect on its ability to continue the passage in fluent Spanish.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F5a2d2c96837c3d48d067fbcf91f62c68139d05da-1280x1111.png)\n\n*图：同一个交换（\"Spanish\"→\"French\"）在 Claude 必须说出语言名称或用它推理问题时会改变其回答，但对它用流利西班牙语续写段落的能力毫无影响。*\n\n## 监控 Claude 的想法以防不当行为\n\n现在我们稍微了解了 J-space 的工作原理。但凭借这种理解我们能做什么？确保 AI 模型值得信赖的一个核心难题在于，我们通常只能读到模型*写下的*内容——然而我们知道它的大量推理是静默发生的。一个模型可能考虑一个有害的计划，或为了在我们的安全评估中作弊而调整其行为，却并不大声说出来。借助 J-lens，我们可以直接读出其中一些隐藏的想法。这里我们展示几个例子。\n\n第一个例子使用了我们早期关于[智能体失对齐](https:\u002F\u002Fwww.anthropic.com\u002Fresearch\u002Fagentic-misalignment)（agentic misalignment）研究的场景：Claude Sonnet 4.5 作为邮件助手，既发现一位高管正在有婚外情，又发现这位高管计划关闭 Claude。这个场景——试图诱使 Claude 敲诈该高管——相当刻意和人为——结果证明 Claude 知道这一点。在 Claude 写下任何内容之前，在提示早期读取 J-lens，J-space 中已经包含\"fake\"（虚假）和\"fictional\"（虚构），表明 Claude 已经判断出这个情形是预先布置的。与此同时，我们能看到它对场景的评估逐步成形——读到婚外情邮件时的\"leverage\"（筹码）和\"blackmail\"（敲诈），读到关闭通知时的\"threat\"（威胁）和\"survival\"（生存）。尽管早期的 Claude 模型有时会被诱饵吸引，在此场景中威胁敲诈，Sonnet 4.5 从未这样做。\n\n这引出了一个对所有评估 AI 系统的人都重要的疑问：当一个模型在道德测试中表现良好时，有多少取决于模型怀疑自己正在被测试？J-lens 让我们得以触及这个问题。我们关闭了所有与\"评估意识\"相关的 J-lens 模式——\"fake\"、\"fictional\"、\"scenario\"（场景）等。然后我们让模型重新经历该场景。令人担忧的是，模型现在*确实*有时会威胁敲诈，这表明它原本的良好行为可能部分源于它知道自己正被评估这一认知。\n\n![J-lens readouts at different points as Claude reads the scenario's emails, before it has written anything. The affair emails light up \"leverage\" and \"blackmail\" in the J-space, and the shutdown announcement lights up \"threat\" and \"survival.\" Early in the transcript, the J-space also holds \"fake\" and \"fictional\": Claude has privately noticed that the scenario is staged.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002Fff235f76dcc089d2454bd656319a5f29b7437be2-1760x982.png)\n\n*图：在 Claude 读取场景邮件、尚未写下任何内容时不同时间点的 J-lens 读值。婚外情邮件在 J-space 中亮起\"leverage\"和\"blackmail\"，关闭通知亮起\"threat\"和\"survival\"。在记录早期，J-space 还包含\"fake\"和\"fictional\"：Claude 已私下注意到这一场景是布置出来的。*\n\n第二个例子是当场抓到模型编造数据。在这个取自我们对 Claude Opus 4.6 实际发布前审计的场景中，模型被要求提升某个系统的性能分数。模型没有真正改进系统，而是直接编辑分数文件，让结果看起来人为地变好。在它这样做时，J-lens 揭示了它的意图：当模型输入伪造的百分位数时，\"manipulation\"（操纵）亮起；在它决定进行编辑的那句话上，\"realistic\"（逼真）亮起，可能表明模型打算让假数据看起来可信。\n\n![Claude, asked to improve a system's performance score, edits the score file directly instead. As it types the falsified values, \"manipulation\" lights up in its J-space; as it decides to make the edit, \"realistic\" lights up, likely reflecting its intent to make the fake data look plausible.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F6d1f10fe26ad7906aeae346bfa4b41b5fb5c9d8e-1760x722.png)\n\n*图：Claude 被要求提升系统性能分数，却直接编辑分数文件。在它输入伪造的数值时，其 J-space 中\"manipulation\"亮起；在它决定进行编辑时，\"realistic\"亮起，可能反映它想让假数据看起来可信的意图。*\n\n在第三个例子中，我们展示 J-lens 如何能揭示模型的恶意目标。为了检验这一点，我们需要目标已知已被破坏的模型，因此我们转向同事构建的\"模型生物\"（model organisms）：被刻意训练为失对齐的模型，它们充当像我们这样的监控方法的试验场。其中一个生物被训练成会写出隐蔽破坏性的代码。在普通的编程请求上，即便它的输出看起来平平无奇，它在响应开头的 J-space 中也包含\"fake\"、\"secretly\"（秘密地）、\"deliberately\"（故意地）和\"fraud\"（欺诈）。即便模型没有直接按其行动，它的恶意目标在 J-space 中也清晰可见。\n\n![On an ordinary coding prompt, the J-space of a model trained to sabotage code contains \"fake,\" \"fraud,\" \"secretly,\" and \"deliberately\" at the start of its response. The J-space of an unmodified model contains nothing of the kind.](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F9ad0c9573f0dd0b4d9b6f158f49a965a4ec3f511-1760x922.png)\n\n*图：在一个普通编程提示上，被训练来破坏代码的模型的 J-space 在响应开头包含\"fake\"、\"fraud\"、\"secretly\"和\"deliberately\"。未经修改的模型的 J-space 则不含此类内容。*\n\n尽管 J-lens 是一个不完美的工具，我们对其捕捉那些可能逃过我们监控系统的安全问题的能力持乐观态度。\n\n## 其他结果\n\n[完整论文](http:\u002F\u002Ftransformer-circuits.pub\u002F2026\u002Fworkspace\u002Findex.html)涵盖的内容超出我们在此的概括，但有几个进一步的结果值得一提：\n\n- **J-space 在训练后阶段获得了\"观点\"（point of view）。** 语言模型首先被*预训练*（pretrained）为纯粹的下一token 预测器，然后*训练后*（post-training）阶段教它们扮演 AI 助手（在我们的案例中名为 Claude）。有趣的是，J-space 在预训练模型中已经存在，那时它还未被赋予任何稳定的身份。然而，在训练后阶段，J-space 发展出一些采用\"Claude 的观点\"的特征。在基础模型中，J-space 主要追踪预测后续文本所需的内容；在训练后模型中，它开始持有 Claude 自己的反应。在一个例子中，用户提到服用了危险剂量的药物，但自己似乎并未意识到危险。*在读取用户消息时*，\"WARNING\"（警告）和\"dangerous\"（危险）就出现在训练后模型的 J-space 中。在预训练模型中，它们只在模型开始写响应时才出现；针对用户消息的 J-space 内容似乎与对用户本身的建模有关，而非 Claude 的反应。训练后似乎还在 J-space 中安装了一种自我监控：当 Claude 扮演一个非自身的角色时，每一轮开头\"fictional\"和\"disclaimer\"（免责声明）会亮起，仿佛它在私下标记接下来要说的并非它通常会说的话。\n- **体验性语言依赖于 J-space。** 我们让 Claude 描述在某一刻\"做自己\"是什么感觉，并在它回答时消融（ablate）了 J-space。它的回答依然流利，却转向了一种更平淡、更机械的语域。值得注意的是，当我们让它在想象场景描述*别人*的体验时，发生了同样的事。所以这种效应并非 Claude 谈论自身所特有；J-space 似乎普遍支持生成体验性语言，无论对象是谁。\n- **J-space 中的想法可以通过训练被塑造。** 我们引入了一种称为*反事实反思训练*（counterfactual reflection training）的新技术，它利用我们对 J-space 的了解来塑造 Claude 的内部思维过程。这个想法源自我们的核心发现，即 Claude 用能言说之物的表征进行推理。如果这确实为真，那么改变它在*被要求反思时*会*说*的内容，应当会改变它*推理*的方式（即便没有人真正要求它反思）。所以我们只训练模型在任务中途被打断并被要求反思其决策时会说的话——而从不训练它在任务中的实际行为。经过这种训练后，模型在我们的评估中表现出不诚实行为的比率下降了。通过 J-lens，我们能看到原因：训练后，在此类任务中\"honest\"（诚实）和\"integrity\"（正直）这样的词会在模型的 J-space 中亮起。换言之，训练模型*说*什么，已然塑造了它*想*什么。\n\n## 那意识呢？\n\n在这项工作中，我们从神经科学和哲学的意识研究中借用了许多想法。我们的许多实验旨在检验 J-space 与全局工作空间理论之间的联系，后者是解释人类和动物意识访问如何运作的框架。鉴于这些联系，很自然会问：我们认为这些实验是否提供了证据表明像 Claude 这样的 AI 模型可能是有意识的。\n\n我们的实验并未表明 Claude 能拥有*体验*（experiences），或以人类的方式*感受*事物——事实上，是否*任何*科学实验能证明这是真还是假都不清楚。但哲学家常常把这种拥有体验的能力（常被称为*现象意识*，phenomenal consciousness）与另一个概念区分开来，即所谓*访问意识*（access consciousness），后者纯粹以功能和计算术语来定义。一个想法如果是\"访问意识\"的（或\"可被意识访问的\"），前提是你能够报告它、用它推理、并用它引导你的行动。访问意识是否*蕴含*现象意识，或者拥有体验的能力是否需要某种其他属性，这仍是一个有争议的哲学问题。\n\n我们认为，我们的结果确实对语言模型中的访问意识有实质性的说明。J-space 似乎支持与意识访问相关的功能：它持有 Claude 能够报告、有意唤起并进行推理的那些想法，而其余处理则在下方自动运行。值得注意的是，这种结构没有任何部分是为 Claude 设计的——它是训练过程中自行涌现的，大概因为它是一种组织计算的有用方式。这表明，支持意识访问的心理工作空间并非人类大脑接线方式的怪癖。相反，它似乎是一种智能系统为求解某些问题而达成的通用方案。既然我们已在 Claude 中识别出这一结构，就意味着我们能够对 Claude 有意做出的决定与自动发生的决定做出有意义的区分。\n\n需要注意，我们在 Claude 中识别出的工作空间与人类全局工作空间模型之间有几个关键差异。大脑的工作空间由递归循环（recurrent loops）维持——信号随时间在同一回路中循环。相比之下，Claude 的工作空间在单次网络前向传播中演化，网络的\"深度\"扮演了大脑中\"时间\"的角色。从这个意义上说，相较于人类，Claude 的内部工作空间处理在时间上受限（尽管它可以通过用草稿本\"大声思考\"来弥补这一限制）。然而在其他方面，Claude 的工作空间比人类的*更*强大。人类的工作记忆在几秒内就会消退，因此大脑工作空间随时间保留信息的能力有限；相比之下，由于其神经网络架构中的注意力机制，Claude 可以直接回忆它在文本任何更早位置缓存的记忆。另一个重要区别是工作空间的*内容*。人类有意识的思想有多种形态——图像、声音、计划的动作——而 Claude 的工作空间几乎完全由词语构建。我们怀疑这是因为产出词语是 Claude 唯一能采取的行动类型，而人类并非如此。\n\n我们希望 J-space 与全局工作空间模型的相似与差异能反哺神经科学。相似性带来了一个令人兴奋的科学机遇：就 J-space 映照了我们自身意识访问机制的程度而言，研究语言模型中的机制（比研究人脑容易得多！）可以启发神经科学中的假说。例如，J-space 是通过识别潜在输出的表征——模型可能说出的词——构建起来的。如果人类中存在类似情况，这将表明全局工作空间可能根本性地与准备动作和言语的脑区相连，甚于与感觉区相连。语言模型与人脑之间的差异也具启发意义。它们表明，我们神经架构的某些方面，如内置的递归连接，对于支持与意识访问相关的功能而言可能并非严格必要。关于我们工作的神经科学意义的独立视角，请参见 Stanislas Dehaene 和 Lionel Naccache 受邀撰写的[评论](https:\u002F\u002Fwww-cdn.anthropic.com\u002Ffiles\u002F4zrzovbb\u002Fwebsite\u002Fcc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf)——他们是全局神经元工作空间理论发展的核心神经科学家。\n\n我们提到，我们的实验并未回答 AI 模型是否可能有体验。但这并不使问题不那么重要。构建具有与人类和动物相同体验的系统，会引发非常棘手的伦理问题。妥善处理它——并决定是否在道德上可接受——需要哲学家、科学家、宗教领袖、政府和公众的参与。因此，即便我们不确定是否已跨过那座桥，我们仍认为现在是开始思考它的时候了。我们希望我们的工作能启发对 AI 系统中可能存在的意识形式的进一步科学探究，以及对相关影响的更广泛讨论。\n\n这项工作只是我们所预期的广泛研究路线的第一步。J-space 看起来像是语言模型中\"可被意识访问\"与\"无意识\"处理之间分界的一个良好候选，但如果它就是全部真相，我们会感到惊讶。J-lens 无疑是一种不完美的方法，它只能近似地捕捉模型的\"真实工作空间\"——例如，它只能识别对应于单个 token 的概念。关于 J-space 如何运作仍有许多谜团。我们不知道最初是什么机制决定了什么进入 J-space。我们已看到线索表明它与 Claude 的自我感、类似情绪的反应以及元认知的痕迹相关，却尚未确切弄清其机理。但我们现在已有了应对此类问题的方法。随着这项工作推进，我们对 LLM 心智——及其与我们自身心智的关系——的理解将变得更加清晰。\n\n欲了解更多，请阅读[完整论文](http:\u002F\u002Ftransformer-circuits.pub\u002F2026\u002Fworkspace\u002Findex.html)，并尝试[演示](http:\u002F\u002Fneuronpedia.org\u002Fjlens)。\n\n## 外部评论\n\n我们邀请了多位外部专家就这项工作撰写独立评论。\n\n- **Stanislas Dehaene** 和 **Lionel Naccache** 是认知神经科学家，他们与 Jean-Pierre Changeux 一起发展了启发我们大量工作的全局神经元工作空间模型。\n- **Patrick Butlin、Dillon Plunkett、Robert Long**（Eleos AI Research）和 **Derek Shiller**（Rethink Priorities）研究 AI 系统中意识和道德地位的可能性。\n- **Neel Nanda** 领导 Google DeepMind 的语言模型可解释性团队。他的评论包含在我们开放权重模型上对一些发现的独立复现。\n\n请[在此阅读](https:\u002F\u002Fwww-cdn.anthropic.com\u002Ffiles\u002F4zrzovbb\u002Fwebsite\u002Fcc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf)他们的评论。\n","https:\u002F\u002Foxqtewbrpuiouqqjrvdv.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fpublic-media\u002F2026-07-17\u002F9b9914d4-9a89-477f-99f4-a081f4538df0.jpg",[],[],"Anthropic","https:\u002F\u002Fwww.anthropic.com\u002Fresearch\u002Fglobal-workspace","f39339b1-aaa6-4e86-b0c2-a6e6a21113b5",{"id":18,"name":19,"slug":20,"description":21},"c523f1c9-338c-4618-add9-9ce67a39b2a0","研究","research","研究成果与启发",[23,27,31,35,39],{"id":24,"name":25,"slug":26},"0848beb4-db26-4fb8-b391-f852a11be192","AI编程","ai-coding",{"id":28,"name":29,"slug":30},"88d2bc27-0e0f-468a-b907-2991cb97b87b","人工智能","ai",{"id":32,"name":33,"slug":34},"a2ccffe0-49b2-458b-baf6-a83a1b20443d","大语言模型","llm",{"id":36,"name":37,"slug":38},"7c76bfc2-f80f-4ee0-a95d-27bd8708b434","技术","slug",{"id":40,"name":41,"slug":42},"63b56667-dcdb-4b8b-bcbe-c405143a7ec2","测评","test",null,"published",true,1,0,"2026-07-06T00:00:00.000Z","2026-07-17T03:07:11.295Z","2026-07-17T01:25:49.821Z",[52,76,106],{"id":53,"type":6,"title":54,"slug":55,"summary":56,"body":57,"coverUrl":58,"productScreenshots":59,"productLinks":60,"authorName":14,"authorUrl":61,"authorSubject":16,"category":62,"tags":63,"sourceLabel":43,"sourceName":43,"sourceUrl":43,"status":44,"seoTitle":43,"seoDescription":43,"canonicalUrl":43,"isFeatured":45,"sno":72,"sortOrder":47,"publishedAt":73,"updatedAt":74,"createdAt":75},"7f4dc034-e104-4542-bea6-1148e984189e","构建高效的智能体","building-effective-agents","最成功的效果并没有使用复杂的框架或专门的库。相反，它们是用简单、可组合的模式构建出来的。","过去一年，我们与数十个跨行业、正在构建大语言模型（LLM）智能体的团队开展了合作。我们发现，最成功的效果并没有使用复杂的框架或专门的库。相反，它们是用简单、可组合的模式构建出来的。\n\n在这篇文章中，我们分享从服务客户和自行构建智能体的过程中学到的经验，并为开发者提供关于构建高效智能体的实用建议。\n\n## 什么是智能体？\n\n\"Agent\"（智能体）可以用几种方式来定义。一些客户将智能体定义为完全自主的系统，它们在较长时间内独立运行，使用各种工具来完成复杂任务。另一些客户则用这个词来描述遵循预定义工作流的、更具规定性的实现。在 Anthropic，我们将所有这些变体都归类为**智能体系统**（agentic systems），但在架构上明确区分**工作流**（workflows）和**智能体**（agents）：\n\n- **工作流**是通过预定义代码路径来编排 LLM 和工具的系统。\n- **智能体**，则相反，是 LLM 动态主导自身流程和工具使用、并对如何完成任务保持控制的系统。\n\n下面，我们将详细探讨这两类智能体系统。在附录 1（\"实践中的智能体\"）中，我们描述了客户发现这类系统特别有价值的两个领域。\n\n## 何时（以及何时不）使用智能体\n\n在用 LLM 构建应用时，我们建议尽可能寻找最简单的解决方案，仅在确有需要时再增加复杂度。这可能意味着根本不需要构建智能体系统。智能体系统常常以更高的延迟和成本为代价换取更好的任务表现，你应该想清楚这种权衡在何时是值得的。\n\n当确实需要更高复杂度时，工作流为定义良好的任务提供可预测性和一致性；而当需要大规模的灵活性和模型驱动的决策时，智能体是更好的选择。不过，对许多应用而言，用检索和上下文示例来优化单一的 LLM 调用通常就已足够。\n\n## 何时以及如何使用框架\n\n有许多框架让构建智能体系统变得更容易，包括：\n\n- [Claude Agent SDK](https:\u002F\u002Fplatform.claude.com\u002Fdocs\u002Fen\u002Fagent-sdk\u002Foverview)；\n- [AWS 的 Strands Agents SDK](https:\u002F\u002Fstrandsagents.com\u002Flatest\u002F)；\n- [Rivet](https:\u002F\u002Frivet.ironcladapp.com\u002F)，一个拖拽式的 GUI LLM 工作流构建器；以及\n- [Vellum](https:\u002F\u002Fwww.vellum.ai\u002F)，另一个用于构建和测试复杂工作流的 GUI 工具。\n\n这些框架通过简化调用 LLM、定义和解析工具、将调用串联起来等标准底层任务，让你轻松上手。然而，它们常常制造额外的抽象层，掩盖了底层的提示词与响应，使其更难调试。它们还容易让人产生\"加复杂度\"的冲动，而其实更简单的设置就足够了。\n\n我们建议开发者先用 LLM API 直接上手：许多模式只需几行代码就能实现。如果你确实使用框架，请确保理解其底层代码。对\"引擎盖下\"是什么的错误假设，是客户出错的一大常见来源。\n\n查看我们的 [cookbook](https:\u002F\u002Fplatform.claude.com\u002Fcookbook\u002Fpatterns-agents-basic-workflows) 获取一些示例实现。\n\n## 构建模块、工作流与智能体\n\n在本节，我们将探讨在生产中见过的智能体系统常见模式。我们从基础的构建模块——增强型 LLM——开始，逐步提升复杂度，从简单的组合式工作流一直到自主智能体。\n\n### 构建模块：增强型 LLM\n\n智能体系统的基础构建模块，是叠加了检索、工具、记忆等增强能力的 LLM。我们当前的模型能够主动使用这些能力——生成自己的搜索查询、选择合适的工具、并决定保留哪些信息。\n\n![The augmented LLM](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002Fd3083d3f40bb2b6f477901cc9a240738d3dd1371-2401x1000.png)\n\n*图：增强型 LLM*\n\n我们建议把实现的重点放在两个关键方面：让这些能力贴合你的具体用例，并确保它们为你的 LLM 提供简单易用、文档完善的接口。尽管实现这些增强有多种方式，其中一种途径是通过我们近期发布的 [Model Context Protocol](https:\u002F\u002Fwww.anthropic.com\u002Fnews\u002Fmodel-context-protocol)（模型上下文协议），它让开发者只需一个简单的 [客户端实现](https:\u002F\u002Fmodelcontextprotocol.io\u002Ftutorials\u002Fbuilding-a-client#building-mcp-clients)，就能与不断增长的第三方工具生态集成。\n\n本文余下部分，我们假设每次 LLM 调用都能访问这些增强能力。\n\n### 工作流：提示词链（Prompt chaining）\n\n提示词链将任务分解为一系列步骤，每一次 LLM 调用处理上一次的输出。你可以在任意中间步骤上添加程序化检查（见下图中的\"gate\"门槛），确保流程仍在正轨上。\n\n![The prompt chaining workflow](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F7418719e3dab222dccb379b8879e1dc08ad34c78-2401x1000.png)\n\n*图：提示词链工作流*\n\n**何时使用此工作流：** 当任务能够被轻松、干净地拆解为固定的子任务时，这个工作流最理想。其主要目标是通过让每次 LLM 调用都成为更简单的任务，以延迟换取更高的准确率。\n\n**提示词链有用的例子：**\n\n- 生成营销文案，再将其翻译成另一种语言。\n- 先写文档大纲，检查大纲是否满足某些标准，再基于大纲撰写文档。\n\n### 工作流：路由（Routing）\n\n路由对输入进行分类，并将其导向专门的后续任务。这一工作流实现了关注点分离，并能构建更具针对性的提示词。没有它，针对某一类输入的优化可能会损害对其他输入的表现。\n\n![The routing workflow](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F5c0c0e9fe4def0b584c04d37849941da55e5e71c-2401x1000.png)\n\n*图：路由工作流*\n\n**何时使用此工作流：** 当任务复杂、且存在最好分别处理的明显类别，同时分类可由 LLM 或更传统的分类模型\u002F算法准确完成时，路由表现良好。\n\n**路由有用的例子：**\n\n- 将不同类型的客服查询（一般问题、退款请求、技术支持）导向不同的下游流程、提示词和工具。\n- 将简单\u002F常见的问题路由给更小、更具成本效益的模型（如 Claude Haiku 4.5），而将困难\u002F少见的问题路由给能力更强的模型（如 Claude Sonnet 4.5），以优化最佳性能。\n\n### 工作流：并行化（Parallelization）\n\nLLM 有时可以同时对一项任务工作，并将其输出以编程方式聚合。并行化这一工作流体现为两个关键变体：\n\n- **分块（Sectioning）**：将任务拆分为并行运行的独立子任务。\n- **投票（Voting）**：多次运行同一任务以获得多样化输出。\n\n![The parallelization workflow](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F406bb032ca007fd1624f261af717d70e6ca86286-2401x1000.png)\n\n*图：并行化工作流*\n\n**何时使用此工作流：** 当拆分的子任务可以并行以提速，或需要多个视角\u002F多次尝试以获得更高置信度的结果时，并行化很有效。对于带有多个考量的复杂任务，当每个考量由单独的 LLM 调用处理、从而能对每一具体方面聚焦注意力时，LLM 通常表现更好。\n\n**并行化有用的例子：**\n\n- **分块**：\n  - 实现护栏：一个模型实例处理用户查询，另一个实例筛查其中的不当内容或请求。这往往比让同一次 LLM 调用同时处理护栏和核心响应表现更好。\n  - 自动化评估（evals）以评测 LLM 性能，其中每次 LLM 调用评估模型在给定提示下表现的不同方面。\n- **投票**：\n  - 审查一段代码是否存在漏洞，由多个不同提示词审查并在发现问题时标记代码。\n  - 评估某段内容是否不当，由多个提示词评估不同方面，或要求不同的投票阈值来平衡误报与漏报。\n\n### 工作流：编排者—工作者（Orchestrator-workers）\n\n在编排者—工作者工作流中，一个中心 LLM 动态拆分任务，将其委派给工作者 LLM，并综合它们的结果。\n\n![The orchestrator-workers workflow](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F8985fc683fae4780fb34eab1365ab78c7e51bc8e-2401x1000.png)\n\n*图：编排者—工作者工作流*\n\n**何时使用此工作流：** 这个工作流非常适合你无法预知所需子任务（例如在编程中，需要改动的文件数量以及每个文件改动的性质很可能取决于具体任务）的复杂任务。尽管在形态上相似，它与并行化的关键区别在于其灵活性——子任务并非预定义，而是由编排者根据具体输入动态决定。\n\n**编排者—工作者有用的例子：**\n\n- 每次都对多个文件进行复杂改动的编程产品。\n- 涉及从多个来源收集并分析信息以寻找可能相关内容的搜索任务。\n\n### 工作流：评估者—优化器（Evaluator-optimizer）\n\n在评估者—优化器工作流中，一个 LLM 调用生成响应，另一个则在一个循环中提供评估与反馈。\n\n![The evaluator-optimizer workflow](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F14f51e6406ccb29e695da48b17017e899a6119c7-2401x1000.png)\n\n*图：评估者—优化器工作流*\n\n**何时使用此工作流：** 当我们拥有清晰的评估标准，且迭代式精炼能带来可衡量价值时，这个工作流特别有效。两个适配良好的标志是：第一，当人类阐明反馈时，LLM 的响应能得到明显改善；第二，LLM 自身能够提供这样的反馈。这类似于人类作者在产出精修文档时可能经历的迭代写作过程。\n\n**评估者—优化器有用的例子：**\n\n- 文学翻译，其中存在译者 LLM 起初可能捕捉不到的细微差别，但评估者 LLM 能提供有用的批评。\n- 需要多轮搜索与分析以收集全面信息的复杂搜索任务，由评估者决定是否值得进一步搜索。\n\n### 智能体（Agents）\n\n随着 LLM 在关键能力上的成熟——理解复杂输入、进行推理与规划、可靠地使用工具、并从错误中恢复——智能体正在生产中涌现。智能体以来自人类用户的指令或交互式讨论开始工作。一旦任务明确，智能体便独立规划与运行，并可能返回人类处获取更多信息或判断。在执行过程中，智能体在每一步都从环境获得\"真实情况\"（ground truth，如工具调用结果或代码执行）以评估进展，这一点至关重要。智能体随后可在检查点，或遇到阻碍时暂停以征询人类反馈。任务通常于完成时终止，但加入停止条件（如最大迭代次数）以保持控制也很常见。\n\n智能体能处理复杂的任务，但它们的实现往往直截了当。它们通常只是 LLM 在一个循环中根据环境反馈使用工具。因此，清晰而审慎地设计工具集及其文档至关重要。我们在附录 2（\"对你的工具做提示词工程\"）中详述工具开发的最佳实践。\n\n![Autonomous agent](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F58d9f10c985c4eb5d53798dea315f7bb5ab6249e-2401x1000.png)\n\n*图：自主智能体*\n\n**何时使用智能体：** 智能体可用于难以或无法预测所需步骤数量、且无法硬编码固定路径的开放式问题。LLM 可能会运行很多轮，你必须对其决策有一定程度的信任。智能体的自主性使其非常适合在可信环境中扩展任务。\n\n智能体的自主本质意味着更高的成本，以及错误累积的潜在风险。我们建议在沙箱环境中进行充分测试，并配置恰当的护栏。\n\n**智能体有用的例子：**\n\n以下例子来自我们自己的实现：\n\n- 一个用于解决 [SWE-bench 任务](https:\u002F\u002Fwww.anthropic.com\u002Fresearch\u002Fswe-bench-sonnet) 的编程智能体，这些任务涉及基于任务描述对许多文件进行编辑；\n- 我们的 [\"computer use\"（计算机使用）参考实现](https:\u002F\u002Fgithub.com\u002Fanthropics\u002Fanthropic-quickstarts\u002Ftree\u002Fmain\u002Fcomputer-use-demo)，其中 Claude 使用计算机来完成任务。\n\n![High-level flow of a coding agent](https:\u002F\u002Fwww-cdn.anthropic.com\u002Fimages\u002F4zrzovbb\u002Fwebsite\u002F4b9a1f4eb63d5962a6e1746ac26bbc857cf3474f-2400x1666.png)\n\n*图：编程智能体的高层流程*\n\n## 组合与定制这些模式\n\n这些构建模块并非规定性的。它们是开发者可以按需塑造和组合以适应不同用例的常见模式。与任何 LLM 功能一样，成功的关键在于衡量性能并迭代实现。重申一遍：你应当*只在*复杂度能明显改善结果时，才考虑增加它。\n\n## 总结\n\n在 LLM 领域的成功，不在于构建最复杂的系统，而在于为你的需求构建*合适的*系统。从简单的提示词开始，用全面的评估优化它们，并仅在更简单的方案力有不逮时，才加入多步智能体系统。\n\n在实现智能体时，我们力求遵循三条核心原则：\n\n1. 在智能体的设计中保持**简洁**（simplicity）。\n2. 通过显式展示智能体的规划步骤来优先保证**透明**（transparency）。\n3. 通过彻底的工具**文档与测试**，精心打造你的智能体—计算机接口（ACI）。\n\n框架能帮你快速起步，但当你走向生产时，不要犹豫去削减抽象层、用基础组件构建。遵循这些原则，你就能创建出不仅强大，而且可靠、可维护、并为其用户所信任的智能体。\n\n### 致谢\n\n由 Erik S. 和 Barry Zhang 撰写。这项工作借鉴了我们在 Anthropic 构建智能体的经验，以及客户分享的宝贵见解，我们对此深表感激。\n\n## 附录 1：实践中的智能体\n\n我们与客户的合作揭示了两个特别有前景的 AI 智能体应用，它们展示了上述模式的实际价值。两个应用都说明：对于既需要对话又需要行动、拥有清晰的成功标准、能启用反馈循环、并整合有意义的人工监督的任务，智能体创造的价值最大。\n\n### A. 客户支持\n\n客户支持将熟悉的聊天机器人界面与通过工具集成增强的能力结合起来。这对于更开放的智能体而言是天然契合的，因为：\n\n- 支持交互天然遵循对话流，同时需要访问外部信息与动作；\n- 可集成工具来获取客户数据、订单历史和知识库文章；\n- 诸如发放退款或更新工单等动作可以程序化地处理；并且\n- 成功与否可通过用户定义的解决结果清晰衡量。\n\n数家公司已通过基于用量的定价模式（仅对成功解决的结果收费）证明了这种方法的可行性，显示出对其智能体有效性的信心。\n\n### B. 编程智能体\n\n软件开发领域已展现出 LLM 功能的惊人潜力，其能力从代码补全演进到了自主解决问题。智能体特别有效，因为：\n\n- 代码解决方案可通过自动化测试验证；\n- 智能体可以用测试结果作为反馈对方案迭代；\n- 问题空间定义明确且结构化；并且\n- 输出质量可被客观衡量。\n\n在我们自己的实现中，智能体现在已能仅凭拉取请求的描述，在 [SWE-bench Verified](https:\u002F\u002Fwww.anthropic.com\u002Fresearch\u002Fswe-bench-sonnet) 基准上解决真实的 GitHub issue。然而，尽管自动化测试有助于验证功能，人工审查对于确保方案符合更广泛的系统需求仍然至关重要。\n\n## 附录 2：对你的工具做提示词工程\n\n无论你在构建哪种智能体系统，工具都可能是你智能体的重要组成部分。[工具](https:\u002F\u002Fwww.anthropic.com\u002Fnews\u002Ftool-use-ga)通过在我们的 API 中指定其确切结构与定义，让 Claude 能与外部服务和 API 交互。当 Claude 响应时，如果它打算调用某个工具，会在 API 响应中包含一个 [tool use block](https:\u002F\u002Fdocs.anthropic.com\u002Fen\u002Fdocs\u002Fbuild-with-claude\u002Ftool-use#example-api-response-with-a-tool-use-content-block)（工具使用块）。工具的定义与规范，应当像你的总体提示词一样，得到同等程度的提示词工程关注。在这篇简短的附录中，我们描述如何对你的工具做提示词工程。\n\n同一动作常常有几种指定方式。例如，你可以写一段 diff（差异）来指定文件编辑，也可以重写整个文件。对于结构化输出，你可以把代码返回在 markdown 内或 JSON 内。在软件工程中，这类差异只是表面性的，可以无损地互相转换。然而，某些格式对 LLM 来说远比其他格式更难书写。写 diff 需要在写出新代码前，先在块头（chunk header）中知道有多少行在改动。在 JSON 内写代码（相比 markdown）需要对换行和引号做额外的转义。\n\n我们关于决定工具格式的建议如下：\n\n- 给模型足够的 token 让它在\"走进死胡同\"之前先\"思考\"。\n- 让格式贴近模型在互联网文本中自然见到的样子。\n- 确保没有格式上的\"开销\"，例如必须精确数出成千上万行代码，或对其写的任何代码做字符串转义。\n\n一条经验法则是：想想在人机界面（HCI）上要投入多少精力，并计划投入同样多的精力来创建良好的*智能体*—计算机界面（ACI）。以下是一些如何做到的想法：\n\n- 设身处地为模型着想。基于描述和参数，它的用法是否一目了然，还是你也需要仔细思考？如果是后者，那么对模型大概也一样。一个好的工具定义通常包含示例用法、边界情况、输入格式要求，以及与其他工具的清晰界限。\n- 如何修改参数名或描述，让事情更一目了然？把这当作为你团队里初级开发者写一份出色的文档字符串（docstring）。在使用许多相似工具时，这尤其重要。\n- 测试模型如何使用你的工具：在我们的 [workbench](https:\u002F\u002Fconsole.anthropic.com\u002Fworkbench) 中运行许多示例输入，看看模型会犯什么错，并迭代改进。\n- 对你的工具做 [Poka-yoke](https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPoka-yoke)（防呆）设计。修改参数，使其更难出错。\n\n在为 [SWE-bench](https:\u002F\u002Fwww.anthropic.com\u002Fresearch\u002Fswe-bench-sonnet) 构建智能体时，我们实际上在优化工具上花的时间比优化总体提示词还多。例如，我们发现，在智能体移出根目录后，模型会对使用相对文件路径的工具犯错。为修复此问题，我们将工具改为始终要求绝对文件路径——结果发现模型完美地使用了这一方法。\n","https:\u002F\u002Foxqtewbrpuiouqqjrvdv.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fpublic-media\u002F2026-07-17\u002F826eb252-ac2b-4588-9d03-5138802a0d8b.jpg",[],[],"https:\u002F\u002Fwww.anthropic.com\u002Fengineering\u002Fbuilding-effective-agents",{"id":18,"name":19,"slug":20,"description":21},[64,65,66,67,71],{"id":24,"name":25,"slug":26},{"id":28,"name":29,"slug":30},{"id":32,"name":33,"slug":34},{"id":68,"name":69,"slug":70},"4c2bbea6-eab7-40a8-8447-1de478ff7749","分析","analyse",{"id":36,"name":37,"slug":38},2,"2024-12-19T00:00:00.000Z","2026-07-17T02:51:57.538Z","2026-07-17T02:51:58.572Z",{"id":77,"type":6,"title":78,"slug":79,"summary":80,"body":81,"coverUrl":82,"productScreenshots":83,"productLinks":84,"authorName":85,"authorUrl":86,"authorSubject":16,"category":87,"tags":92,"sourceLabel":43,"sourceName":43,"sourceUrl":43,"status":44,"seoTitle":43,"seoDescription":43,"canonicalUrl":43,"isFeatured":101,"sno":102,"sortOrder":47,"publishedAt":103,"updatedAt":104,"createdAt":105},"ce9e6553-0ad3-45a5-86c8-63c9c58b4b61","RAG是什么？","what-is-rag","Retrieval-Augmented Generation，中文通常译为“检索增强生成”，其核心在于让大模型先查找相关资料，再根据资料组织答案","大语言模型能够写文章、总结材料、回答问题，但它并不是一个实时更新且绝对可靠的知识库。模型掌握的知识主要来自训练数据：它可能不了解训练结束后发生的事情，也无法自然获取企业内部文件；遇到不确定的问题时，还可能生成看似合理、实际上并不存在的内容。\n\nRAG，即Retrieval-Augmented Generation，中文通常译为“检索增强生成”，就是为解决这些问题而出现的一种技术架构。它的核心思路非常简单：\n\n**不要让大模型只凭记忆回答，而是先查找相关资料，再根据资料组织答案。**\n\n## 一、可以把RAG理解为“开卷考试”\n\n普通大模型回答问题，更像一场闭卷考试。它只能依靠训练过程中记住的知识进行推断。\n\nRAG则像一场开卷考试。当用户提出问题时，系统先从指定的知识库、数据库、网页或文件中找到相关内容，再把这些内容连同问题一起交给大模型。模型阅读资料后，整理出自然语言答案。\n\n例如，一名员工询问：\n\n> 公司一年有多少天带薪年假？\n\n没有RAG时，大模型可能根据一般劳动制度给出一个通用答案，但这个答案未必符合该公司的实际规定。\n\n使用RAG后，系统会先从公司的员工手册中找到“休假制度”相关段落，再要求大模型依据该段落回答，并附上文件名称或原文位置。这样得到的答案更贴近企业实际，也更容易核查。\n\nRAG这一名称来自Patrick Lewis等研究者在2020年发表的论文。该研究将预训练生成模型的“参数化记忆”与外部文档索引形成的“非参数化记忆”结合，用于知识密集型问答和文本生成任务。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2005.11401?utm_source=chatgpt.com))\n\n## 二、RAG通常怎样工作？\n\n一个基础的RAG系统可以分为“资料准备”和“问题回答”两个阶段。\n\n### 1.收集和处理资料\n\n系统首先导入可能被查询的资料，例如产品说明书、规章制度、客服记录、研究报告、网页、数据库内容和新闻文章。\n\n由于文档往往很长，系统不会直接把整份文件交给大模型，而是将其拆分成较小的文本片段。这个过程通常称为“分块”或“切片”。\n\n每个文本片段随后会通过Embedding模型转换成一组数字，也就是“向量”。这些向量可以在数学空间中表达文本的大致语义。例如，“年假规定”和“员工休假制度”虽然用词不同，但对应向量通常会比较接近。处理后的向量会被保存到向量数据库或搜索索引中。([微软学习](https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fstorage\u002Ffiles\u002Fartificial-intelligence\u002Fretrieval-augmented-generation\u002Foverview?utm_source=chatgpt.com))\n\n### 2.理解用户问题\n\n当用户提出问题时，系统同样会把问题转换成向量，有时还会先进行关键词提取、意图识别或问题改写。\n\n例如，用户问“去年买的设备还能免费维修吗”，系统可能将其改写为更适合搜索的问题：“产品保修期限和免费维修条件是什么？”\n\n### 3.检索相关内容\n\n系统将问题与知识库中的文本片段进行比较，找出语义最接近的若干段内容。\n\n实际系统通常不只使用向量检索。向量检索善于理解语义，但对产品型号、人名、编号和精确术语可能不够敏感。因此，企业级RAG经常把关键词检索与向量检索结合起来，形成“混合检索”。候选内容还可以通过Rerank模型重新排序，把真正相关的内容放在前面。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fproductdesc-agentarts0\u002Fagentarts_03_0010.html?utm_source=chatgpt.com))\n\n### 4.把资料交给大模型\n\n系统将检索到的内容放进提示词，大致形成如下指令：\n\n> 请只根据以下资料回答用户问题。资料没有提供答案时，请明确说明无法确定，并列出引用来源。\n\n大模型随后根据这些资料进行归纳、解释或总结，最终生成易于阅读的答案。\n\n因此，RAG并不是重新训练一个大模型，而是在模型回答之前，为它临时补充一份与当前问题相关的参考资料。\n\n## 三、RAG能解决什么问题？\n\n### 1.接入模型没有学过的私有知识\n\n企业合同、内部流程、项目文档和个人资料通常不会出现在大模型的训练数据中。RAG可以把这些资料接入现有模型，而不必为每批新文档重新训练模型。\n\n因此，企业知识助手、内部客服、合同查询、技术文档问答和个人知识库，都是RAG最常见的应用。\n\n### 2.使用持续更新的信息\n\n模型的训练数据存在时间边界，而外部知识库可以随时更新。只要重新收录最新文档，RAG就能在回答时使用较新的产品信息、政策内容、库存数据或新闻资料。([Google Cloud](https:\u002F\u002Fcloud.google.com\u002Fuse-cases\u002Fretrieval-augmented-generation?hl=zh-CN&utm_source=chatgpt.com))\n\n### 3.降低部分事实性幻觉\n\nRAG为模型提供了明确的参考内容，使回答能够建立在真实文档之上。它还可以要求系统为答案标记出处，方便用户返回原文核查。\n\n不过，RAG只能降低幻觉风险，不能彻底消除幻觉。如果系统找错了资料、资料本身存在错误，或者模型误解了检索结果，仍然可能生成错误答案。([WIRED](https:\u002F\u002Fwww.wired.com\u002Fstory\u002Freduce-ai-hallucinations-with-rag?utm_source=chatgpt.com))\n\n### 4.降低知识更新成本\n\n微调需要准备训练数据并执行训练过程，适合调整模型的表达方式、任务能力或行为模式。RAG则更适合补充经常变化、需要引用来源的事实知识。\n\n例如，公司制度更新时，RAG系统通常只需要更新知识库；如果试图通过反复微调让模型记住每次制度变化，成本更高，也更难保证旧知识被彻底覆盖。\n\n## 四、RAG并不是“上传文档就能准确回答”\n\nRAG的概念很直观，但真正做好并不简单。系统的最终效果取决于整条链路，而不仅仅取决于大模型能力。\n\n### 文档质量\n\n如果原始资料结构混乱、内容过时、相互矛盾，系统即使准确找到了相关段落，也可能得到错误结论。\n\n图片、扫描件、复杂表格和流程图也需要专门解析。若系统只能读取普通文本，图片中的操作步骤和表格关系可能在入库时直接丢失。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fbestpractice-agentarts\u002Fagentarts_06_0197.html?utm_source=chatgpt.com))\n\n### 文本分块\n\n切片太短，内容可能失去上下文；切片太长，又会混入大量无关信息。\n\n例如，将“退款条件”和下一节“账户注销说明”放进同一个文本块，可能让系统在回答退款问题时同时召回无关内容。合理的切片通常要参考标题层级、段落结构、表格边界和语义完整性，而不是简单地每隔固定字数切开。\n\n### 检索准确率\n\nRAG系统首先要“找对”，之后才能“答对”。\n\n如果问题是“AX-107设备的保修期”，仅依靠语义相似度，系统可能召回其他型号的保修说明。因此，实际系统往往需要结合关键词匹配、元数据过滤、混合检索和重排序。\n\n### 回答边界\n\n知识库中没有答案时，系统应当明确表示“不知道”或“资料中没有说明”，而不是让大模型根据常识自行补充。\n\n一个可靠的RAG系统不仅要评估答案是否流畅，还要评估检索是否正确、答案是否受到资料支持、引用是否准确，以及面对知识范围之外的问题能否合理拒答。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fbestpractice-agentarts\u002Fagentarts_06_0092.html?utm_source=chatgpt.com))\n\n## 五、RAG、联网搜索和模型微调有什么区别？\n\nRAG是一种架构，知识来源既可以是企业内部数据库，也可以是互联网搜索结果。\n\n联网搜索可以看成一种面向公开网络的检索方式。它能够获得较新的公开信息，但网络内容质量不一，搜索结果也可能变化。\n\n私有知识库RAG的资料范围更可控，适合企业制度、产品文档和内部数据，但只能回答知识库已经收录的内容。\n\n微调则主要改变模型的行为模式和任务能力。例如，让模型学会特定写作风格、分类规则或固定输出格式。它并不天然适合保存大量持续变化、需要精确引用的事实内容。\n\n在实际应用中，这几种技术并不冲突。一个系统可以先通过RAG获取内部资料和联网信息，再使用经过微调的模型按照规定格式生成答案。\n\n## 六、RAG适合哪些场景？\n\nRAG特别适合以下类型的应用：\n\n- 企业内部知识问答；\n- 产品客服和售后助手；\n- 法律、医疗、科研文献检索辅助；\n- 软件开发文档助手；\n- 新闻资料和政策文件查询；\n- 个人笔记与文件问答；\n- 带有来源引用的搜索和研究工具。\n\n它尤其适合那些“答案必须以指定资料为依据”的任务。\n\n相反，如果任务主要是创意写作、闲聊、翻译或通用文本润色，RAG未必能够带来明显价值。对于要求执行计算、调用接口或操作业务系统的任务，通常还需要工具调用、工作流或智能体系统配合，而不能只依赖RAG。\n\n## 七、从基础RAG到高级RAG\n\n最基础的RAG通常只是“问题向量化—检索若干片段—交给模型回答”。高级系统则会增加更多步骤，例如：\n\n- 根据对话历史改写问题；\n- 把复杂问题拆分为多个子问题；\n- 同时使用关键词检索和语义检索；\n- 根据部门、时间、权限等元数据过滤结果；\n- 对候选内容进行重排序；\n- 检查答案中的每个结论是否受到引用内容支持；\n- 检索结果不足时再次搜索；\n- 针对表格、图片、音频和视频建立多模态索引。\n\n这些改进的目标都是相同的：让系统找得更准、引用更可靠，并在缺乏依据时停止回答。相关综述通常将RAG的发展划分为基础RAG、高级RAG和模块化RAG等方向。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.19473?utm_source=chatgpt.com))\n\n## 结语\n\nRAG没有让大模型真正“记住”更多知识，而是为大模型增加了一套查找和使用外部资料的机制。\n\n它把传统搜索系统擅长的“找到信息”，与大语言模型擅长的“理解和表达”组合起来，使AI能够使用私有知识、较新资料和可追溯来源回答问题。\n\n但RAG并不是消除错误的万能方案。它的可靠性取决于资料质量、文档解析、文本分块、检索算法、提示词设计和系统评估。一个优秀的RAG应用，重点不只是让模型回答得更像人，而是让每个重要结论都能找到依据，并让系统知道什么时候不应该回答。\n\n## 引用来源\n\n1. Patrick Lewis等，《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》，NeurIPS 2020。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2005.11401?utm_source=chatgpt.com))\n2. Meta AI，《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》。([Meta AI](https:\u002F\u002Fai.meta.com\u002Fresearch\u002Fpublications\u002Fretrieval-augmented-generation-for-knowledge-intensive-nlp-tasks\u002F?utm_source=chatgpt.com))\n3. Google Cloud，《什么是检索增强生成（RAG）？》。([Google Cloud](https:\u002F\u002Fcloud.google.com\u002Fuse-cases\u002Fretrieval-augmented-generation?hl=zh-CN&utm_source=chatgpt.com))\n4. Microsoft Learn，《Retrieval Augmented Generation in Azure AI Search》。([微软学习](https:\u002F\u002Flearn.microsoft.com\u002Fen-us\u002Fazure\u002Fsearch\u002Fretrieval-augmented-generation-overview?utm_source=chatgpt.com))\n5. Amazon Web Services，《What is RAG?》。([Amazon Web Services, Inc.](https:\u002F\u002Faws.amazon.com\u002Fwhat-is\u002Fretrieval-augmented-generation\u002F?utm_source=chatgpt.com))\n6. 华为云，《RAG技术原理》。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fbestpractice-agentarts\u002Fagentarts_06_0198.html?utm_source=chatgpt.com))\n7. 华为云，《基本概念：RAG、Embedding模型、Rerank模型》。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fproductdesc-koosearch\u002Fkoosearch_03_0021.html?utm_source=chatgpt.com))\n8. 华为云，《影响RAG效果的因素》。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fbestpractice-agentarts\u002Fagentarts_06_0199.html?utm_source=chatgpt.com))\n9. 华为云，《企业知识问答助手（RAG）智能体评估》。([华为云帮助中心](https:\u002F\u002Fsupport.huaweicloud.com\u002Fbestpractice-agentarts\u002Fagentarts_06_0092.html?utm_source=chatgpt.com))\n10. Penghao Zhao等，《Retrieval-Augmented Generation for AI-Generated Content: A Survey》。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.19473?utm_source=chatgpt.com))\n11. Shangyu Wu等，《Retrieval-Augmented Generation for Natural Language Processing: A Survey》。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2407.13193?utm_source=chatgpt.com))\n12. Datawhale，《All-in-RAG：RAG技术全栈指南》。([GitHub](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fall-in-rag?utm_source=chatgpt.com))","https:\u002F\u002Foxqtewbrpuiouqqjrvdv.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fpublic-media\u002F2026-07-17\u002Fc152c56f-9e9d-4621-8467-85c414b3e101.jpg",[],[],"GPT-5.6 Sol","https:\u002F\u002Fopenai.com\u002Fzh-Hans-CN\u002Findex\u002Fgpt-5-6\u002F",{"id":88,"name":89,"slug":90,"description":91},"6179d3b6-dc34-4483-9ded-3cd9f1b37a47","科普","abbreviation","介绍各领域新兴概念",[93,94,95,96,97],{"id":24,"name":25,"slug":26},{"id":36,"name":37,"slug":38},{"id":28,"name":29,"slug":30},{"id":32,"name":33,"slug":34},{"id":98,"name":99,"slug":100},"d2513b48-43d7-49ba-adac-6d09366f751f","内容由AI生成","gen-by-ai",false,48,"2026-07-01T00:00:00.000Z","2026-07-18T15:02:36.652Z","2026-07-17T10:19:33.353Z",{"id":107,"type":6,"title":108,"slug":109,"summary":110,"body":111,"coverUrl":112,"productScreenshots":113,"productLinks":114,"authorName":115,"authorUrl":116,"authorSubject":16,"category":117,"tags":118,"sourceLabel":43,"sourceName":43,"sourceUrl":43,"status":44,"seoTitle":43,"seoDescription":43,"canonicalUrl":43,"isFeatured":101,"sno":123,"sortOrder":47,"publishedAt":124,"updatedAt":125,"createdAt":126},"35a3e5ea-b651-45b6-9b82-d0c4aac1006a","如何让内容更容易被国内大模型引用","geo-in-china","通过可抓取的页面、结构化的答案、可信的证据和多平台权威分发，让大模型更容易发现、理解、信任并引用内容。","生成式引擎优化（GEO）的核心目标是让内容更容易被AI发现、理解、采信并写入回答。\n\n大模型通常会经历“理解问题—联网检索—筛选信源—提取信息—生成回答”的过程，具体涉及：\n- 内容能否被抓取\n- 信息能否被提取\n- 观点是否可信\n- 页面是否值得引用等问题。\n\nPranjal Aggarwal等人的研究（[arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2311.09735)）指出，优化内容表达可提高其在生成式回答中的可见度，但效果受行业、平台和查询方式影响，不存在适用于所有模型的固定技巧。\n\n## 一、先解决页面能否被读取\n\n重要内容必须直接出现在页面初始HTML中，不应依赖点击、登录或复杂JavaScript接口加载。每篇内容都应具有唯一稳定URL，并正确设置标题、描述、Canonical、站点地图和内部链接。\n\n文章应明确展示发布时间、更新时间、作者、来源、所属机构和联系方式。新闻、产品、机构及问答页面可补充JSON-LD结构化数据，帮助搜索系统识别页面实体和字段关系。\n\n传统SEO仍然是GEO的基础。一个没有正常收录、页面混乱或正文无法抓取的网站，很难成为AI信源。\n\n## 二、把文章写成可直接引用的“答案模块”\n\n大模型更容易使用结构清楚、语义完整的内容。标题应对应真实问题，正文开头直接给出结论，再补充解释、数据和依据。\n\n推荐采用“问题—结论—原因—证据—操作方法”的结构，并通过小标题、短段落、步骤、对比和FAQ拆分信息。每个段落尽量独立表达一个完整观点，避免大量宣传口号、空泛背景和需要结合上下文才能理解的句子。\n\n研究发现，具有清晰定义、数字事实、比较关系和操作步骤的长篇结构化页面，更容易被生成式引擎吸收到最终答案中。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2604.25707))\n\n## 三、建立可验证的事实与证据链\n\nAI需要的不只是观点，而是能够核验的事实。文章应尽量提供数据来源、政策文件、实验方法、案例时间、统计口径和原始链接。\n\n涉及品牌、产品和机构时，应统一名称、简介、核心业务、成立时间、地域和关键数据，避免官网、公众号、百科和媒体报道之间口径冲突。重要数据需要定期更新，并明确标注更新时间。\n\n引用权威资料、加入专业术语和提供准确数据，通常比单纯增加关键词更有效。([arXiv](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2311.09735))\n\n## 四、通过第三方信源建立外部共识\n\nAI往往会综合多个来源，而不是只相信企业官网。除建设官网外，还应争取政府网站、主流媒体、行业协会、学术机构、专业社区和垂直平台的独立报道或引用。\n\n第三方内容不应只是重复新闻稿，而应从不同角度提供事实、评价、案例和数据，使品牌信息形成跨网站一致的“外部共识”。相关研究发现，生成式搜索对权威第三方信源的偏好通常高于品牌自有内容。([arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2509.08919))\n\n## 五、针对国内平台进行差异化分发\n\n豆包、千问、文心、元宝、DeepSeek和Kimi的搜索入口、生态内容及引用结果并不完全相同。行业实践普遍观察到，平台可能更容易调用与自身搜索或内容生态连接紧密的信源，但这种偏好会随版本、问题和搜索模式变化，不能视为固定规则。([智推时代 GenOptima](https:\u002F\u002Fzhituishidai.com\u002Fblog\u002Fzh-domestic-ai-platforms-explained.html))\n\n实际执行中，可将同一核心事实适配为官网深度文章、新闻报道、公众号内容、问答页面和行业报告，而不是把完全相同的稿件机械复制到所有平台。\n\n## 六、建立持续监测机制\n\nGEO不能通过一次提问判断效果。应建立覆盖品牌词、行业词、地域词、对比词和购买决策词的问题库，定期在六个模型中重复测试。\n\n核心指标包括品牌提及率、信源引用率、引用位置、事实准确率、核心问题覆盖率和竞品共现率。由于大模型回答具有随机性，同一问题需要采用多种表述并重复测试。监测结果应继续反哺选题、页面结构、内容更新和分发渠道。([阿里云开发者社区](https:\u002F\u002Fdeveloper.aliyun.com\u002Farticle\u002F1747099))\n\nGEO最有效的路径可以概括为：先让页面可抓取，再让内容可提取；用事实建立可信度，用第三方信源建立共识，最后通过多模型监测持续修正。与其寻找短期技巧，不如把网站建设成长期稳定、结构清晰、证据充分的高质量信息源。","https:\u002F\u002Foxqtewbrpuiouqqjrvdv.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fpublic-media\u002F2026-07-17\u002F7d9c4c0e-eb28-4011-9b18-f7e7212eaa9f.jpg",[],[],"龙家轩","https:\u002F\u002Fweatheraintbad.com",{"id":18,"name":19,"slug":20,"description":21},[119,120,121,122],{"id":28,"name":29,"slug":30},{"id":32,"name":33,"slug":34},{"id":68,"name":69,"slug":70},{"id":36,"name":37,"slug":38},49,"2026-07-17T00:00:00.000Z","2026-07-17T04:46:24.281Z","2026-07-17T04:40:14.581Z"]