通过AI扩展人类智能

概览

现代AI系统之所以强大，并非因为它们复制了人类智能，而是因为它们预设了人类智能——通过扩展人类认知和语言中已有的结构。这一视角有助于解释AI的卓越能力及其反复出现的边界，包括幻觉（hallucination）和推理崩溃。本研究认为，AI安全是一个系统层面的挑战，将关注点从"失控AI"叙事转向利用工程和治理手段。将AI理解为人类智能的扩展——而非替代——为构建可信AI系统提供了更扎实的路径。

如今的AI系统能写文章、生成代码、总结复杂概念，并以惊人的流畅度进行对话。然而，这些系统在人类觉得直观的任务上仍然挣扎：可靠地追踪变化中的物体、在陌生情境中进行组合推理、或区分真相与貌似合理的虚构。这些矛盾引发了关于AI的两极分化争论。一些人将当前系统视为类人智能的早期形态；另一些人则将其斥为高级自动补全。

在近期的跨学科工作中——包括Adam Frank、Marcelo Gleiser和Evan Thompson的《盲点》（在新标签页中打开）以及DeepMind研究员Alexander Lerchner的《抽象谬误》（在新标签页中打开）——一幅不同的图景正在浮现。这些方法不是追问AI系统是否正在变得像人类一样智能，而是提出了一个更基本的问题：如果AI系统之所以有效，是因为它们依赖于根植于人类认知的结构呢？这种借鉴了埃德蒙德·胡塞尔现象学的视角转变，有助于理解现代AI的能力和局限。

在我们最近的论文《人工智能在自然智能中的起源》中，我们认为，现代AI系统既不应被理解为人类心智，也不应被理解为琐碎的统计技巧。相反，它们扩展了源自人类认知本身的结构。进一步借鉴胡塞尔的现象学，该论文提出，语言已经包含了人类理解的沉淀结构——AI系统学习建模和扩展的正是这些结构。这一视角有助于解释当代AI的能力和边界。

人类认知与语言的结构

人类感知并非简单地被动接收感官数据。我们体验世界的方式是：稳定的事物在变化中展开——当我们绕着杯子移动时，它仍然是同一个杯子；即使单个音符消逝，旋律仍然可识别。语言通过以概念形式表达这些稳定结构而出现。"红色"、"圆形"或"大于"等词语表达了源于生活经验的关系。

大语言模型学习这个语言世界中的统计关系。它们捕捉概念在大量人类写作中如何相互关联。这解释了为什么AI系统能在多个领域产生连贯的回应。但这也解释了为什么它们会产生幻觉。人类始终对世界负责：经验不断纠正我们的预期和信念。相比之下，AI系统扩展的是文本内部的模式。它们能以惊人的流畅度延续推理线索，但缺乏与世界的活生生的接触——正是这种接触锚定了意义和真理。

AI扩展人类认知

这一框架有助于解释AI研究中几个反复出现的挑战。其中之一是"组合性差距"——语言模型在熟悉的推理模式上表现良好，但在被要求以真正新颖的方式组合概念时却失败的趋势。研究越来越多地表明，更大的模型在提升流畅度和事实回忆方面的速度远快于提升真正的组合推理。从我们的视角来看，这不仅仅是工程上的限制，而是一个结构性边界：AI系统可以扩展语言中已沉淀的模式，但它们不具备那种面向世界的理解力——正是这种理解力让人类能够生成真正新颖的概念关系。

类似模式也出现在结合语言和视觉的多模态系统中。这些系统通常能正确标注图像，但在关于物体及其部件的稳健推理上仍然失败。它们学习视觉模式与语言之间的相关性，而不是像人类那样感知随时间展开的稳定物体。结果就是，系统可能表现出令人印象深刻的流畅性，但在熟悉模式之外却惊人地脆弱。

重新思考AI安全

这一视角也重新框定了关于AI安全的辩论。公众讨论常常在"失控超级智能"的恐惧和AI几乎不构成有意义风险的主张之间摇摆。我们的研究表明，这两种极端都误解了当前系统的本质。最直接的风险并非源于AI拥有类人意图，而是因为它能在没有对世界进行反思性负责的情况下扩展推理模式。系统可以生成有说服力但无根据的输出，大规模自动化有缺陷的决策，或者在嵌入治理不善的环境时执行有害行为。

这有助于解释为什么AI安全正日益从模型安全转向系统安全。在实践中，组织已经依赖分层防护措施——业界越来越多地称之为"约束装置"——来约束、验证和监控AI行为。我们的论文认为，这些机制并非临时补丁，而是反映了AI架构本身的一些基本特性：可信行为源于对AI系统行为负责的构建者的工作，这种责任不能委托给模型或与模型分担。

这种解释与企业日益采用的部署可信AI的方法高度一致。组织需要能够扩展人类智能，同时保持可治理、可审计并与人类监督一致的AI系统。将AI理解为一种衍生形式的智能，有助于阐明为什么分层治理、评估和操作控制如此重要。

展望未来

展望未来，我们认为现象学提供的不仅仅是对AI的批判——它提供了一个理解AI前景的框架。AI系统揭示了人类认知本身的一些深刻之处：意义可以被形式化、扩展并以强大的新方式进行规模化。

因此，AI的核心社会风险在于踢开其源于人类经验和认知的梯子——将AI误解为一种削弱我们人性的竞争性智能，从而反过来削弱AI本身的真正前景。

那么，问题不在于AI是否会取代人类智能。而在于我们如何负责任地构建能够扩展人类理解，同时仍然扎根于这种理解所源自的世界的系统。如果我们把AI系统误认为是自主心智，我们就有过度信任它们的风险。如果我们将其斥为琐碎的技巧，我们就有忽视我们这个时代最重要的技术发展之一的风险。一个更扎实的解释同时承认这两个真相：AI是人类智能的真正扩展——正因为如此，人类仍然对其如何被理解、治理和使用负有责任。

在新标签页中打开

《通过AI扩展人类智能》一文最初发表于微软研究院。