什么是AI连贯性？比人类说话更有逻辑！

banq

AI 需要连贯性，就是说它要像人一样，说话和做事都有条理，不会乱七八糟。有些人类说话都不连贯，但 AI 要做到更好。

连贯性就是 AI 能在不同情况下保持逻辑一致，比如知道因果关系（为什么事情会发生），还能预测未来和做计划。它不仅仅是回答问题，还要理解世界是怎么运作的。

  • 人工智能系统中的连贯性代表了它们在不同上下文情境和任务中保持一致、逻辑相连的思维和行为模式的能力。
  • 可以将连贯性视为系统创建统一、内部一致的现实和推理模型的能力。

连贯的系统：

  • 不仅仅是模式匹配或产生局部合理的输出 ，
  • 它还展示了对因果关系、一致性和现实世界动态的基本理解，
  • 因果关系、预测和计划。

Sam Altman（OpenAI 的老板）希望 AI 能做到更厉害的事情，比如发明新的物理学。现在，像 Sonnet 3.5 这样的 AI 模型已经变得非常聪明，不仅能理解输入和输出，还能分析自己的思维模式，甚至知道自己是怎么“注意”某些事情的。

总体来说，这些模型的内部表示已经变得足够复杂，远远超出了模式匹配输入输出对的范围。

这些大模型可以递归地理解自己的模式，甚至可以注意到自己的注意力头在行动中的行为。

你知道这意味着什么吗？

  • 它们就可以引导自己的注意力并开始进行元认知，这意味着 AI 可以引导自己的注意力，知道自己知道什么，还能思考怎么更好地理解世界。
  • 再发展一点，AI 可能会比 99% 的人类更聪明，因为它已经学会了所有人类的知识。

也就是说，从实践层面来看：

  • 这意味着了解它们知道什么，以及如何更好地思考它们的世界模型。
  • 只要稍微扩大一点，你就拥有了超越人类的推理能力。
  • 我说的是超越 99% 人类的心理抽象，它们预装了所有人类知识。

这就是为什么 OpenAI 的人不再只谈 AGI（通用人工智能），而是开始讨论 ASI（超级人工智能）了。简单来说，AI 正在变得越来越聪明，甚至可能比人类更厉害！