科技巨头微软发布了一种名为 “思想算法”（AoT）的新人工智能训练方法，旨在使大型语言模型（如 ChatGPT）的推理能力更高效、更像人类。
微软在人工智能领域投入了巨资，尤其是在 OpenAI（DALL-E、ChatGPT 和强大的 GPT 语言模型的创建者）上。
微软表示，AoT 技术有可能改变游戏规则，因为它能 “引导语言模型通过更简化的路径解决问题”。这种新颖的方法利用 “上下文学习”，使模型能够有条不紊地系统探索不同的解决方案。
结果如何？解决问题的速度更快、资源消耗更少。
“我们的技术优于以前的单查询方法，与最近采用广泛树搜索的多查询方法不相上下。”有趣的是，我们的研究结果表明，用算法指导模型可以使性能超越算法本身。
研究人员称，当这种技术优化了模型的搜索过程时，模型获得了更好的 “直觉”。
人类与算法的混合体？
AoT方法解决了当前上下文学习技术（如 “思维链”（CoT）方法）的局限性。CoT 有时会提供不正确的中间步骤，而 AoT 则利用算法实例来指导模型，从而获得更可靠的结果。
AoT 从人类和机器中汲取灵感，以提高人工智能生成模型的性能。人类擅长直觉认知，而算法则以有组织、详尽的探索著称。研究论文称，”思维算法 “试图 “融合这两个方面，增强 LLM 的推理能力”。
微软表示，这种混合技术使模型能够克服人类工作记忆的局限性，从而对想法进行更全面的分析。
与CoT的线性推理或 “思维树”（ToT）技术不同，AoT允许对子问题的不同选项进行灵活的思考，只需极少的提示即可保持功效。它还能与外部树形搜索工具相媲美，有效平衡成本和计算量。
总的来说，AoT 代表着从监督学习到整合搜索过程本身的转变。研究人员认为，通过对提示工程的改进，这种方法可以使模型高效地解决复杂的现实世界问题，同时还能减少对碳的影响。
鉴于其在人工智能方面的大量投资，微软似乎有能力将 AoT 纳入 GPT-4 等先进系统中。尽管具有挑战性，但教语言模型以这种更人性化的方式 “思考”，可能会带来变革。
