Home » 微软为新的小型人工智能模型Phi-2注入强大动力

微软为新的小型人工智能模型Phi-2注入强大动力

by v

微软研究院宣布发布小型人工智能模型 Phi-2。

微软研究院(Microsoft Research)宣布推出小型语言模型(SLM)Phi-2,该模型以其尺寸展现了非凡的能力。该模型于今天发布,在微软的 Ignite 2023 大会上首次亮相,萨蒂亚-纳德拉(Satya Nadella)在大会上强调了该模型能够以极少的训练数据实现最先进的性能。

与 GPT、Gemini 和其他大型语言模型(LLM)不同,SLM 在有限的数据集上进行训练,使用的参数更少,运行所需的计算量也更少。因此,SLM 无法像大型语言模型那样具有广泛的通用性,但在特定任务上却非常出色和高效,比如 Phi 的数学和计算任务。

据微软称,拥有 27 亿个参数的 Phi-2 展示了良好的推理能力和语言理解能力,可与规模是其 25 倍的模型相媲美。这得益于微软研究院对高质量训练数据和先进扩展技术的关注,使得该模型在数学、编码和常识推理等多项基准测试中均优于其前辈。

“Phi-2只需27亿个参数,就能在各种综合基准测试中超越Mistral和Llama-2模型在70亿和130亿个参数下的表现,”微软说,这是对谷歌最新人工智能模型的低劣打击: “此外,Phi-2 与最近发布的谷歌 Gemini Nano 2 不相上下,甚至更胜一筹,尽管其尺寸更小。

Source: Microsoft

Source: Microsoft


Gemini Nano 2 是谷歌在能够本地运行的多模式 LLM 上的最新赌注。它是作为 Gemini 系列 LLM 的一部分发布的,预计将在谷歌的大多数服务中取代 PaLM-2。

不过,微软对人工智能的态度并不局限于模型开发。据 TCN 报道,Maia 和 Cobalt 定制芯片的推出表明,该公司正朝着全面整合人工智能和云计算的方向迈进。这些针对人工智能任务进行了优化的计算机芯片,支持微软协调硬件和软件能力的更大愿景,并与谷歌 Tensor 和苹果新的 M 系列芯片展开直接竞争。

值得注意的是,Phi-2 是一种小型语言模型,可以在低层设备上本地运行,甚至有可能在智能手机上运行,这为新的应用和用例铺平了道路。

随着 Phi-2 进入人工智能研发领域,它在 Azure AI Studio 模型目录中的可用性也是实现人工智能研究民主化的一步。微软是为开源人工智能开发做出贡献最积极的公司之一。

随着人工智能领域的不断发展,微软的Phi-2证明了人工智能世界并不总是要想得更大。Phi-2是一个小型语言模型(SLM),以其体积而言具有非凡的能力。该模型于今天发布,在微软的 Ignite 2023 大会上首次亮相,萨蒂亚-纳德拉(Satya Nadella)在大会上强调了该模型能够以极少的训练数据实现最先进的性能。

与 GPT、Gemini 和其他大型语言模型(LLM)不同,SLM 在有限的数据集上进行训练,使用的参数更少,运行所需的计算量也更少。因此,SLM 模型无法像大型语言模型那样具有广泛的通用性,但在特定任务上却非常出色和高效,比如 Phi 的数学和计算任务。

据微软称,拥有 27 亿个参数的 Phi-2 展示了良好的推理能力和语言理解能力,可与规模是其 25 倍的模型相媲美。这得益于微软研究院对高质量训练数据和先进扩展技术的关注,使得该模型在数学、编码和常识推理等多项基准测试中均优于其前辈。

“Phi-2只需27亿个参数,就能在各种综合基准测试中超越Mistral和Llama-2模型在70亿和130亿个参数下的表现,”微软说,这是对谷歌最新人工智能模型的低劣打击: “此外,Phi-2 与最近发布的谷歌 Gemini Nano 2 不相上下,甚至更胜一筹,尽管其尺寸更小。

Source: Microsoft

Source: Microsoft


Gemini Nano 2 是谷歌在能够本地运行的多模式 LLM 上的最新赌注。它是作为 Gemini 系列 LLM 的一部分发布的,预计将在谷歌的大多数服务中取代 PaLM-2。

不过,微软对人工智能的态度并不局限于模型开发。据 TCN 报道,Maia 和 Cobalt 定制芯片的推出表明,该公司正朝着全面整合人工智能和云计算的方向迈进。这些针对人工智能任务进行了优化的计算机芯片,支持微软协调硬件和软件能力的更大愿景,并与谷歌 Tensor 和苹果新的 M 系列芯片展开直接竞争。

值得注意的是,Phi-2 是一种小型语言模型,可以在低层设备上本地运行,甚至有可能在智能手机上运行,这为新的应用和用例铺平了道路。

随着 Phi-2 进入人工智能研发领域,它在 Azure AI Studio 模型目录中的可用性也是实现人工智能研究民主化的一步。微软是为开源人工智能开发做出贡献最积极的公司之一。

随着人工智能领域的不断发展,微软的Phi-2证明了人工智能世界并不总是要想得更大。有时,更小更智能才是最大的力量。

Related Posts

Leave a Comment