微软今天宣布推出 14B 参数 “最先进” 小型语言模型(SLM)Phi-4。除了传统的语言处理外,它还擅长数学等领域的复杂推理。
Phi-4 是 Phi 系列小型语言模型的最新成员,官方表示其展示了微软继续探索 SLM 边界的可能性。
微软表示,得益于多方面的技术进步,包括采用高质量的合成数据集、精心挑选的高质量有机数据,以及训练后的创新,Phi-4 在数学推理方面超越了同类和更大规模的模型。
其在数学竞赛问题上的表现超过了包括 Gemini Pro 1.5 在内的多个更大规模模型。
有关基准测试结果的技术论文:https://arxiv.org/abs/2412.08905
微软表示会将 “强大且负责任” 的 AI 能力提供给所有使用 Phi 系列模型(包括 Phi-3.5-mini)的客户。