微软发布Phi-4生成式AI模型
微软宣布推出了其Phi系列生成式AI模型的新成员——Phi-4。与前几代相比，Phi-4在解决数学问题方面表现出显著改进，这得益于训练数据质量的提升。
特点和可用性
- 功能增强：Phi-4在解决问题的能力上有所提高。
- 参数规模：该模型包含140亿个参数，属于小型语言模型范畴。与GPT-4o mini、Gemini2.0Flash 和 Claude3.5Haiku等其他小型模型相比，Phi-4具有更快的运行时间和更低的成本。
- 可用性限制：截至周四晚间，Phi-4仅限于微软新推出的Azure AI Foundry开发平台，并且根据微软的研究许可协议，目前仅供研究用途。
性能改进
性能提升主要归功于使用了“高质量合成数据集”以及源自人类生成内容的高质数据集，此外还涉及未公开的训练改进方法。许多AI实验室正在密切关注合成数据和后训练对模型性能的影响。Scale AI CEO Alex Wang在推文中表示：“我们已经达到了预训练数据瓶颈。”这一观点也证实了近期关于该话题的一些报道。
重要事件
- Phi-4是微软AI副总裁Sbastien Bubeck离职后的首个Phi系列发布，Bubeck曾对微软的AI领域发展发挥过重要作用，并在2023年10月离开微软加入OpenAI。
