AI-NEWS · 2024年 7月 19日

给力!微软Azure AI正式上线GPT-4o mini 成本更低、速度更快

归纳总结:

  1. 新模型发布

    • OpenAI 发布了 GPT-4o mini 模型,并在微软 Azure AI 平台上线。
    • 初期支持文本处理,未来将扩展至图像、音频和视频功能。
  2. 性能与成本优势

    • GPT-4o mini 在大规模多任务语言理解(MMLU)测量中得分82%,显著高于 GPT-3.5Turbo 的70%。
    • 成本降低60%以上。
    • 提供128K的扩展上下文窗口,改进多语言功能。
  3. 安全性与可用性

    • Azure AI 为 GPT-4o mini 提供默认安全性和扩展数据驻留。
    • 服务可用性升级,适用于助手、代码解释器和检索等场景。
  4. 灵活付费与高吞吐量

    • 全球随用随付部署选项,每分钟1500万个token(TPM)的吞吐量。
    • 99.99%的可用性,与OpenAI相同的行业速率。
    • Batch服务通过非高峰容量以50%的折扣率交付高吞吐量作业。
  5. 微调与成本效益

    • 本月将推出GPT-4o mini的微调功能,客户可根据具体用例定制模型。
    • 微软 Azure AI 已将托管费用降低43%,结合低廉的推理价格,使微调部署更具成本效益。
  6. 计划重点

    • GPT-4o mini 登陆 Azure AI,速度快,功能全面。
    • 新模型比前代智能且便宜60%以上,提供广泛上下文窗口和多语言功能。
    • Azure AI 提供全球随用随付部署选项,保证高吞吐量和99.99%可用性。

Source:https://www.aibase.com/news/10438