亚马逊云：Llama 3.1系列模型已在 Amazon Bedrock 可用

归纳总结：

1. 发布背景及内容

   • 亚马逊云科技宣布在Amazon Bedrock上提供由Meta开发的Llama3.1系列AI模型。
   • Llama3.1系列包括8B、70B和405B三种参数量的模型。

2. 模型特点与能力

   • 参数量及性能：具有8B、70B和405B参数量，在行业基准测试中展现先进性能。
   • 上下文长度：支持128K的上下文长度，是前一代Llama3模型的16倍。
   • 多语种支持：支持八种语言（英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语）的对话用例。

3. 具体模型及应用场景

   • Llama3.1405B：最大的大型语言模型，适合企业级应用及研发，擅长通用知识、长篇文本生成、多语种翻译等高级功能。
   • Llama3.170B：适合内容创作、对话式AI及企业应用，专注于文本摘要、分类、情感分析、代码生成等。
   • Llama3.18B：适合低计算资源环境，专注于低延迟推理需求下的文本摘要、分类、情感分析及语言翻译。

4. 性能评估

   • Meta通过超过150个基准数据集进行测试，并大量人工评估，Llama3.1在主要基准测试类别中表现优于Llama3。

5. 安全与治理功能

   • 数据治理与评估：结合负责任AI功能，提供数据治理和模型评估功能，帮助构建安全可靠的生成式AI应用程序。
   • 定制保护措施：Amazon Bedrock Guardrails允许用户创建定制的保护措施，促进安全交互，并持续监控和分析用户输入及模型响应。
   • 模型选择：提供自动或人工评估功能，帮助用户选择最佳Llama模型。

Source:https://www.aibase.com/news/10547