红帽企业级Linux AI平台RHEL AI最新版本1.3发布分析
红帽最近发布了其企业级Linux AI平台——RHEL AI的最新版本1.3，增加了对IBM Granite大型语言模型（LLM）的支持，并预告了对Intel Gaudi3加速器的支持。此次更新为红帽的服务合作伙伴和系统集成商提供了更多机会，帮助企业更有效地探索和整合AI应用。
主要特点：
- 支持IBM Granite LLM：RHEL AI 1.3版本特别设计用于开发、测试和运行企业应用的生成式AI模型。该版本增加了对IBM开源许可的Granite大型语言模型的支持，并利用了开源技术进行数据准备。
- Intel Gaudi3加速器预览支持：新版本还提供了技术预览级别的Intel Gaudi3加速器支持，允许用户在实时处理过程中并行处理多个请求，并动态调整LLM参数。
其他功能：
- Docling项目支持：RHEL AI 1.3支持IBM Research的Docling开源项目，该工具可以将常见文档格式转换为Markdown、JSON等用于生成式AI应用和训练的格式。
- 结构感知分块能力：新版本具有考虑文档结构和语义元素的上下文感知分块功能，旨在提高生成式AI响应的质量。
红帽的目标：
红帽副总裁兼总经理Joe Fernandez表示，服务合作伙伴和系统集成商在帮助企业实施各种应用案例中扮演着至关重要的角色。他指出，生成式AI的复杂性使这些合作伙伴能够为客户提供更具成本效益的解决方案。通过使用较小的模型、简化模型与客户数据及应用场景的整合，并提供混合环境部署的灵活性来降低成本。
总体而言，RHEL AI 1.3旨在降低企业应用中AI模型的成本和复杂度，推广灵活的混合云部署。
