2024年12月18日，IBM研究院（美国纽约阿蒙克）宣布推出全新开源LLM模型“Granite 3.1”系列。上一个版本 Granite 3.0 于 2023 年 10 月发布，IBM 的生成式 AI 相关业务规模已达到约 20 亿美元（约 2860 亿日元）。
新型号的主要特点
上下文长度已扩展到 128,000 个标记，比之前模型的 4,000 个标记有了显着改进。主模型Granite 8B Instruct使用80亿个参数，英文嵌入模型Granite-Embedding-30M-English实现0.16秒/查询的处理速度。
性能比较及提供形式
它的性能优于 OpenLLM 排行榜上的类似模型，包括 Meta Llama 3.1、Qwen 2.5 和 Google Gemma 2。该模型作为开源免费提供，也可在 IBM 的 Watsonx 企业 AI 服务上使用。
未来发展
具有多模式功能的 Granite 3.2 计划于 2025 年初发布，新功能预计将在 IBM Think Conference 2024（计划于 2024 年 5 月）上公布。
从：IBM 希望通过其新的开源 Granite 3.1 模型成为企业 LLM 之王
【编辑部评论】
IBM 宣布花岗岩3.1这可以说是为企业指明人工智能新趋势的重要一步。特别值得注意的是摆脱对大规模模型的依赖而转向高效的小规模模型的策略。
在公司实施人工智能的最大挑战之一是平衡成本和可靠性。尽管 Granite 3.1 是一个相对较小的模型，具有 8B 参数，但它的性能优于 Meta Llama 3.1 和 Google Gemma 等竞争模型。这反映了 IBM 对训练质量和效率而非模型大小的关注。
特别值得注意的是 128K 令牌的扩展上下文长度。这使得处理长文档和复杂对话成为可能，预计在公司文档处理和客户支持中特别有用。
另一个不可忽视的功能是它能够防止产生幻觉。从依赖传统的外部护栏转向将幻觉检测功能纳入模型本身，有可能显着提高企业中人工智能使用的可靠性。
此外，通过采用开源策略，公司可以定制模型以满足他们的需求。这是，防止AI成为“黑匣子”，实现高度透明的AI利用。
另一方面，也存在挑战。 IBM 进入生成人工智能市场相对较晚，需要将自己与竞争对手区分开来。此外，小规模模型的性能提升是有限的，而大规模模型可能在某些任务中继续具有优势。
展望未来，计划于 2025 年初增加的多模态功能将实现包括图像和音频在内的复杂数据处理，预计将进一步扩大企业利用人工智能的范围。
对于企业 IT 部门来说，实施 Granite 3.1 可能是经济高效地利用人工智能的第一步。特别是对于重视数据隐私和安全的公司来说，开源模型选择的增加是个好消息。
技术解释：为什么 Granite 3.1 具有开创性
花岗岩3.1创新在于“效率”与“实用”的结合。尽管8B的参数数量相对较少，但仍能实现高性能的原因在于使用了IBM的多阶段训练管道和高质量的数据集。
特别值得注意的是可以直接集成到企业工作流程中的功能。例如，函数调用幻觉检测提高了人工智能代理与外部系统交互时的可靠性。这对于企业系统集成具有重要意义。
此外，与 Watsonx 平台的集成可以实现从模型开发到部署和监控的一致管理。从企业人工智能治理的角度来看，这可以被认为是一个重要的发展。
[参考链接]
- IBM watsonx.ai（外部）
IBM 的集成 AI 开发平台。我们提供各种人工智能工具，包括 Granite 模型。 - OpenLLM 排行榜（外部）
一个允许您比较和评估开源 LLM 表现的平台。