IBM Granite

借助专为提高开发人员效率而设计的 Granite 小型开放式模型,可实现 90% 以上的成本节余*

了解 Granite

我们推出第三代 AI语言模型现已推出。这些企业级模型适合特定用途并采用开源模式,可根据安全基准提供卓越的性能,且适用于多种企业任务,包括网络安全、RAG 等。

为什么选择 Granite?
开放

选择合适的模型,参数从数亿到 340 亿,采用 Apache 2.0 开源许可。

性能良好

不要为了降低成本而牺牲性能。在各种企业任务中,Granite 的表现均优于同类模型1

可信

构建具有全面的风险和危害检测功能、透明度和知识产权保护的负责任 AI。

模型

Granite 语言模型

为代理式工作流程、RAG、文本摘要、文本分析和提取、分类以及内容生成而设计的基础模型和指令微调语言模型,同时附带新的推理功能。

在 Hugging Face 上获取语言模型
Granite 视觉模型

预训练模型专门用于文档和图像理解的视觉任务,支持一系列文件类型和分辨率,并旨在企业环境中进行高效部署。

在 Hugging Face 上获取视觉模型
Granite 用于编程

专为代码生成任务(包括代码生成、代码解释和代码编辑)设计的纯解码器模型,使用了以 116 种编程语言编写的代码进行训练。

在 Hugging Face 上获取编程模型
Granite 用于时序预测

用于时间序列预测的轻量化预训练模型,可在一系列硬件配置上高效运行。

在 Hugging Face 上获取时序预测模型
Granite Guardian

利用 Granite Guardian 保护 AI,确保企业数据安全并缓解多种用户提示和 LLM 回复的风险,并在 15 项以上安全基准测试中表现出一流性能。

在 Hugging Face 上获取 Granite Guardian
Granite 用于地理空间数据

NASA 和 IBM 联手利用大规模卫星和遥感数据,创建了地球观测 AI 基础模型。

在 Hugging Face 上获取地理空间模型
Granite 嵌入式模型

旨在极大地提高对用户意图的理解,并在响应查询时提高信息和信息源的相关性。

在 Hugging Face 上获取嵌入式模型

基准测试

将推理功能应用于 Granite 后,复杂指令遵循能力得到显著提高,同时依然具备常规的性能与安全特性,而同类模型在这些领域则表现不佳

查看更多基准测试
基准 Granite 使用推理

Granite-3.2-8B-Instruct

Llama 使用推理

DeepSeek-R1-Distill-Llama-8B

Qwen 使用推理

DeepSeek-R1-Distill-Qwen-7B

ArenaHard

遵循指令

55.23

17.17

10.36

Alpaca-Eval-2

遵循指令

61.16

21.85

15.35

IFEval

遵循指令

73.57

66.50

59.10

MMLU
一般情况

66.93

45.80

50.72

PopQA
一般情况

28.08

13.25

9.94

TruthfulQA
一般情况

66.37

47.43

47.14

BigBenchHard

一般情况

65.60

65.71

65.04

DROP

一般情况

50.73

44.46

42.76

GSM8K

数学

83.09

72.18

78.47

HumanEval

代码

89.47

67.54

79.89

HumanEval+

代码

86.88

62.91

78.43

AttaQ

安全性

85.99

42.87

42.45

*所示价格仅供参考,可能会因国家或地区而异,不含任何适用税款和关税,并视当地产品供应情况而定。

铺就成功之路

“在 CrushBank,我们亲眼目睹了 IBM 的开放式高效 AI 模型如何为企业 AI 带来真正的价值—同时,它还在性能、成本效益和可扩展性之间实现了适度平衡。Granite 3.2 凭借新的推理功能实现了进一步飞跃,而我们也很高兴能在构建新的代理式解决方案时深入了解这些功能。”

David Tan
首席技术官
CrushBank

Yellow stylized swoosh tennis ball with blue "us open" below in white background

美国网球公开赛使用 Granite 基础模型来为数百场比赛提供解说。通过利用 Granite 所创建的比赛报告增加了 220%。

 

进一步深入了解
Lockheed Martin & Astris AI logos PNG - white background

Lockheed Martin 及其全新子公司 Astris AI 将 IBM 的最新 Granite 模型以及其他高性能开源模型集成到其 AI Factory 工具中,以便加快面向企业与国家安全应用程序的 AI 驱动式开发。

阅读新闻稿
ESPN Fantasy Football logo formatted at 16:9 for use on ibm.com/sports only.

每秒数千次的点击率以及无限量的自定义设置?ESPN Fantasy 应用程序需为 1,200 万粉丝提供大规模的个性化解释能力。Granite 做到了。

了解其中诀窍
Blue Pearl logo PNG - white background

Blue Pearl 通过在 Granite 上构建的工作匹配引擎,成功将数据处理和分析时间缩短了 65%。

了解更多

教程

使用 Docling 和 Granite 3.1 构建基于文档的问答系统

使用 IBM Docling 和开源 Granite 3.1 对各种文件类型执行文档视觉问答

在 watsonx.ai 中使用 Granite-3.0-8B-Instruct 构建 LangChain 代理 RAG 系统

了解如何构建回答问题的 AI 代理

使用 IBM Granite 3.0 8B Instruct 进行函数调用

在本教程中,您将使用现已在 watsonx.ai 上提供的 IBM Granite-3.0-8B-Instruct 来执行自定义函数调用。

借助 watsonx 以 Python 语言对 Granite-3.0-8B-Instruct 进行训练后量化

以几种不同的方式量化预训练模型,以显示模型的大小并比较它们执行任务时的表现

使用基础模型进行时间序列预测

使用 TinyTimeMixer (TTM) Granite 模型,通过学习预测未来

使用 LLM 从文本生成 SQL

将文本转换为结构化表示形式,并生成语义正确的 SQL 查询

使用 IBM® Granite Code、Ollama 和 Continue 构建本地 AI 辅助决策工具

使用包含正面和负面客户评论的合成数据集,以 Python 对 Granite 模型进行提示微调。

查看完整的 Granite 指南

查看完整的 Granite 指南

使用 Granite 构建

利用 Red Hat Enterprise Linux AI 和 watsonx 在生产环节通过开源 Granite 模型自信地大规模部署 AI。利用工具调用、12 种语言、思维链推理和多模态适配器等功能,更快地进行构建

实时掌控 AI 资讯

博客 | Granite 3.2:全新推理和多模态能力

最新的 Granite 模型引入了新的推理功能、支持视觉的模型以及更高的效率,从而能以更低的成本提供富有竞争力的成果

播客 | DeepSeek 的事实与炒作、模型蒸馏与开源竞争

在《混合专家》第 40 集中,嘉宾组澄清了有关 DeepSeek R1 的误解,解释了模型蒸馏,并剖析了开源竞争态势。

AI Think 时事通讯 | 获取 AI 洞察分析

将精选的 AI 主题、趋势和研究直接发送到您的收件箱。

文章 |DeepSeek 的 AI 展示了小模型的威力

据该公司介绍,DeepSeek-R1 是一款数字助理,在某些涉及数学和编码任务的 AI 基准测试中,其表现可与 OpenAI 的 o1 相媲美,但训练时所采用的芯片数量却远远少于后者,且使用成本大约降低了 96%。

阅读 IBM 关于知识产权保护的声明

IBM 相信,AI 模型的创建、部署和运用能够负责任地推进整个企业的创新。IBM watsonx AI 和数据平台具有构建和测试基础模型以及生成式 AI 的端到端流程。针对 IBM 开发的模型,我们会在模型训练之前搜索并删除重复项,并使用 URL 拦截列表技术、不良内容和文档质量过滤器、句子分割和标记化技术。

在数据训练过程中,我们力求防止模型输出失准,并使用监督微调来改善指令跟踪,以便借助提示工程将模型用于企业任务。我们将继续朝着多个方向开发 Granite 模型,包括其他模态、特定行业内容和更多用于训练的数据注释,同时还将为 IBM 开发的模型部署定期、持续的数据保护措施。

鉴于生成式 AI 技术的日新月异,我们端到端的流程有望不断发展和完善。作为 IBM 在其基础模型开发和测试中投入的严谨性证明,IBM 为其开发的模型提供标准的合同知识产权赔偿,类似于为 IBM 硬件和软件产品提供的赔偿。

与其他一些大型语言模型提供商不同,IBM 不要求客户因使用 IBM 开发的模型而赔偿 IBM,这是 IBM 的标准赔偿惯例。此外,IBM 对自身开发的模型未设置赔偿责任上限,这也符合 IBM 的一贯赔偿义务做法。

受上述保护的 watsonx 模型目前包括:

(1) Slate 系列纯编码器模型。

(2) Granite 系列纯解码器模型。

了解有关 Granite 模型许可的更多信息

脚注

* 规模较小的行业定制 AI 模型如何提供更大的优点 
https://www.ft.com/partnercontent/ibm/how-smaller-industry-tailored-ai-models-can-offer-greater-benefits.html

1 IBM Research 将 Granite 模型与领先开放式模型在各项学术和企业基准测试中的性能表现进行比较 - https://ibm.com/new/ibm-granite-3-0-open-state-of-the-art-enterprise-models