ホーム
Granite
第3世代のAI言語モデルが登場しました。目的に適合し、オープンソース化されたエンタープライズ対応モデルは、安全性ベンチマークに対して、またサイバーセキュリティーからRAGまでの幅広いエンタープライズ・タスクにわたって優れたパフォーマンスを発揮します。
エージェント型ワークフロー、RAG、テキスト要約、テキスト分析・抽出、分類、コンテンツ生成のために設計されたベースおよび命令チューニング言語モデルです。
コードの生成、説明、編集などのコード生成タスク向けに設計されたデコーダー専用モデルで、116のプログラミング言語で記述されたコードでトレーニングされています。
軽量で、時系列forecasting用に事前トレーニングされており、さまざまなハードウェア構成で効率的に実行できるように最適化されています。
Granite GuardianでAIを保護し、エンタープライズ・データ・セキュリティーを確保し、さまざまなユーザー・プロンプトやLLM応答にわたるリスクを軽減し、15以上の安全性ベンチマークで最高のパフォーマンスを発揮します。
10億以下から340億パラメーターまで、Apache 2.0でオープンソース化された適切なモデルを選択できます。
費用のために性能を犠牲にする必要はありません。Graniteは、さまざまな企業タスクにおいて、同等のモデル1を上回る性能を提供します。
リスクと損害の検知機能、透明性、知的財産保護を包括的に兼ね備え、責任あるAIを構築できます。
Red Hat Enterprise Linux AIとwatsonxを使用して、オープンソースのGraniteモデルを本番環境にデプロイし、自信を持ってAIを大規模に展開するために必要なサポートとツールを提供します。ツール・コーリング、12言語、マルチモーダル・アダプター(近日公開予定)などの機能を活用して、より迅速に構築できます。
質問に回答するAIエージェントを開発する方法をご覧ください。
このチュートリアルでは、IBM Granite-3.0-8B-Instructを使用します。カスタム関数呼び出しを実行するためのモデルがwatsonx.aiで利用できるようになりました。
事前トレーニング済みモデルを複数の方法で量子化して、モデルのサイズを表示し、タスクでのパフォーマンスを比較します。
LangChainを使用したPythonで、検索拡張生成(RAG)の評価にRagasフレームワークを使用します。
GraniteのTinyTimeMixer(TTM)モデルを利用した学習に基づいて、将来を予測します。
テキストを構造化された表現に変換して、意味的に正しいSQLクエリーを生成します。
PythonでGraniteモデルをプロンプト・チューニングし、ポジティブおよびネガティブな顧客レビューを含む合成データ・セットを使用します
本レポートでは、Granite 3.0および、オープン基盤モデルの開発を加速するための事前トレーニングおよびトレーニング後の技術的な詳細についてご紹介します。
12言語と116のプログラミング言語でトレーニングされた新しいGranite 3.0 8Bおよび2Bモデルが登場しました。パフォーマンス、安全性、セキュリティーに関する新しいベンチマークと最新のチュートリアルはこちら
SAPユーザーは、SAPBusiness Technology Platform(SAP BTP)上のSAP AIコアの生成AIハブを通じて利用できるGranite.13b.chat大規模言語モデルをはじめとする、IBM watsonxとIBM Graniteを活用できるようになりました。
スタンフォード大学の基盤モデル研究センターのレポートによると、IBMのモデルは、本当にオープンなモデルを測定するために設計された複数のカテゴリーで満点を獲得しました。
IBMは、企業全体のイノベーションを推進するAIモデルの作成、導入、活用を、責任を持って行うことを重要視しています。IBMのAIとデータのプラットフォームwatsonxは、基盤モデルと生成AIの構築とテストのための、エンドツーエンドのプロセスを備えています。IBMが開発したモデルでは、重複を検索して削除し、URL不許可リスト、好ましくないコンテンツと文書の品質に関するフィルター、文章の分割、トークン化技術を採用し、すべてモデルが学習する前に実施します。
データの学習プロセスでは、モデル出力の不整合を防止し、教師ありの微調整を使用して、より適切な指示への追従を可能にし、モデルを使用してプロンプト・エンジニアリングによって企業タスクを完了できるようにします。IBMは、他のモダリティー、業界固有のコンテンツ、学習用の追加データの注釈など、さまざまな方向でGraniteモデルの開発を継続するとともに、IBMが開発したモデルに対して定期的かつ継続的なデータ保護措置を導入しています。
急速に変化する生成AIテクノロジーの状況を考慮すると、IBMのエンドツーエンドのプロセスは継続的に進化し、改善されることが期待されます。IBMは、基盤モデルの開発とテストに厳格に取り組んでいることの証として、IBMのハードウェア製品とソフトウェア製品に提供しているものと同様に、IBMが開発したモデルに対して標準の契約上の知的財産補償を提供しています。
さらに、他の一部の大規模言語モデルのプロバイダーとは異なり、補償に関するIBMの標準的なアプローチに一貫して、IBMは、IBMが開発したモデルを顧客が使用する場合、顧客にIBMを補償することを要求しません。また、IBMの補償義務に対するアプローチと一致して、IBMは、IBMが開発したモデルに対する補償責任に上限を設けません。
現在これらの規定下にあるwatsonxモデルは次のとおりです。
(1)エンコーダー専用モデルのSlateファミリー
(2)デコーダー専用モデルのGraniteファミリー
1Performance of Granite models conducted by IBM Research against leading open models across both academic and enterprise benchmarks - https://ibm.com/new/ibm-granite-3-0-open-state-of-the-art-enterprise-models