LLM（大規模言語モデル）とは

LLMは、生成AIを世間一般の大きな関心事に押し上げる役割を果たしたことで、さらに組織がさまざまな事業やユースケースにわたり、人工知能を導入すべく力を入れていることでも広く知られるようになりました。

ビジネス以外においては、生成AIの発展とともに、LLMが突如として登場したように見えるかもしれません。しかし、IBMをはじめとする多くの企業は、自然言語理解（NLU）や自然言語処理（NLP）能力を高めるために、何年もの時間を費やして、さまざまなレベルでLLMを導入できるように努力を続けてきました。またこれに加えて、機械学習、機械学習モデル、アルゴリズム、ニューラル・ネットワーク、およびこれらのAIシステムのアーキテクチャーを提供するトランスフォーマー・モデルも発展させてきました。

LLMは、基盤モデルの1つのクラスです。大量のデータを使ってトレーニングされ、複数のユースケースや用途に応用し、多くのタスクを解決するうえで必要となる基礎機能を提供します。これは、ユースケースごとに個別にドメイン固有のモデルを構築し、トレーニングするという考えとは全く対照的です。なぜなら、多くの基準（最も重要なのはコストとインフラ）において実質不可能であり、相乗効果が得られず、パフォーマンスが劣る可能性さえあるからです。

LLMは、自然言語処理と人工知能における大きな進歩であり、Microsoftの支援を受けているOpen AIのChat GPT-3やGPT-4などのインターフェイスを介して、一般に利用可能となっています。他の例としては、MetaのLlamaモデル、Googleのトランスフォーマー（BERT/RoBERTa）やPaLMモデルによる双方向のエンコード表現があります。IBMも最近、watsonx.aiでGraniteモデル・シリーズを始動しました。これはwatsonx Assistantやwatsonx Orchestrateなど、他のIBM製品の生成AIの土台となっています。

簡単に言うと、LLMは、トレーニングに使用される大量のデータに基づいて、他の形式のコンテンツに加えて、人間のようにテキストを理解および生成できるように設計されています。文脈から推測する能力、文脈に即したコヒーレント応答を生成する能力、英語以外の言語への翻訳能力、文章の要約能力、質問（一般的な会話やよくある質問）への回答能力、さらにはクリエイティブ・ライティングやコード生成タスクの支援能力を備えています。

言語の複雑なパターンを捉えて、言語に関連するさまざまなタスクを実行できる数十億ものパラメーターによってこれを実現しています。LLMは、チャットボットや仮バーチャル・アシスタントからコンテンツ生成、検索支援、言語翻訳に至るまで、さまざまな分野での応用に変革をもたらしています。

LLMが進化を続けるにつれて、私たちがテクノロジーと対話し、情報にアクセスする方法が新しくなり、今日のデジタル環境の極めて重要な部分となりつつあります。

LLMは、深層学習技術と大量のテキスト・データを使用しています。これらのモデルは通常、生成型の事前トレーニング済みトランスフォーマーのようなトランスフォーマー・アーキテクチャーをベースとしており、テキスト入力などのシーケンシャル・データの処理に優れています。LLMは、複数のニューラル・ネットワーク層から構成されています。各層には、トレーニング中にファインチューニング整できるパラメーターがあり、データ・セットの特定の部分にダイヤルインする「Attention機構」として知られる、多数の層によってさらに強化されます。

これらのモデルは、トレーニング・プロセス中に、前の単語の文脈に基づいて、文章内の次の単語を予測する方法を学習します。トークン化された単語、つまり、より小さく分解された文字列の繰り返しに確率スコアを適用することでこれを実現します。これらのトークンは、この文脈の数値表現である埋め込みに変換されます。

このプロセスには、精度を担保するために、大規模コーパス（数十億ページ）を用いてLLMをトレーニングすることが含まれています。ゼロショット学習および自己教師あり学習を通じて文法、意味論、概念的な関係を学習できるようになります。このトレーニング・データを用いてトレーニングすることで、入力に基づいて次の単語を自律的に予測し、取得したパターンと知識に基づいてテキストを生成できるようになります。その結果、一貫した、文脈に即した文章が生成され、幅広い自然言語理解およびコンテンツ生成タスクに利用できます。

モデルの性能は、プロンプト・エンジニアリング、プロンプト・チューニング 、ファイン・チューニングや、人間のフィードバックによる強化学習（RLHF）などの手法によって、大量の非構造化データのトレーニングでの望ましくない副産物であることが多い「ハルシネーション（幻覚）」として知られるバイアス、ヘイトスピーチ、事実に基づかない誤った回答を取り除くことで、向上させることもできます。これは、エンタープライズ・グレードの大規模言語モデルをすぐに使用できるようにし、組織が望ましくない責任にさらされたり、評判に傷をつけたりしないようにするうえで最も重要な側面の1つです。

LLM（大規模言語モデル）は、ますます多くのビジネス・プロセスを再定義しており、さまざまな業界における膨大なユースケースやタスクにおいて、その応用力の高さが証明されています。チャットボットやバーチャル・アシスタント（IBMのwatsonx AssistantやGoogleのBARDなど）の対話型AIを補強し、優れたカスタマー・ケアを支えるインタラクションを強化し、人間のエージェントとのやり取りを模倣した、文脈に即した応答を可能にします。

LLMはコンテンツ生成にも優れており、ブログ記事、マーケティングや販促資料、その他の文章作成タスクのコンテンツ作成を自動化します。研究や学術界では、膨大なデータセットから情報を要約して抽出するのに役立ち、知識の発見を加速します。LLMは、言語翻訳においても重要な役割を果たし、正確で文脈に即した翻訳を提供することで言語の壁を打ち破ります。コードを書いたり、プログラミング言語間における「翻訳」にも活用できます。

さらに、テキスト読み上げアプリケーションやアクセシブルな形式でのコンテンツの生成など、障がいのあるユーザーを支援することで、アクセシビリティーの改善に貢献します。LLMにより、プロセスの最適化、カスタマー・エクスペリエンスの向上、データに基づいた効率的な意思決定な可能になり、ヘルスケアから金融まで幅広い業界に変革が起こっています。

さらに注目すべきは、これらのすべての機能に簡単にアクセスすることができ、場合によっては、API統合のみで可能になることです。

LLMが組織にメリットをもたらす最も重要な分野は以下の通りです。

• テキスト生成：洗練させることができるプロンプトに応じて、Eメール、ブログ投稿、またはその他のボリュームが大きめのコンテンツ作成などの言語生成能力。優れた例：検索拡張生成（RAG）。

• コンテンツ要約：長文記事、ニュース記事、調査レポート、企業文書、さらには顧客の履歴情報を、出力形式に合わせた長さのテキストに要約します。

• AIアシスタント：セルフサービスの統合カスタマー・ケア・ソリューションの一部として、顧客の質問に答え、バックエンド・タスクを実行し、自然言語で詳細情報を提供するチャットボット。

• コード生成：開発者のアプリケーションの構築、コード内のエラーの発見、複数のプログラミング言語のセキュリティ問題の発見、さらにプログラミング言語間の「翻訳」を支援します。

• センチメント分析：顧客からのフィードバックを大規模に理解し、ブランドの評判管理に役立てられるように、テキストを分析して顧客の口調（トーン）を判断します。

• 言語翻訳：自然な翻訳と多言語機能により、言語や地域を越えて、組織に幅広い対応力を提供します。

LLMは、顧客のセルフサービスを自動化し、増加するタスクの応答時間を短縮するだけではありません。より高い精度、強化されたルーティング、インテリジェントなコンテキスト収集により、金融、保険、人事、ヘルスケアなど、あらゆる業界に変革をもたらします。

組織がAIモデルの可能性を活用して、ビジネスに変革をもたらすには、ガバナンス・プラクティスにおける強固な基盤が必要です。信頼性が高く、透明性があり、責任があり、安全なAI ツールとテクノロジーへのアクセスが必要になります。AIガバナンスとトレーサビリティーは、IBMがお客様に提供するソリューションの基本的な側面でもあります。AIに関わる活動が管理・監視され、常に監査可能で説明責任を果たせる方法で、起源、データ、モデルを追跡できるようにします。