統括

オーケストレーション層は、検索拡張生成（RAG）ソリューションで極めて重要な役割を果たし、ソリューションのさまざまなコンポーネントがどのように相互作用するかを管理する制御システムとして機能します。一般的なRAGパイプラインでは、オーケストレーション層が関連するデータまたはドキュメントの取得を調整し、このデータが生成モデル（多くの場合、大規模言語モデル、LLM）に確実に渡されるようにします。そうすることで、オーケストレーション層は応答の精度を高めるだけでなく、応答がコンテキストに沿っており、データに基づいて行われていることも保証します。

watsonx Assistantやwatsonx Orchestrate with Elastic Search、watsonx.data のネイティブ機能を活用するだけの、あまりカスタム化されていないソリューションの場合、オーケストレーションレイヤーは製品に組み込まれており、ソリューションの一部を変更する必要はありません。ただし、より高度なシステムやカスタム・システムでは、IBMが承認したすぐに使えるオプションやカスタム・オープンソース・オプションもあります。

NeuralSeekは、複数の知識ベースと40を超える言語モデル（LLM）間の接続を自動化することで、検索拡張生成（RAG）のオーケストレーション層を簡素化します。そのmAIstroプラットフォームを通じて、ユーザーはコーディングなしでLLMを活用したスケーラブルなワークフローを構築でき、企業による制御、人間による監視、動的なバージョン管理のメリットを享受できます。

主要なオーケストレーションの機能には以下があります。

システムのパフォーマンス、回答の生成、構成を監視するためのエグゼクティブ・ダッシュボードによる完全なガバナンス。自動クレンジングとPIIの検知／削除により、プロンプト・インジェクションと有害なコンテンツから保護します。複数の言語をサポートし、複数の言語の問い合わせに対応する自動翻訳機能を備えています。watsonとその他のツールとのシームレスな統合、アクションの自動生成、Q&Aペアのインデックス作成。LLM間の即時交換により、再ツールなしで柔軟性と制御を確保します。NeuralSeekは、複雑なRAG実装を効率的に拡張および管理するための包括的なオーケストレーション・ソリューションを提供します。

Neural Seekの詳細と開始方法、その他すべてについては、Neural Seekガイダンス・ドキュメンテーションを参照してください。

Neural Seekは洗練されたすぐに使用できるオプションですが、LlamaIndexとLangChainは、RAGオーケストレーションをより詳細にカスタマイズし、制御したいユーザーに、強力なオープンソースの代替手段を提供します。

LlamaIndex：このフレームワークは、モジュール性と拡張性を提供することで、データ取得および生成プロセスの柔軟なオーケストレーションを可能にします。Llama Indexを使用すると、開発者はさまざまな取得方法を試し、独自のドキュメントのチャンク化戦略を定義し、さまざまなデータ・ソースを接続して、独自のニーズに合わせてオーケストレーションを調整できます。適応性が高く、きめ細かな制御が可能なため、カスタム・ソリューションを深く掘り下げたい組織に最適です。

Llama Indexの開始方法とその他すべてのLlama Indexの詳細については、LlamaIndexサイトを参照してください。

LangChain：LangChainは、言語モデルを外部データ・ソースと統合するために設計された、もう1つのオープンソース・オーケストレーション・フレームワークです。検索システムとLLM間のフローを管理するための一連のツールを提供し、RAGソリューションの複雑なワークフローの自動化に役立ちます。LangChainは、IBM以外のモデルを含む複数の統合もサポートしているため、多様なAIツールとサービスを活用するハイブリッド環境で、より汎用性の高い選択肢となります。

LangChainの開始方法やその他すべての詳細については、LangChainサイトをご覧ください。