⽣成AIを使⽤したPoCの3分の2以上が、サービス実装に⾄らず終わってしまっていると⾔われています。そして原因の多くは、「精度」「コスト」「運⽤」⾯での課題を解消するまでのハードルがまだまだあるから、とのこと。
当記事にてお伝えする株式会社⽇本AIコンサルティングの「InsightBuddyX（インサイトバディ・エックス）」は、そうした⽣成AI の⾃社活⽤に不安を感じている⽅、あるいは諦めてしまっている企業の⽅々にこそお読みいただきたいものです。
今回ご紹介する⽇本AIコンサルティングは、2018年の創業当時より、⾃社プロダクトを⽤いた業務改⾰と、それにともなう企業独⾃
の⽤途・⽬的に応じたAI活⽤・導⼊⽀援を推進されています。2024年8⽉にはIBMのPartner Plus Buildパートナーとして参画。これまでのコンサルティング事業に加え、先述の⽣成AIの3⼤ペインポイント「精度」「コスト」「運⽤」を解消する「InsightBuddyX」を、2024年10⽉リリースしました。
（写真左） ⾹⽉ 章宏⽒（かつき あきひろ） | 株式会社⽇本AIコンサルティング 代表取締役
（写真右） 新居 桂陽⽒（あらい けいよう） | 株式会社⽇本AIコンサルティング チーフデータサイエンティスト
「オンプレ⽣成AIであるInsightBuddyの提供スタートから半年が経ち、⼤変ありがたいことにご導⼊いただきました多くのお客様よりご称賛をいただくことができました。
ただ⼀⽅で、オンプレだけでなくクラウド対応を求められることもあり、どう対応しようかと検討していたタイミングで、IBM様からエンタープライズ向け⽣成AIプラットフォームであるSaaS版watsonx.aiをご紹介いただきました。
さっそく詳細に調査してみると、InsightBuddyと連携させることでクラウド対応できることが分かりました。それがおよそ3カ⽉前。開発・検証を急ピッチで進め、ついに『InsightBuddyX』のリリースとなりました。」
⽇本AIコンサルティングの⾹⽉章宏代表はそう語ると、「InsightBuddyXが提供する5つの付加価値」という資料を⾒せてくれました。
InsightBuddyXが提供する5つの付加価値
● セキュアな環境でのRAGベース質疑応答
オンプレミスや指定のlaaS環境への導⼊により、データセキュリティーとプライバシーを確保します。
● 迅速なアプリケーション開発
⾃動ベクターデータベース構築により、開発時間とコストを削減し、ビジネス価値の早期実現を可能にします。
● ⾼度な運⽤管理機能
詳細なユーザー管理とログ管理機能で、システム運⽤の効率化とコンプライアンス要件の遵守を両⽴します。
● 専⾨的な技術サポート
専⾨チームが導⼊から運⽤までをサポートし、技術的な課題を迅速に解決します。
● 多様なインフラストラクチャーへの柔軟な展開
仮想化技術により、多様なインフラストラクチャーへの柔軟な展開が可能です。
InsightBuddyX実装例の１つである「AIチャットボット」による回答画⾯キャプチャー画像
ここからは、⽇本AIコンサルティング データサイエンティスト 新居桂陽⽒を中⼼にご説明いただいた、watsonx.aiにより強化された
「InsightBuddyXを選ぶべき２つの理由」を紹介します。
InsightBuddyXは業務問題を解決するためのAIツールで、その最⼤の特⻑は、社内ドキュメントを利⽤したテキスト⽣成により、社内ナレッジを踏まえた回答をする⽣成AIチャットボットを安価かつ容易に導⼊・利⽤できることです。
⽣成AI導⼊プロジェクトがうまくいかない⼤きな理由の1つが「⽣成AIの回答が世間の⼀般論にとどまり、社内ナレッジなどの「⾃分たちの⽂化・背景」を踏まえた回答をしてくれない」という点です。
この問題を解消する⽅法としてRAG（Retrieval-Augmented Generation）技術の応⽤が知られていますが、実際に社内ドキュメントから社内ナレッジを整理し、⽣成AIで活⽤できるシステムとして⾃社で構築するには専⾨的な技術⼒やコストがかかります。
加えて、その困難を乗り越えて実装しても、GPUをはじめとする計算リソースの整備への投資が次の課題として待ち受けています。これを避けて、世間⼀般に提供されているクラウド型の⽣成AIサービスを利⽤する場合、データセキュリティの運⽤規則の⾒直しなどの調整が必要となります。
これらの問題に対し、InsightBuddyX は、⾃動ドキュメントデータベース構築機能により独⾃アプリケーションの開発時間とコストを
⼤幅に削減し、ベクトル量⼦化により計算リソースの効率的な活⽤を実現します。
さらに、IBM Cloud上で稼働するWatsonx.aiを⽣成AIエンジンとして活⽤することで、クラウド上の計算リソースを積極的に活⽤しつつエンタープライズレベルのセキュリティで⽣成AIを利⽤できます。そのため、⽣成AI経由の情報漏洩リスクも最⼩化されています。
システムのメンテナンスやアップデートについても専⾨チームがしっかりサポートさせていただきます。モデルの開発からデプロイ、ガバナンスまでを⼀元管理し、プロジェクトの効率化と透明性を向上させ、⻑期的なAI運⽤コストを最⼩限に抑えます。
現在、⾃社専⽤⽣成AIの開発・導⼊・運⽤を⾏っている企業様の多くは、他分野への応⽤や⽣成AIサービスのAPIを利⽤した業務の⾃動化など、さらなる活⽤を模索しています。
業務へのさらなる活⽤を考えると、利⽤局⾯ごとに⽣成AIに対する期待や要求も異なります。例えば、単純な処理をとにかく⾼速に
⾏わせたい場合と、時間がかかっても良いから複雑な処理を⾏ってほしい場合では、利⽤すべき⽣成AIモデルが異なります。
このように、本来、多種多様な要求がある業務において⽣成AIを活⽤する際には、⽬的ごとに適切な⽣成AIモデルを使い分けたり組み合わせたりする「マルチAI」の戦略が必要です。
InsightBuddyXは、ご利⽤いただく中で、⾃然と蓄積されていく利⽤ログを分析し、従業員のニーズに沿った社内ナレッジの再整理を可能とします。これにより取得した問合せ内容や回答に⽤いられた社内データを活⽤してオープンソースのLLM（⼤規模⾔語モデル）をファインチューニングし、企業独⾃の⽣成AIを構築することができるようになります。
マルチAI戦略の⼀つとして、このカスタマイズされた⽣成AIモデルを、⽇々公開される最先端モデルと共に組み込むことで、企業様独⾃の業務要求に柔軟に対応できる⽣成AIの活⽤体制が実現します。
InsightBuddyX は、このようなサイクルの⽴ち上げの第⼀歩として、企業様の⽣成AI活⽤の深化を強⼒にサポートできる⽣成AIプロダクトとして開発されました。
繰り返しとなりますが、InsightBuddyXの特⻑は、⾃社独⾃の⽣成AIチャットボットを安価に、そして容易に導⼊できることです。お客様にはIBMのGraniteをはじめとしたオープンソースAIモデル、サードパーティAIモデルから、ビジネスニーズや相性に合わせて最適なものをご選択いただけます。
SaaS版watsonx.aiを⽣成AIの運⽤基盤とすることで、さまざまなAIモデルを使い分ける「マルチAI」が実現できるようになりました。
「開発協⼒ユーザー企業の⽅々からは、⾼機能さと⾼性能さにかなりの⾼評価をいただいています。いくつか、特に喜んでいただけたことや驚かれたことをご紹介しますね。」
⾹⽉代表と新居⽒が挙げた中から、いくつかをピックアップしました。
・ ⾼度なAIシステムにもかかわらず⼿頃な価格
「中⼩企業でも⼿が届く価格の⼿頃さと明確さは、とても歓迎されています。」
・ シンプルな構成で使いやすい独⾃UIとフローチャート⽣成
「お客様からのフィードバックに応え、InsightBuddyXの画⾯構成は、直感的に操作できるシンプルかつ必要⼗分なものとしています。また、その後の操作や必要なアクションがわかりやすい、⽣成AIによるフローチャート作成・提⽰機能にも驚かれました。
・ 導⼊環境の柔軟さ
「ビジネス上の理由や経緯から、お客様のインフラ環境はそれぞれですが、さまざまなクラウド・プラットフォームやオンプレミス環境への導⼊が滞りなく進んでいます。」
・ ⽣成AIの回答精度
「社内マニュアルを踏まえた『問い合わせ対応チャットボット』を導⼊されている企業様にも⽐較検証いただきましたが、性能差から
『できるだけ早くInsightBuddyXに切り替えたい』とご契約いただきました。」
最後に、⾹⽉代表からの導⼊検討希望のお客様へのメッセージを紹介します。
「InsightBuddyXは『貴社だけの業務パートナー』をお探しのお客様にこそご検討いただきたい、欲しいときに必要な洞察を提供してくれる頼りになる相棒です。ぜひ、お気軽にお問い合わせください。」
株式会社⽇本AIコンサルティングお問い合わせ https://j-aic.com/contact
取材に同席いただいた、InsightBuddyX開発チームのアブドゥルさん（右から2番⽬）とメヘディさん（右から3番⽬）とともに。
■企業情報株式会社⽇本AIコンサルティング
https://j-aic.com 2018年創業。「楽しめるチームをつくる︕」を理念に、⼈の⾏動を計測、分析・評価してフィードバックし、満⾜度、⽣産性、存続可能性の向上を⽀援するスタートアップ。⼈とAIが共存する未来を、⼈の⾏動分析と⽣成AIで実現を⽬指す。⼤阪府吹⽥市本社。
■ IBM製品・ソリューション情報