AI CHAT チャットU/IによるAIアシスタントの実現
03. チャットU/IによるAIアシスタントの実現
チャットシステムにおける課題と問題点
シナリオ型チャットボットの満足度の低さ
従来のシナリオ型チャットボットは、決められたフローに沿って対話を進めるため、ユーザーの質問が想定外の場合、適切な回答が得られないことが多くあります。その結果、ユーザーは何度も入力をやり直したり、結局オペレーターに問い合わせる必要が生じるため、満足度が低くなりがちです。また、新しい質問や状況に対応するには都度シナリオを更新する必要があり、運用の負担が大きいという課題もあります。
情報の分散と検索の非効率性
多くの企業や組織では、チャットの回答として利用するナレッジが社内の異なるシステムやファイルに分散しており、必要な情報を迅速に取得することが困難です。仮にそれらが集約されていた場合でも、従来のキーワード検索では、適切な結果が得られない場合が多く、ユーザーは複数のシステムを横断して情報を探す必要があります。結果的に、結果の取得には多くの時間を費やします。
LLMの運用課題と幻覚問題
最近ではLLM（大規模言語モデル）を活用したAIチャットもみられるようになってきました。LLMによるチャットシステムは高精度な応答が可能ですが、しばしば事実に基づかない情報（幻覚）を生成する問題が指摘されています。また、学習データの更新や再トレーニングが必要な場合があり、運用コストが高くなるケースがあります。
カスタマーサポートの負担増加
不完全なチャットシステムのカスタマーサポートへの導入により、ユーザーの負担がかえって増すケースもあります。これにより、対応コストが増大し、リソースが圧迫される問題が発生しています。
AIアシスタントの必要性
検索システムの限界
従来の検索システムはキーワードベースの検索に依存しており、ユーザーが適切なキーワードを入力しないと必要な情報を見つけることが困難です。また、検索結果には関係の薄い情報が多数含まれることがあり、必要な情報へ迅速に到達することが難しいという課題があります。
生成機能導入のメリット
生成機能を有するAIアシスタントの１つの形である「AIチャット」を導入することで、ユーザーが自然な言葉で質問を入力しても適切な情報を取得できるようになります。特に、RAG（Retrieval-Augmented Generation）を活用することで、検索結果をもとにした精度の高い回答が提供されます。従来のシナリオ型チャットボットと異なり、柔軟な対応が可能になり、ユーザーの満足度向上につながります。
ソリューション概要
本ソリューションは、KandaSearch 上て実現されるAIアシスタントのプラットフォームです。検索エンジンインスタンスと汎用インスタンスで構成され、セマンティック検索とLLMを組み合わせた高度なチャットインターフェースを提供します。
企業や組織が持つクローズドで膨大なドキュメント資産を活用し、ユーザーに最適な情報を迅速に提供することが可能になります。これにより、社内向けヘルプデスクの効率化、社内ナレッジ共有の強化、業務プロセスの改善が実現できます。RAGの検索ソースをオープンなものに限定すれば、コンシューマーに向けたチャットシステムとしてもご利用いただけます。
システム構成
検索エンジンインスタンス
- セマンティック検索対象となるドキュメントにベクトル情報を付加してインデクシング
- FAQ、説明書、技術書、論文、判例など多様なドキュメントを取り扱う
- ドキュメントのベクトル化は KandaSearch のエンドポイントで実行
汎用インスタンス
- AIチャットを稼働させるサーバー
- LLM（生成AI）のエンドポイントが利用できる
- LLMには KandaSearch で提供するLLM、またはユーザー指定のLLMを利用可能
- RAGに基づく回答生成
KandaSearchのRAG機能との連携
- KandaSearchのコア機能である「RAG」を活用してPoCを実施
- 検索エンジンのスキーマやコンフィグ作成、セマンティック検索やプロンプトなどのチューニング
AIチャットの管理機能とサイトへの導入
管理画面からの設定
- 各種情報（アバターアイコン、ウェルカムメッセージ、規約やお問い合わせフォームのURL、プロンプト）を設定し、AIチャットウィンドウ設置用のコードを取得
- そのコードをウェブサイトやシステムに貼り付けるだけで組み込み可能
ドキュメントの更新と前処理対応
- ドキュメントを更新すれば、LLMの再学習なし で回答に反映
- 必要に応じて前処理を適用し、検索精度を向上
ソリューション利用のために用意するもの
本ソリューションを利用するには、AIチャットを設置するウェブサイト が必要です。このウェブサイトは、公開用でもイントラネット用でも構いません。ただし、イントラネット環境で運用する場合は、そのサーバーからAWSへの接続設定が必要になります。
運用
本ソリューションは本番環境として利用可能で、メンテナンスフリーで運用可能です。
ドキュメントの追加・更新を行うだけで、検索精度やチャットの回答品質を維持・向上できます。
まとめ
なぜこのソリューションが必要なのでしょうか？
多くの企業や組織では、情報が社内に散在し、必要な情報を素早く見つけるのが困難です。従来の検索システムでは、単純なキーワード検索に頼るため、関連性の高い情報を的確に取得することが難しい場面が多々あります。
本ソリューションを導入することで、従来の検索では見つけにくかった情報をAIが適切に整理し、ユーザーに最適な回答を提供します。結果として、問い合わせ対応の時間短縮や業務効率の向上が期待できます。
企業の情報活用を次のステージへ進めるために、本ソリューションをご活用ください。
関連情報
- KandaSearch RAG
- AIチャットデモ
- AIチャット画面の右下の吹き出しアイコンよりご確認いただけます。
- セマンティック検索
お問い合わせ
本件に関するご質問・ご相談等は、下記よりお気軽にお問い合わせください。