Alli LLM App Marketで作成する「RAGチャットボット」ユースケース比較

はじめに

みなさん、こんにちは！
SCSKのAllganize担当チームです。

前回のブログではAllganize Japan株式会社が提供する「Alli LLM App Market（以下、「Alli」と表記）」を使用して、AIアプリの作成に挑戦しました。

ノーコードAI開発ツールAlli LLM App Marketを使ってみた！ ｜NebulaShift

今回は、業界問わず生成AIによる効率化が期待される分野であるRAGを活用したチャットボットアプリを様々な回答方式のパターンで作成し、最適なユースケースを考えました。

1．データ準備

はじめに、チャットボットアプリの作成の前準備として、回答のソースとなるデータをAlliへ追加する必要があります。今回作成していくアプリでソースに指定するのは、以下の2種類のデータです。

①   「ドキュメント」：AlliへアップロードしRAGの検索ソースとして使用されるデータ。

②   「Q&A」：ナレッジ（正解データ）として登録する「質問」と「回答」がセットになったデータ。

ドキュメントのアップロード

回答ソースにするドキュメントをAlliへアップロードします。

Alliがサポートするファイルタイプは以下の拡張子のファイルです。

.txt, .csv, .doc, .docx, .xls, .xlsm, .xlsx, .jpg, .jpeg, .png, .zip, .pdf, .ppt, .pptx

ドキュメントは一般的なファイルサーバやストレージのようにフォルダ分けができます。また、ドキュメントにハッシュタグを付与することも可能です。フォルダやタグでの管理は、アプリ作成時のカテゴリ分けや、検索対象を狭めることによる回答精度・速度向上といったメリットにつながります。

機能の詳細はこちら

Q&Aの登録

Q&Aデータは、企業内に既にFAQデータがある場合や、誤った回答が許容されない場合に利用が推奨されます。

単に質問と回答の登録だけでなく、ハッシュタグを付与すると、後のアプリ作成の際にカテゴリ分けをスムーズに実施することができます。

自社のデータがExcel等で管理されている場合は、Alli上のQ&A取り込みフォーマットのExcelに自社のFAQデータ等をコピーすることで、一括でAlliのQ&Aへ取り込みすることも可能です。

機能の詳細はこちら

2．アプリ作成

データの準備が完了しましたら、早速チャットボットアプリをノーコードで作成していきます。

0からアプリ作成することも可能ですが、今回は以下のデフォルトアプリ「ドキュメントから回答自動生成」をベースに、アプリを構成していきます。

デフォルトアプリに加えた変更は、大きく以下の4つです。

・LLM選択の分岐の追加
・質問カテゴリ選択の分岐の追加
・検索ソースに「Q＆A]を追加
・担当者への問い合わせ動作を追加

以下が、上記の変更を加えた後のアプリ構成です。

一見複雑に見えますが、分岐させる数分ノード（動作）をコピーして増やしているのみです。

それぞれの変更点について業務適用のポイントを解説します。

・LLM選択の分岐の追加

Alliでは複数種類のLLMに接続ができ、その中にはLLMには推論が得意なモデル、軽量で回答速度が速いモデルなど、それぞれ特徴があります。モデル分岐を設けることにより、ユーザの「回答の好み」への対応や、質問カテゴリに応じて内部的にモデルを使い分ける、といった作りが可能となります。

・質問カテゴリ選択の分岐の追加

Q&Aやドキュメントに設定したハッシュタグやフォルダにより、検索対象を絞ります。

関連する文書だけに絞って検索することで、回答の精度や速度が向上します。

また、モデルの負荷が軽減されることにより、使用クレジット量の削減にも期待できます。

・検索ソースに「Q&A」を追加

事前に登録したデータから回答するため、高速な回答が可能になります。

加えて、AIが回答生成をするのではなく、登録済みのデータ原文を提示するため、ハルシネーションの抑制にもつながります。

FAQの蓄積がある業務（ITヘルプデスク・製品サポート・社内問い合わせ等）では特に有効です。

・担当者への問い合わせ動作を追加

Alli上でのチャット機能への移行や、担当者へのメール送信動作を実装できます。

問い合わせを受けた担当者はチャットボットとユーザの会話履歴を確認した上で対応できるため、引継ぎが非常にスムーズです。

このように、ノーコードでアプリフローのカスタマイズをすることによって、実務で活用できるチャットボットが短時間で完成させることができます。

3．回答生成方式ごとの比較

次に、生成される回答にフォーカスを当て、ユースケースごとに最適な回答生成方式を選ぶポイントを解説します。

AlliでRAGを活用したアプリを作成する場合、回答生成方式が2種類あります。

・グループプロンプト

特定のプロンプトを、Alliにアップロードされたドキュメントに対し適用します。

個社ごとのデータの種類やフォーマットに応じて、プロンプトを細かくカスタマイズ可能です。

デフォルトのプロンプトでは、ユーザの質問に対して回答が簡潔に提示されるため、シンプルな返答が期待できます。

ユースケース：データ種類（図、表、テキスト等）ごとにカテゴリ分岐を設ける場合

・Rag Agent

回答生成の他、ドキュメント検索、翻訳、要約機能が含まれています。

Agentがユーザのクエリを分析することが特徴で、ユーザの意図を汲み取った回答生成や提案まで求める場合に有効です。

ユースケース：ドキュメント検索をする（例：○○が記載された資料を探したい）、お客様への回答文まで作成させる

（番外編）

チャットボットを作成するにあたり、Excelデータに特化したAgentを回答に利用することも可能です。

・Data Assist Agent

管理者がアップロードしたExcelファイルに説明を付与すると、自動でSQLデータベースに変換します。

Agentはユーザのクエリを分析し、SQLクエリを作成・回答します。

これにより、ユーザは対話形式でデータからインサイトを得ることができます。

引用：https://www.allganize.ai/ja/ja-news/20251222

Data Assist Agentは以下のようなユースケースに活用が期待されます。

＜製造管理＞

品質管理における、製品番号別の不具合状況の集計・分析

製造工程における日数分析　など

＜財務分析＞

為替情報と連動させた資産総額評価の推移

業績データをもとにした傾向分析　など

＜サポート・ヘルプデスク＞

過去の問い合わせ内容のログや対応履歴から類似ケースの調査

顧客管理システムから出力したExcelファイルをもとにした対応分析　など

【データアップロード時のイメージ】

アップロードしたExcelに各カラムの説明を追加すると、SQLデータベースに自動登録されます。

【回答比較】

では、上記で紹介した回答生成方式ごとの回答比較結果を記載します。

比較にあたり、すべて同一LLM（OPENAI GPT-4.1）を利用し、同一クエリ（「賞与はいつ？」）を入力しました。

・グループプロンプトから回答（生成AIによる回答生成）

デフォルト状態の「グループプロンプトから回答」方式では、質問に対する回答と根拠がシンプルに出力されていることが分かります。

また、ドキュメントには黄色のハイライトが表示されており、回答根拠が明瞭です。

・Rag Agent（生成AIによる回答生成）

①   ユーザのクエリを受け、Agentが回答のための戦略を立て、情報を検索します。

②   質問に対する回答に加え、追加の提案（以下の例：賞与の具体的な支給日・支給条件の追加調査）がされます。

・Data Assist Agent（生成AIによる回答生成）

①   ユーザのクエリを受け、Agentが回答のための戦略を立て、SQLクエリを実行します。

②   回答と根拠（データ範囲・操作内容・ロジック）が表示されます。

・Q&Aからの回答（事前登録済データを回答）

ユーザの質問が事前に登録されている場合は、対応するデータが回答されます。

その際、AIによる文脈追加は発生しません。

次のように、曖昧なユーザクエリの場合等においては、類似する可能性がある質問を提示させることも可能です。

4．まとめ

以上、実際の回答比較はいかがでしたでしょうか。

一例ではありますが、ご要件やユースケースに合わせ、以下のような回答生成方式の使い分けができるのではないでしょうか？

・データに合わせてプロンプト調整したい、担当者に問い合わせ等の細かいアプリフローまで指定したい > グループプロンプト

・Agentの提案を受け、深い調査や他業務（メール作成・翻訳・要約）につなげたい > RAG Agent

・社内にExcelデータが多く、データ分析からインサイトを得たい　> Data Assist Agent

・ハルシネーションを許容しない、社内にFAQが既に存在する > Q&A

SCSKではお客様のデータ種類や業務状況をヒアリングし、最適な生成AI活用やPoC提案をさせていただきます！

今後も新機能検証等を実施していきますので、次回以降のブログにもご期待ください。

最後までお読みいただきありがとうございました。

＜注記＞

本記事は、2026年3月6日時点の情報です。