オンプレ環境でRAG技術を活用できるGBase On-Premiseのご紹介

2025.10.22

みなさん、こんにちは。私は、入社2年目でサーバ構築を担当しているエンジニアです。

最近は生成AIとインフラ技術の融合領域、特にRAGをオンプレミス環境に展開する取り組みに強い関心を持っています。今回は、Sparticle社が提供するオンプレミス生成AI活用LLMパッケージ「GBase On-Premise」の特長と技術的な魅力についてご紹介します。

1　背景：生成AI活用が直面する課題

生成AIはここ1〜2年で一気に実用フェーズに入り、検索、要約、チャット、ナレッジ管理と幅広い用途で活用が進んでいます。一方で、実際に業務システムに組み込む段階になると、以下のような課題に直面することもあります：

セキュリティ面の懸念 → クラウド型LLMに対し、機密情報を送信できない企業が多い
ハルシネーション → LLM単体ではファクトチェックが難しく、意思決定に不安が残る
社内データの活用が難しい → 非構造化データが多く、うまく統合・活用できていない
コストの高さ（安全性重視の場合） →高セキュリティを求めてオンプレミスを選択すると高コストになる

２　GBase On-Premiseとは？

GBase On-Premiseは、Sparticle社が開発したオンプレミス生成AI活用LLMパッケージです。生成AIを社内閉域で安全に運用することを前提に設計されており、以下のような特徴を備えています。

完全オンプレ運用が可能（クラウド非依存）
高精度なRAGエンジンでハルシネーションを低減と、社内の「暗黙知」として保持しているノウハウを「形式知」として抽出
社内の非構造データ（PDF、表、画像など）を一元化・活用
状況に応じて、常に最先端のLLMモデルへの切り替えが可能

つまり、生成AIを「安全に」「効果的に」「自社内で活用する」ための現実的な選択肢として位置づけられます。

GBASE

引用元：GBASE Makes You Genius -できるを授けるGBASE-

3　技術的に注目すべきポイント

① 高精度と省リソースを両立するハイブリッド量子化

GBaseのLLMは、ハイブリッド量子化技術を適用することで、精度を維持しながらGPU使用量を約85%削減し、推論速度を最大1.6倍向上させています。

階層型量子化アーキテクチャ → 各層ごとに適切な量子化を適用し、精度の低下を抑制
動的ビット幅調整（4bit〜16bit） → 重要な層は高精度を維持しつつ、計算負荷を削減
推論速度向上 → 高速化と省メモリ運用を両立

この技術により、オンプレ環境でも高性能なLLMを現実的なコストで運用可能になります。

②商用レベルのRAGフレームワークかつ日本語とマルチモーダルに対応

GBaseは、国内の競合製品がオープンソースのRAG（Naïve RAG）を採用する中、商用化水準のRAG（Advanced RAG）を活用し、高度な検索・回答生成を実現しています。その他にも、GBaseは下記の優位性を持っています。

日本語文書の意味単位でのチャンク分割と最適化されたインデックス設計により、検索精度を向上
最先端の精度の高いマルチモーダルLLMと独自の画像認識技術を組み合わせ、図表やフローチャートを正確に解析し、業務データの理解を強化
Table RAGで表形式データの処理を最適化し、pandasコードを自動生成することで、非構造データを構造化し、業務効率を改善

③ 高度な日本語特化のファインチューニング技術を活用した高い正答率

2023年12月時点で、日本語特化型LLMの競合製品と比較し、GBaseはベンチマークで最高精度を記録しました。特に、難易度が高い自然言語推論能力（JNLI）において、競合製品を15〜50ポイント上回る精度を達成し、日本語ファインチューニング技術の優位性が証明されています。

4　利用シーンと導入効果

GBase On-Premiseは、以下の業務シーンでの活用が期待されます。

全社知識の一元化：技術文書、研究データ、顧客情報、ノウハウなど、あらゆる形式の知識を統合
高度な検索・発見：AIを活用し、必要な情報を迅速かつ的確に発見、専門知識へのアクセスを容易化
グローバル知識共有：多言語対応、海外拠点との知識共有を促進、グローバルチームの連携を強化
暗黙知の形式知化：従業員の経験やノウハウを可視化、組織全体の暗黙知を形式知へと転換

導入することで、以下の効果が期待されます。

研究開発力強化：知識活用による研究効率向上、革新的な技術・製品開発の加速
グローバル競争力強化：グローバル規模での知識共有と活用、海外展開の加速、市場競争優位性の確立
顧客満足度向上：迅速かつ的確な顧客対応、高品質な製品・サービスの提供
組織全体の知恵の最大化：従業員の知識と経験を組織全体で共有、組織能力の向上

5　まとめ

GBase On-Premiseは、安全に社内データを活用できるオンプレミス生成AI活用LLMパッケージです。高精度なRAG技術と日本語特化のファインチューニングにより、業務の効率化と正確な情報提供を実現します。セキュリティを重視しながら、社内ナレッジを最大限に活用したい企業に最適な選択肢です。次回のブログでは、実際に、GBaseに触ってみた感想や体験をお伝えしていきます。