[新製品・サービス]
「exaBase 生成AI」で複数のLLMを選択可能に、LLM間のプロンプト移行技術を提供予定
2024年4月19日(金)日川 佳三（IT Leaders編集部）
エクサウィザーズと同社子会社のExa Enterprise AIは2024年4月16日、対話型生成AIサービス「exaBase 生成AI」において、複数の生成AI/大規模言語モデル（LLM）を選択可能にすると発表した。Azure OpenAI ServiceのGPTシリーズに加えて、米AnthropicのClaude 3、グーグルのGemini、NTTグループのtsuzumiを2024年5月以降利用できるようにする。また、エクサウィザーズは複数のLLMの違いを吸収する移行技術を開発しており、exaBase 生成AIに実装する予定である。
Exa Enterprise AIの「exaBase 生成AI」は、法人向けの対話型生成AIサービスである。生成AIに、Azure OpenAI Serviceを通じてOpenAIの「GPT」シリーズを利用している。
2024年5月より、複数の生成AI/大規模言語モデル（LLM）を選択できるようにする。まず、米Anthropic（アンソロピック）の「Claude（クロード）3」に対応し、以降、グーグルの「Gemini」、NTTグループの「tsuzumi（つづみ）」を利用できるようにする。
「各社が開発する生成AI/LLMにはそれぞれの強みがあり、用途に応じて選択的に切り替えることで、アイデア出しの幅が広がり、論点の抜け漏れが減るなど業務生産性が向上する。また、それぞれのLLMが出力した情報を相互にチェックすることで、ハルシネーションやバイアスの有無を判定できるようになる」（エクサウィザーズ）
エクサウィザーズは、LLMごとの得意分野を組み合わせる活用を提案している。「GPTは物事を分析して計画する能力が高く、Claudeは文章執筆力が高い。これらを組み合わせることで、よりよい分析レポートが得られる。また、国産LLMのtsuzumiを利用して、日本語への対応を強化することが可能になる」（同社）。
同社は、利用するLLMによって、プロンプトに対する回答が大きく異なる場合があることを指摘する。「特に、プロンプトをシステムに組み込んでいたり、テンプレートとして多くのユーザーに高頻度に利用されている場合は、LLM間の違いが課題になる。何らかの理由でメインのLLMを利用できなくなるリスクも考えられる」という。
こうした状況に対処すべく、エクサウィザーズは、LLMの移行を支援する技術を開発した。移行対象のプロンプトを2種類のLLMで実行したときの差異を評価したうえで、移行先のLLMから互換性を保って同様の出力が得られるようにする「改善プロンプト」を提示する。同社で評価したところ、各種のプロンプトで移行が有効であることを確認したという。
この移行技術は、Exa Enterprise AIの生成AIサービスのユーザーの要望に応じて、当初はエクサウィザーズによる活用コンサルティングと共に提供する。今後、exaBase 生成AIへの実装を予定している。
