Function CallingベースのAIエージェント 精度検証 #2

2025-09-14
tony

ルールベースのルーティングからTool Chainへ

前回の記事(Function CallingベースのAIエージェント 精度検証 #1)では、AIエージェントにFunction Callingを適用した最初の実験をご紹介しました。その段階のシステムは、企業の資産リスト全体を読み込み、AIが内部で検索する方式でした。シンプルな方法でしたが、トークン使用量の過多、スケーラビリティのボトルネック、一貫しないユーザー体験といった限界にすぐ突き当たりました。

2回目の実験では方向を変えました。まず精度を高めるためにルールベースのルーティングを導入し、最終的にはTool Chainアーキテクチャへと設計を発展させました。この転換により、精度、スケーラビリティ、ユーザー体験が大きく向上しました。本記事では、その道のりをご紹介します。

1. 最初の実験の限界

最初の構造はシンプルでした。

  • ユーザーが質問する → 資産リスト全体を読み込む → AIが内部で検索する → 結果を返す

しかし、実際の企業環境では、いくつかの問題が表面化しました。

  • トークン使用量の過多:資産の数が増えるにつれて入力の長さが急激に増え、コストが上昇しました
  • データサイズの制約:約500件の資産までしか動作せず、それを超えるとモデルが破綻しました
  • スケーラビリティの欠如:数千件の資産を管理する企業では、この方式を効果的に使えませんでした

つまり、回答は技術的には正しくても、構造的に非効率で、規模を拡大するには不向きでした。

2. ルールベースのアプローチ

2-1. ルールベースのルーティングとは?

ルールベースのルーティングは、AIがどのAPIを呼び出すかを、手動で定義したルールによって決める方式です。

  • 「この資産は誰のものですか?」 → 資産検索APIを呼び出す
  • 「前四半期のコスト削減額を見せて」 → 減価償却APIと使用状況APIを呼び出す

2-2. メリット

  • 動作が明確で予測しやすい
  • 単純な問い合わせでは高速で信頼性が高い

2-3. 限界

  • 問い合わせパターンが増えるほど、管理の負担が増加する
  • 新機能を追加するたびにルールを更新する必要がある
  • AIは単にルールを実行するだけで、本当の推論や柔軟な組み合わせができない

ルールベースのルーティングは問題の一部を解決しましたが、柔軟性とスケーラビリティの面では制約が大きいことがわかりました。

3. Tool Chainのアプローチ

3-1. Tool Chainとは?

Tool Chainは、AIがどのTool(Function)を呼び出すかを自ら判断して呼び出し、その結果を構造化した回答にまとめる方式です。ハードコードされたルールの代わりに、AIがツールを動的に組み合わせて、ユーザーの問い合わせを解決します。

3-2. 仕組み

  1. ユーザーが尋ねます:「ソウル支店で使われていないノートPCはどれですか?」
  2. AIが自然言語を解釈し、Toolのパラメーターに対応づけます
  3. AssetSearch Toolが呼び出され、結果が返されます
  4. AIが結果を処理し、整理された構造化された回答を生成します

3-3. 利点

  • 柔軟性:新しいToolを追加すれば、ルールを書き直さなくてもAIが活用できます
  • スケーラビリティ:数千件から数万件の資産でも安定して処理できます
  • 一貫性:Toolのスキーマ定義によって、用語と出力が標準化されます
  • UXの向上:ストリーミング出力と、整理された回答に対応します

4. ルールベース vs. Tool Chain

‍

ルールベース VS Tool Chain

‍

👉 要するに、ルールベースのルーティングは安定していますが硬直的で、Tool Chainはより知的で適応力があります。

5. ユーザー体験の改善

Tool Chainへの移行は、UXの大幅な向上ももたらしました。

  • ストリーミング応答:AIが計算を終えるのを待つ代わりに、ユーザーは回答がリアルタイムに流れてくるのを見られます
  • 構造化された書式:回答は箇条書き、セクション、区切り線で提示され、明快でプロフェッショナルです
  • 文脈の認識:以前の対話の回答を再利用する場合、AIが注意書きを加えるようになりました(例:「この回答は以前の文脈に基づいています。最新のデータが必要な場合は、『現在』や『もう一度』という言葉を使って再度質問してください。」)

その結果、より速く、より明快で、より信頼できるユーザー体験が実現しました。

6. 主な成果

Tool Chainアーキテクチャへの移行によって、次の成果を得ました。

  1. 精度の向上 – 用語と表現が一貫して保たれます
  2. 真のスケーラビリティ – 大規模な企業データでも安定した性能を発揮します
  3. コスト効率 – トークン消費量が大幅に減少しました
  4. UXの改善 – 構造化された読みやすい書式で、リアルタイムに応答します

おわりに

Function CallingベースのAIエージェント 精度検証 #2は、「トークン過多」という課題を解決するだけにとどまりませんでした。ルールベースのアプローチから出発し、本格的なTool Chainアーキテクチャへと発展させることで、精度、スケーラビリティ、ユーザー体験を同時に向上させることができました。

SELLEASEは今後もAIエージェントのアーキテクチャを進化させ、企業が膨大な資産データをより賢く、より効率的に、より直感的に活用できるよう支援してまいります。🚀

‍

‍

サービスについて知りたいですか?