前回の記事(Function CallingベースのAIエージェント 精度検証 #1 )では、AIエージェントにFunction Callingを適用した最初の実験をご紹介しました。その段階のシステムは、企業の資産リスト全体 を読み込み、AIが内部で検索する方式でした。シンプルな方法でしたが、トークン使用量の過多、スケーラビリティのボトルネック、一貫しないユーザー体験といった限界にすぐ突き当たりました。
2回目の実験では方向を変えました。まず精度を高めるためにルールベースのルーティング を導入し、最終的にはTool Chainアーキテクチャ へと設計を発展させました。この転換により、精度、スケーラビリティ、ユーザー体験が大きく向上しました。本記事では、その道のりをご紹介します。
1. 最初の実験の限界
最初の構造はシンプルでした。
ユーザーが質問する → 資産リスト全体を読み込む → AIが内部で検索する → 結果を返す
しかし、実際の企業環境では、いくつかの問題が表面化しました。
トークン使用量の過多 :資産の数が増えるにつれて入力の長さが急激に増え、コストが上昇しました
データサイズの制約 :約500件の資産までしか動作せず、それを超えるとモデルが破綻しました
スケーラビリティの欠如 :数千件の資産を管理する企業では、この方式を効果的に使えませんでした
つまり、回答は技術的には正しくても、構造的に非効率で、規模を拡大するには不向きでした。
2. ルールベースのアプローチ
2-1. ルールベースのルーティングとは?
ルールベースのルーティングは、AIがどのAPIを呼び出すかを、手動で定義したルール によって決める方式です。
「この資産は誰のものですか?」 → 資産検索APIを呼び出す
「前四半期のコスト削減額を見せて」 → 減価償却APIと使用状況APIを呼び出す
2-2. メリット
動作が明確で予測しやすい
単純な問い合わせでは高速で信頼性が高い
2-3. 限界
問い合わせパターンが増えるほど、管理の負担が増加 する
新機能を追加するたびにルールを更新する必要がある
AIは単にルールを実行するだけで、本当の推論や柔軟な組み合わせができない
ルールベースのルーティングは問題の一部を解決しましたが、柔軟性とスケーラビリティ の面では制約が大きいことがわかりました。
Tool Chainは、AIがどのTool(Function)を呼び出すかを自ら判断 して呼び出し、その結果を構造化した回答にまとめる方式です。ハードコードされたルールの代わりに、AIがツールを動的に組み合わせて、ユーザーの問い合わせを解決します。
3-2. 仕組み
ユーザーが尋ねます:「ソウル支店で使われていないノートPCはどれですか?」
AIが自然言語を解釈し、Toolのパラメーターに対応づけます
AssetSearch Tool が呼び出され、結果が返されます
AIが結果を処理し、整理された構造化された回答 を生成します
3-3. 利点
柔軟性 :新しいToolを追加すれば、ルールを書き直さなくてもAIが活用できます
スケーラビリティ :数千件から数万件の資産でも安定して処理できます
一貫性 :Toolのスキーマ定義によって、用語と出力が標準化されます
UXの向上 :ストリーミング出力と、整理された回答に対応します
ルールベース VS Tool Chain
👉 要するに、ルールベースのルーティングは安定していますが硬直的で、Tool Chainはより知的で適応力があります。
5. ユーザー体験の改善
Tool Chainへの移行は、UXの大幅な向上 ももたらしました。
ストリーミング応答 :AIが計算を終えるのを待つ代わりに、ユーザーは回答がリアルタイムに流れてくるのを見られます
構造化された書式 :回答は箇条書き、セクション、区切り線で提示され、明快でプロフェッショナルです
文脈の認識 :以前の対話の回答を再利用する場合、AIが注意書きを加えるようになりました(例:「この回答は以前の文脈に基づいています。最新のデータが必要な場合は、『現在』や『もう一度』という言葉を使って再度質問してください。」 )
その結果、より速く、より明快で、より信頼できる ユーザー体験が実現しました。
6. 主な成果
Tool Chainアーキテクチャへの移行によって、次の成果を得ました。
精度の向上 – 用語と表現が一貫して保たれます
真のスケーラビリティ – 大規模な企業データでも安定した性能を発揮します
コスト効率 – トークン消費量が大幅に減少しました
UXの改善 – 構造化された読みやすい書式で、リアルタイムに応答します
おわりに
Function CallingベースのAIエージェント 精度検証 #2 は、「トークン過多」という課題を解決するだけにとどまりませんでした。ルールベースのアプローチから出発し、本格的なTool Chainアーキテクチャへと発展させることで、精度、スケーラビリティ、ユーザー体験 を同時に向上させることができました。
SELLEASE は今後もAIエージェントのアーキテクチャを進化させ、企業が膨大な資産データをより賢く、より効率的に、より直感的に 活用できるよう支援してまいります。🚀