Function Callingベースの AIエージェントの精度検証 #1

2024-11-09
tony

前回の記事では、RAGベースのAIエージェントのテストが抱える問題点を見てきました。その代替として、私たちは関数呼び出し(Function Calling)方式を活用したAIエージェントを実装しました。今回は、Selleaseのさまざまなデータに対してAIエージェントがどのように応答するかを、実験で確かめてみます。💡

Selleaseのデータを、AIが理解できるように定義する 📊

Selleaseのサービスは、さまざまな機能を提供しています。
有形資産管理、ソフトウェア資産管理、ドメイン/証明書管理、サブスクリプション/レンタル管理、組織図情報などです。

これらすべてのデータをAIが活用できるように、バックエンドAPIを定義しました。

  • APIのタイトル
  • 詳細情報
  • パラメーターなど

これらを詳細に設計し、正確な応答を生成できるよう継続的にチューニングを重ねました。🛠️
その過程でいくつかの問題点が見つかり、一部は完全に改善されました。それでは、実験を通じてその結果を見ていきましょう。

ステップ1:明確なキーワードでの単純なデータ照会 🗂️

まず、正確なキーワードでデータの照会を試しました。
組織図で自分を認識しているかを確認してみたところ、AIは組織図と個人ユーザーのアクセス情報をもとに、私の役割を取得しました。

‍

‍

資産状況の要約 🖥️

有形資産の状況の要約を依頼してみました。

  • 種類別・状態別の資産を正確に要約してくれ、現在の資産一覧と照らし合わせても一致していました。
  • LLMではなくFunction Callingにデータの計算を任せたところ、はるかに正確な結果が得られました。✅

‍

‍

次はソフトウェアの利用状況です。データ量が多く回答に時間がかかったものの、正確な答えを導き出しました。部署別・カテゴリ別の状況もうまく要約されています。

‍

‍

ステップ2:不明確なキーワードでの単純なデータ照会 🕵️‍♂️

今度は、もっとあいまいな質問を投げてみました。
経営者の方がよく口にする質問の一つです。「古いノートPCはある?」
AIは「2024年時点で、古いノートPCはありません」と答えました。

‍

‍

「うちの月々のレンタル費用はいくらかかっているの?」という質問を総務部門が受けたら、本当に困ってしまいます。

Excelファイルや通帳を持ち歩いているわけではないからです。ところがAIエージェントは、正確に答えてくれます。計算の面では、ドルをウォンに換算できていませんでした。合計金額では、少し間違える場面もありました。🔍

‍

‍

ステップ3:不明確なキーワードでの複雑なデータ照会 🧠

次に投げた質問は、「うちの会社の開発チームは、集中度が高い方?」です。
AIは関連データを分析し、開発チームの集中度は高いという結論を導き出しました。
経営者が開発者でなくても、AIは指標に基づいて明確な見解を示してくれます。

‍

‍

最後に、「コミュニケーションオーバーヘッド」というキーワードを投げてみました。

  • コラボレーションツールの利用量を分析し、過剰なコミュニケーションが発生しているという見解を示しました。

‍

‍

本当に賢いですよね。🤖

Function Calling、AIの新しいパラダイム 💼

SelleaseのAIエージェントは、Function Callingをベースにしており、企業データを学習しません。
ユーザーの質問の意図を読み取り、適切なAPIを呼び出して、戦略的な見解と判断を提供します。
これにより、企業はより深いインサイトを引き出し、AIとともに戦略的な意思決定を行えるようになります。🌟

Selleaseのソリューションが気になりますか?

今すぐ下のボタンを押してみてください。
ありがとうございました。😊

‍

サービスについて知りたいですか?