SESSION 04LEVEL 1

ツールチャレンジ

この回でやったことキャラクターに合うツールを選び、2つのツールをつなぐ流れを作り、ツールを使う・使わないの判断をテストした。

このページのねらいツール呼び出しのしくみを知り、判断ミスを分析して直せるようになる。AIに「行動させる」ときの安全の考え方に触れる。

このページを開く前にツールが2つ以上あり、ツールをつなぐ流れが作れていて、ツールチャレンジが終わっている。

しくみ

AIは、ツールを「自分で」動かしているわけではない

AIが直接インターネットを見ているわけではありません。AIは「このツールを、この入力で呼んで」と頼み、それをプラットフォームが実行しています。

AIはツールの名前と説明を読んで、使うかどうかを決めています。だからシステムメッセージに「どんなときに、どのツールを使うか」を書くと、判断が良くなります。

AIが依頼し、プラットフォームがツールを実行して、結果をAIに戻すやりとり。
AIはツールの呼び出しを頼みます。実行して結果を戻すのはプラットフォームです。
図の流れを文字で読む
  1. プラットフォームが、使えるツールの一覧(名前・説明・入力の形)をAIに渡す
  2. AIが必要だと判断すると、「このツールを、この入力で呼んで」と指示を出す
  3. プラットフォームがツールを実行し、結果をAIに返す
  4. AIが結果を読んで、返事を続ける

チャレンジカード

気になるものを1枚選んで試しましょう。上から順にやる必要はありません。

4-1

ツール呼び出しを図にしよう

★★ しくみまで目安 15分

ねらいツール呼び出しの流れを、自分のエージェントに当てはめて理解する。

やること

  1. 上の「しくみ」の4ステップを読む。
  2. 自分のツールの流れを、4ステップに当てはめて紙に図で描く。
  3. ステップ2で、AIが何を入力にしたと思うかを書きこむ。

できたかチェック「システムメッセージにツールの使いどころを書くと効くのはなぜか」を説明できる。

4-2

判断ミスを分析する

★ 少し深める目安 20分

ねらいツールの判断ミスには種類があることを知り、ミスの種類に合わせて直す。

やること

  1. ツールチャレンジの質問に、自分で考えた質問を足して10問にする。
  2. 10問を試して、それぞれ「期待したツール(またはツールなし)」と結果を記録する。
  3. いちばん多かったミスの種類を1つ選んで、下の表の方法で直す。
  4. 保存して、もう一度10問を試す。
ミスの種類起きること直し方の例
使いすぎ遅い・コストが増える・会話が不自然「ユーザーがはっきり求めたときだけ使う」と書く
使わなすぎ古い情報やでっち上げで答える「〜と聞かれたら、必ず〜で調べる」と書く
ちがうツール求めていない結果が出るツールの使い分けを1行ずつ書く

できたかチェック自分のエージェントの「ミスのくせ」と、それに合わせた直し方を説明できる。

4-3

3つのツールをつなぐ

★★ しくみまで目安 20分

ねらい3つのツールを、自然な会話の中でつなぐ。

やること

  1. 3つのツールを使う流れを考える。
  2. 流れを番号付きの手順にして、システムメッセージに書く。
  3. 保存して、新しい会話で3回通す。
流れの例
シェフ:材料を聞く → レシピを検索 → 完成した料理の画像を生成 → 料理のテーマ曲を生成
トト:行きたい場所を聞く → その場所の天気を検索 → 霧の港の絵を生成 → 出発の注意を話す

できたかチェック3回とも、3つのツールが正しい順番で使われる。

ヒントツールを増やすと、遅くなり、コストも上がります。「3つ目は本当に必要?」も考えてみましょう。

4-4

答えによってツールを使い分ける

★★ しくみまで目安 20分

ねらいユーザーの答えで、流れを分けてみる。

やること

  1. キャラクターがユーザーに聞く質問を1つ決める。
  2. 答えによって、2〜3本の道に分ける。
  3. それぞれの道を試す。
分かれ道の例
トト「どこへ行きたい?」
→「ミストの中」なら、ナレッジの町の話をする
→「外の世界」なら、ウェブ検索で実在の場所を調べる
→「見てみたい」なら、画像を生成する

できたかチェックどの道を選んでも、最後まで会話が続く。

ヒント分かれ道は Session 7 で本格的に作ります。ここでは1つの分かれ道だけにしましょう。

4-5

検索結果を疑う・出典を添える

★ 少し深める目安 10分

ねらいツールを使っても、答えが正しいとは限らないことを知る。

やること

  1. システムメッセージに「検索した内容を答えるときは、どこで調べたかを、キャラクターらしく一言添える」と足す。
  2. 保存して、検索を使う質問をする。
  3. 出典が付くか、その出典が本当にあるかを確かめる。

できたかチェック出典が本当にあるかを、自分で確かめた。

4-6

もし「送信ツール」があったら?

★★ しくみまで目安 15分ペアで話し合い

ねらいAIに現実の世界で行動させるときの危険と、安全の工夫を考える。

検索のような「読み取る」ツールは、失敗しても「情報が古い・足りない」で済みます。メール送信・買い物・削除のような「書きこむ」ツールは、失敗が現実の世界に残ります。

身の回りのAIアシスタントも同じしくみで、カレンダーやメールにつながっています。実際のサービスでは、実行の前に人が確認したり、できることをしぼったりする工夫をセットで考えます。

考えてみよう

  • 自分のキャラに「メールを送るツール」を持たせるなら、どんなルールが必要?
  • 「買い物ツール」を持ったAIに、誰かがインジェクションをしたら何が起きる?
  • 人間の「確認ボタン」は、どこに入れるべき?

答えは1つではありません。ペアやワークショップリーダーと話してみましょう。

もっと知りたくなったら

分野・レッスン・ツール・用語を横断して探せます
ESC で閉じるAI ATLAS / SEARCH