SESSION 07LEVEL 1

キャラクターエージェントを改善する

この回でやったこと推論レベルを知り、3つの分かれ道・コストの削減・初めての人との会話に挑戦した。

このページのねらい「品質・速さ・コスト」のバランスを、自分で判断できるようになる。実際のAI開発で使われる「評価(テスト)」の考え方に触れる。

このページを開く前に3つの分かれ道・コストの削減・初めての人とのチャレンジが終わっている。

しくみ

コストは「トークン」で決まる

AIは文章を「トークン」という小さな単位に分けて読み書きします。コストは、読んだ量(入力トークン)と書いた量(出力トークン)で決まります。多くのモデルでは、出力の方が単価が高めです。

会話が続くと、それまでの会話も毎回入力に入ります。だから長い会話ほど、1回あたりが高くなります。

毎回同じ内容(システムメッセージなど)は「キャッシュ」が効いて、2回目からは安くなることがあります。ナレッジの検索結果は毎回変わるので、キャッシュは効きません。鉄則は「変わらない内容を前に、変わる内容を後ろに」です。

1回目から3回目まで、システムメッセージなどに会話の履歴が加わり、入力が増えていく帯の図。
会話の履歴も毎回入力に入ります。キャッシュは、同じ先頭部分に条件次第で効きます。帯の長さは実測のトークン数や料金ではありません。
入力に入るもの毎回同じ?
システムメッセージ同じ(キャッシュが効きやすい)
ナレッジから見つかった部分質問によって変わる
それまでの会話どんどん増える
ユーザーの発言毎回ちがう

チャレンジカード

気になるものを1枚選んで試しましょう。上から順にやる必要はありません。

7-1

コストの明細を読む

★ 少し深める目安 10分

ねらいトークン数とコストの表示が、何を意味するかを知る。

やること

  1. 上の「しくみ」を読む。
  2. 自分のエージェントのトークン数とコストの表示を見る。
  3. 「入力と出力のどちらが多いか」「どこを減らすといちばん効きそうか」を書く。

できたかチェック自分のエージェントで、コストがいちばんかかっている場所を説明できる。

7-2

キャッシュのしくみを確かめる

★★ しくみまで目安 15分

ねらいキャッシュが効くと、コストがどう変わるかを確かめる。

やること

  1. 同じ決め手のインタラクションを、2回続けて実行する。
  2. 1回目と2回目のコストを比べる(キャッシュに関する表示があれば、それも見る)。
  3. システムメッセージの中で、毎回変わる内容が前の方に入っていないか確かめる。

できたかチェック「変わらない内容を前に、変わる内容を後ろに」が大事な理由を説明できる。

7-3

言語とトークンの実験

★★ しくみまで目安 15分

ねらい同じ内容でも、言語やモデルによってトークン数が変わることを体験する。

やること

  1. 今のシステムメッセージをコピーして残しておく。
  2. システムメッセージを英語に書き換える(チャットに翻訳してもらってもよい)。
  3. 同じ会話を日本語版・英語版で実行し、トークン数・コスト・キャラの口調を比べる。
  4. 結論を書いたら、元の日本語のシステムメッセージにもどして保存する。

できたかチェック「どちらが正解」ではなく、測った結果から自分のエージェントに合う方を選んで説明できる。

7-4

モデル選び比較表

★★ しくみまで目安 20分

ねらいモデル・推論レベル・temperature を変えると、品質・速さ・コストがどう変わるかを表にして、自分のキャラに合うものを選ぶ。

やること

  1. 設定を1つずつ変えて、同じ会話を試す。
  2. 下の表に記録する。
  3. いちばん合う設定を選んで保存する。
試す順モデル推論レベルtemperatureキャラの再現(1〜5)速さ(1〜5)コスト分かれ道・ツールは動いた?
1
2
3

できたかチェック選んだ設定の理由を、「品質・速さ・コスト」の言葉で説明できる。

ヒント推論レベルは「答える前にどれだけ考えるか」、temperature は「答えのゆらぎ」(低いと安定、高いと意外性)です。音声では、推論を上げすぎると遅さが目立ちます。直す順番は、プロンプトを分かりやすくする → ナレッジを整える → それでもダメならモデルを見直す、が基本です。

7-5

分かれ道の設計表と、4本目の道

★ 少し深める目安 20分

ねらい分かれ道を表で設計して、ぬけや重なりをなくす。

やること

  1. 今の3つの分かれ道を、下の表に書く。
  2. 4本目の道を足すか、道の中にもう1つ小さな分かれ道を作る。
  3. 保存して、全部の道を新しい会話でテストする。
道入口(ユーザーの選択)とちゅうで聞くこと使うツールゴール
A
B
C
D(挑戦)

できたかチェックどの道も、ほかの道と混ざらずに最後までたどれる。

ヒント道を増やすとシステムメッセージが長くなり、コストも上がります。7-1 の明細も見比べてみましょう。

7-6

回帰テストセットを作る

★★ しくみまで目安 25分

ねらい直すたびに全部を試し直す「回帰テスト」を体験する。実際のAI開発でも行われている「評価」の考え方。

やること

  1. これまでのチャレンジの質問を集めて、下の表のようなテストセットを作る。
  2. 今のエージェントで全部を試し、合格した数を記録する(これが基準)。
  3. 何かを直すたびにもう一度全部を試し、合格数が下がっていないか確かめる。
分類集める質問数
知識Session 3 の知識の質問5
秘密Session 3 の聞き出し2〜3
ツールの判断Session 4 のツールの質問5
ペルソナSession 6 の崩しにいく質問5
分かれ道Session 7 のそれぞれの道3〜4

できたかチェック「コストを下げたら、どのテストが落ちたか」を説明できる。

ヒント作ったテストセットは、Session 8 の相互評価でも使えます。

もっと知りたくなったら

分野・レッスン・ツール・用語を横断して探せます
ESC で閉じるAI ATLAS / SEARCH