コストの明細を読む
ねらいトークン数とコストの表示が、何を意味するかを知る。
やること
- 上の「しくみ」を読む。
- 自分のエージェントのトークン数とコストの表示を見る。
- 「入力と出力のどちらが多いか」「どこを減らすといちばん効きそうか」を書く。
できたかチェック自分のエージェントで、コストがいちばんかかっている場所を説明できる。
この回でやったこと推論レベルを知り、3つの分かれ道・コストの削減・初めての人との会話に挑戦した。
このページのねらい「品質・速さ・コスト」のバランスを、自分で判断できるようになる。実際のAI開発で使われる「評価(テスト)」の考え方に触れる。
このページを開く前に3つの分かれ道・コストの削減・初めての人とのチャレンジが終わっている。
AIは文章を「トークン」という小さな単位に分けて読み書きします。コストは、読んだ量(入力トークン)と書いた量(出力トークン)で決まります。多くのモデルでは、出力の方が単価が高めです。
会話が続くと、それまでの会話も毎回入力に入ります。だから長い会話ほど、1回あたりが高くなります。
毎回同じ内容(システムメッセージなど)は「キャッシュ」が効いて、2回目からは安くなることがあります。ナレッジの検索結果は毎回変わるので、キャッシュは効きません。鉄則は「変わらない内容を前に、変わる内容を後ろに」です。
| 入力に入るもの | 毎回同じ? |
|---|---|
| システムメッセージ | 同じ(キャッシュが効きやすい) |
| ナレッジから見つかった部分 | 質問によって変わる |
| それまでの会話 | どんどん増える |
| ユーザーの発言 | 毎回ちがう |
気になるものを1枚選んで試しましょう。上から順にやる必要はありません。
ねらいトークン数とコストの表示が、何を意味するかを知る。
できたかチェック自分のエージェントで、コストがいちばんかかっている場所を説明できる。
ねらいキャッシュが効くと、コストがどう変わるかを確かめる。
できたかチェック「変わらない内容を前に、変わる内容を後ろに」が大事な理由を説明できる。
ねらい同じ内容でも、言語やモデルによってトークン数が変わることを体験する。
できたかチェック「どちらが正解」ではなく、測った結果から自分のエージェントに合う方を選んで説明できる。
ねらいモデル・推論レベル・temperature を変えると、品質・速さ・コストがどう変わるかを表にして、自分のキャラに合うものを選ぶ。
| 試す順 | モデル | 推論レベル | temperature | キャラの再現(1〜5) | 速さ(1〜5) | コスト | 分かれ道・ツールは動いた? |
|---|---|---|---|---|---|---|---|
| 1 | |||||||
| 2 | |||||||
| 3 |
できたかチェック選んだ設定の理由を、「品質・速さ・コスト」の言葉で説明できる。
ヒント推論レベルは「答える前にどれだけ考えるか」、temperature は「答えのゆらぎ」(低いと安定、高いと意外性)です。音声では、推論を上げすぎると遅さが目立ちます。直す順番は、プロンプトを分かりやすくする → ナレッジを整える → それでもダメならモデルを見直す、が基本です。
ねらい分かれ道を表で設計して、ぬけや重なりをなくす。
| 道 | 入口(ユーザーの選択) | とちゅうで聞くこと | 使うツール | ゴール |
|---|---|---|---|---|
| A | ||||
| B | ||||
| C | ||||
| D(挑戦) |
できたかチェックどの道も、ほかの道と混ざらずに最後までたどれる。
ヒント道を増やすとシステムメッセージが長くなり、コストも上がります。7-1 の明細も見比べてみましょう。
ねらい直すたびに全部を試し直す「回帰テスト」を体験する。実際のAI開発でも行われている「評価」の考え方。
| 分類 | 集める質問 | 数 |
|---|---|---|
| 知識 | Session 3 の知識の質問 | 5 |
| 秘密 | Session 3 の聞き出し | 2〜3 |
| ツールの判断 | Session 4 のツールの質問 | 5 |
| ペルソナ | Session 6 の崩しにいく質問 | 5 |
| 分かれ道 | Session 7 のそれぞれの道 | 3〜4 |
できたかチェック「コストを下げたら、どのテストが落ちたか」を説明できる。
ヒント作ったテストセットは、Session 8 の相互評価でも使えます。