1. 出力の長さを指定する
出力トークンは入力より単価が高いモデルがほとんどです(例:Haiku 4.5は入力$1に対し出力$5)。「簡潔に」「3行で」「箇条書きで」など出力の長さを指定する一言を添えるだけで、無駄な前置きや繰り返しが減り、出力トークンを大きく削減できます。
特に効果が大きいのは、同じ形式の質問を繰り返す場面です。「毎回◯行以内で」という指定を忘れずに添えるだけで、積み重なるとまとまった削減になります。逆に、指定を省略すると、AIは「念のため詳しく」と丁寧に書きすぎる傾向があり、本当は不要な補足説明まで含めた長い回答になりがちです。
以下で紹介する7つのコツは、いずれも特別な技術知識を必要としません。今日から使い始められる、シンプルな工夫ばかりです。1つずつ試しながら、自分の使い方に合うものから取り入れていくのがおすすめです。すべてを一度に実践する必要はなく、効果を感じやすいものから順に取り入れれば十分です。
2. 前の会話を丸ごと再送しない
チャット形式のやり取りでは、直前までの会話履歴が毎回まとめて送信されます。関係のない雑談や試行錯誤のやり取りが積み重なると、本題と関係ないトークンまで毎回課金対象になってしまいます。話題が変わったら新しい会話を始める、要点だけ残して途中の履歴を要約する、といった工夫が効果的です。
3. 長い資料は要約してから貼る
長文の資料をまるごと貼り付けて質問すると、その資料全体が入力トークンとしてカウントされます。本当に必要な部分だけを抜粋する、あるいは先に「この資料の要点を3つにまとめて」と要約させてから、その要約をもとに質問を続けるほうが、トータルのトークン消費を抑えられます。
4. タスクの難易度でモデルを変える
単純な分類・軽い雑談・簡単な言い換えといったタスクは、安価なモデル(Haiku 4.5)で十分なことがほとんどです。複雑な設計判断や長文の翻訳・精密な推論が必要なときだけ、上位モデル(Sonnet 5・Opus 5)を使う――この使い分けが最大のコスト削減要因です。TOKENSEは質問ごとに最適なモデルへ自動で振り分ける機能を備えています。
5. 繰り返す前提文はキャッシュを効かせる
「あなたは◯◯の専門家として振る舞ってください」のような長いシステムプロンプトや、繰り返し参照する長文の資料は、Anthropicのプロンプトキャッシュを使うと再利用分が通常の10%の単価まで下がります。同じ前提を何度も使うワークフローほど効果が大きい仕組みです。
6. 箇条書きよりも構造化フォーマットを使う
意外と見落とされがちなのが、質問の書き方そのものが冗長だとAIの回答も冗長になりやすいという点です。背景説明を長々と書き連ねるより、「前提」「やりたいこと」「制約」のように項目を分けて簡潔に書くと、AI側も要点を絞った回答を返しやすくなり、結果的に出力トークンが減ります。
- 「〜について詳しく教えてください、あと〜も気になるのですが、それと〜についても」のように詰め込みすぎない
- 複数の質問がある場合は、箇条書きで分けて提示する
- 期待する回答の形式(表形式・箇条書き・一文で等)を先に伝える
これら6つの工夫は、いずれも単体で劇的な変化を生むものではありませんが、組み合わせることで体感の使い勝手を落とさずにコストを大きく圧縮できます。まずは①出力の長さ指定と②会話の区切りから試すのが、効果に対して手間が少なくおすすめです。
よくある質問
よくある質問
- Q. 日本語と英語でトークン消費量は違いますか?
- A. はい。日本語は1文字あたり複数トークンを消費する傾向があり、同じ内容でも英語より多くのトークンを使うことが一般的に知られています。
- Q. プロンプトを短くすると回答の質は落ちませんか?
- A. 不要な前置きや繰り返しを削るだけであれば、回答の質にはほとんど影響しません。むしろ要点を明確にすることで、的確な回答が得やすくなることもあります。
- Q. TOKENSEはこれらの工夫を自動でやってくれますか?
- A. 会話履歴の自動要約圧縮・プロンプトキャッシュの活用・質問ごとの自動モデル振り分けは、TOKENSEが自動で行います。手動で気をつけたいのは主に①出力の長さ指定と③長文の要約です。
- Q. 一番効果が大きい工夫はどれですか?
- A. 一般的には④タスクの難易度でモデルを変えることが最も影響が大きく、次いで②会話履歴を持ち越さないことが効果的とされています。まずこの2つから意識してみてください。
- Q. プロンプトを工夫しても品質が下がる場合はどうすればいいですか?
- A. その場合は無理に節約せず、必要な情報量を優先してください。TOKENSEの監査機能を使うと、モデルを落とした際に品質が実際にどれだけ変わったかを数値で確認できます。
- Q. プログラミング作業でも同じコツは使えますか?
- A. はい。「出力の長さを指定する」「タスクの難易度でモデルを変える」といった考え方は、コード生成や修正のようなプログラミング系のタスクにも同様に当てはまります。長いソースコードを貼り付ける際は、関係する部分だけを抜粋するのも効果的です。