Ctrlk
註冊/登入
For the complete documentation index, see llms.txt. This page is also available as Markdown.

最大出力 Tokens のカスタマイズ

AI アシスタントの回答長さの上限をカスタマイズする

機能概要

出力 Token 上限のカスタマイズ機能では、AI アシスタントが 1 回の回答で生成する最大の長さを正確に制御できます。この設定を調整することで、さまざまな利用シーンに応じて、AI アシスタントに簡潔な要約や詳細な説明を生成させることができ、同時に Token 消費コストを効果的に抑えられます。

Token について

Token は AI モデルがテキストを処理する基本単位です。一般的には次のとおりです。

  • 日本語：1 文字あたり約 1.5〜2 Token

  • 英語：1 単語あたり約 1〜1.5 Token

  • 句読点も Token 数にカウントされます

出力 Token 上限を設定する

設定画面に入る

  1. 左側メニューの「AI アシスタント」をクリックします

  2. 設定したい AI アシスタントを選択します

  3. 「設定」ボタンをクリックします

  4. 「詳細設定」タブに切り替えます

Token 上限を調整する

  1. Token 上限モードを選択する

    • 「モデルの最大値を使用」：選択したモデルがサポートする最大出力 Token 数をそのまま適用します（デフォルト）

    • 「カスタム数量」：上限を自分で指定します

  2. カスタム数値を入力する（「カスタム数量」を選択した場合）

    • 数値入力欄に目標の数値を入力します

    • 入力できる範囲は選択したモデルによって異なり、そのモデルで許可されている範囲が画面にリアルタイムで表示されます（下図の「範囲：512 - 64000 tokens」のように表示されます）

  3. 設定を保存する

    • 「保存」ボタンをクリックします

    • 設定はただちに反映され、AI アシスタントを再起動する必要はありません

詳細設定：最大出力 Token 数
AI アシスタントの詳細設定画面：「モデルの最大値を使用」または「カスタム数量」を選択して出力 Token 上限を制御できます

注意事項

  • 低く設定しすぎると回答が途中で切れ、完全性が損なわれる場合があります

  • 高く設定しすぎると Token 消費コストが増加します

  • 実際のニーズに応じて調整し、テストを通じて最適なバランスを見つけることをおすすめします

推奨設定値

さまざまな利用シーンに応じた、Token 上限の推奨設定は以下のとおりです。

利用シーン
推奨 Token 数
説明

簡潔な問い合わせ対応

256 - 512

FAQ ボットなど、すばやい回答に適しています 日本語で約 100〜200 文字

一般的なカスタマーサポート

512 - 1024

詳細さとコストのバランスをとります 日本語で約 200〜400 文字

専門的なコンサルティング

1024 - 2048

詳細な説明と解決策を提供します 日本語で約 400〜800 文字

コンテンツ生成

2048 - 4096

長文の記事やレポートを生成します 日本語で約 800〜1600 文字

コード生成

1024 - 2048

完全なコードスニペットを生成します コメントと説明を含みます

利用シーンの例

シーン 1：FAQ クイック回答ボット

ニーズ：顧客からよくある質問には、長々とした説明を避け、簡潔で明確な回答が必要

設定方法：

  • 出力 Token 上限：256〜512

  • 役割指示：「質問には簡潔かつ明確に、3 文以内で答えてください」

  • 期待される効果：すばやい応答と Token 消費の削減

会話例：

シーン 2：テクニカルサポートの詳細な説明

ニーズ：ユーザーが技術的な問題に直面しており、詳細な手順説明が必要

設定方法：

  • 出力 Token 上限：1024〜2048

  • 役割指示：「ユーザーが手順どおりに操作できるよう、詳細な手順説明を提供してください」

  • 期待される効果：完全な問題解決のガイダンス

会話例：

シーン 3：コンテンツの要約生成

ニーズ：長文の記事から要点を抽出して要約する

設定方法：

  • 出力 Token 上限：512〜768

  • 役割指示：「要点を 3〜5 個のポイントにまとめ、各ポイントは 2 文以内にしてください」

  • 期待される効果：簡潔で、すばやく理解しやすい要約

他の設定との関係

役割指示 (System Prompt)

高い Token 上限を設定していても、役割指示によって回答の長さを制約できます。

モデルの選択

モデルによってサポートされる最大出力 Token 数は異なります。AI アシスタントで使用するモデルを切り替えると、カスタマイズできる範囲もそれに応じて変わり、画面に表示される範囲のヒントが現在選択しているモデルの上限・下限を示します。「モデルの最大値を使用」を選択すると、システムが自動的にそのモデルの最大値を適用します。

コスト最適化のおすすめ

Token 消費を計算する

1 回の会話の Token 消費には以下が含まれます。

  • 入力 Token：ユーザーの質問 + 会話履歴 + 役割指示

  • 出力 Token：AI の回答（この設定によって制限されます）

計算例：

最適化の戦略

  1. シーンに応じて調整する

    • 簡単な質問には低い Token 上限を使う

    • 複雑な質問のときだけ上限を引き上げる

  2. 不要な長い回答を避ける

    • 役割指示で簡潔さを明確に求める

    • 1 回の長い回答ではなく、複数回の会話で対応する

  3. 利用状況を定期的に確認する

    • 「使用分析」タブで会話文字数などの利用傾向を確認する

    • コストを最適化するために設定を調整する

詳細なコスト計算と最適化のおすすめについては、使用量計算 をご参照ください。

よくある質問

Q：Token 上限を設定すると、AI の回答は強制的に途中で切られますか？

A：はい。AI が生成する回答が Token 上限に達すると、その位置で停止するため、文が途中で切れる場合があります。おすすめは次のとおりです。

  • 適切な上限を設定する（低く設定しすぎない）

  • 役割指示で「文字数の上限に達する前に自然に締めくくる」よう求める

Q：自分の AI アシスタントが平均でどのくらいの Token を使っているか、どうすればわかりますか？

A：AI アシスタントの「設定」ページの「使用分析」タブで、日付期間ごとに「会話文字数」「会話回数」「メッセージ回数」「平均会話インタラクション回数」「ユーザー満足度」などの傾向グラフを確認できます。このうち「会話文字数」はそのアシスタントが累計で生成した文字数であり、文字数は Token 数と正の相関があるため、Token 消費の目安として利用できます。

使用分析タブ
AI アシスタントの「使用分析」タブ：日付期間ごとに会話文字数、会話回数、メッセージ回数、平均会話インタラクション回数、ユーザー満足度などの傾向グラフを確認できます

Q：Token 上限を高めに設定すると、回答速度は遅くなりますか？

A：わずかに影響があります。回答が長くなると生成により多くの時間がかかりますが、通常その差は大きくありません（数秒以内）。主な影響要因は依然として次のとおりです。

  • モデルの選択

  • ネットワーク接続速度

  • サーバー負荷

Q：言語によって異なる Token 上限を設定する必要はありますか？

A：適度な調整をおすすめします。

  • 日本語：同じ文字数でも Token 消費が多くなるため、上限をやや高めにできます

  • 英語：Token 効率が高いため、低めの上限を使用できます

  • 多言語環境：柔軟性を確保するため、高めの上限を設定することをおすすめします

Q：Token 上限はナレッジベースの検索結果に影響しますか？

A：検索そのものには直接影響しませんが、検索結果の提示のしかたには影響します。

  • 高い Token 上限：より多くのナレッジベースの断片を引用できます

  • 低い Token 上限：最も関連性の高い断片のみを引用します

テストと調整

テストの流れ

  1. 初期値を設定する

    • 推奨値から始める（例：1024）

  2. テスト会話を行う

    • 典型的なユーザーの質問を入力する

    • 回答の長さと完全性を観察する

  3. 結果を評価する

    • 回答は完全ですか？

    • 不要な冗長さはありませんか？

    • Token 消費は妥当ですか？

  4. 段階的に調整する

    • 長すぎる → Token 上限を下げる

    • 短すぎる／途中で切れる → Token 上限を上げる

  5. 継続的に監視する

    • 利用状況を定期的に確認する

    • 実際のニーズに応じて微調整する

テスト例

関連機能

関連機能

前へAI カスタマーサポートの品質管理次へナレッジベース総覧

最終更新

役に立ちましたか？