最大出力 Tokens のカスタマイズ
AI アシスタントの回答長さの上限をカスタマイズする
機能概要
出力 Token 上限のカスタマイズ機能では、AI アシスタントが 1 回の回答で生成する最大の長さを正確に制御できます。この設定を調整することで、さまざまな利用シーンに応じて、AI アシスタントに簡潔な要約や詳細な説明を生成させることができ、同時に Token 消費コストを効果的に抑えられます。
出力 Token 上限を設定する
設定画面に入る
左側メニューの「AI アシスタント」をクリックします
設定したい AI アシスタントを選択します
「設定」ボタンをクリックします
「詳細設定」タブに切り替えます
Token 上限を調整する
Token 上限モードを選択する
「モデルの最大値を使用」：選択したモデルがサポートする最大出力 Token 数をそのまま適用します（デフォルト）
「カスタム数量」：上限を自分で指定します
カスタム数値を入力する（「カスタム数量」を選択した場合）
数値入力欄に目標の数値を入力します
入力できる範囲は選択したモデルによって異なり、そのモデルで許可されている範囲が画面にリアルタイムで表示されます（下図の「範囲：512 - 64000 tokens」のように表示されます）
設定を保存する
「保存」ボタンをクリックします
設定はただちに反映され、AI アシスタントを再起動する必要はありません
注意事項
低く設定しすぎると回答が途中で切れ、完全性が損なわれる場合があります
高く設定しすぎると Token 消費コストが増加します
実際のニーズに応じて調整し、テストを通じて最適なバランスを見つけることをおすすめします
推奨設定値
さまざまな利用シーンに応じた、Token 上限の推奨設定は以下のとおりです。
簡潔な問い合わせ対応
256 - 512
FAQ ボットなど、すばやい回答に適しています 日本語で約 100〜200 文字
一般的なカスタマーサポート
512 - 1024
詳細さとコストのバランスをとります 日本語で約 200〜400 文字
専門的なコンサルティング
1024 - 2048
詳細な説明と解決策を提供します 日本語で約 400〜800 文字
コンテンツ生成
2048 - 4096
長文の記事やレポートを生成します 日本語で約 800〜1600 文字
コード生成
1024 - 2048
完全なコードスニペットを生成します コメントと説明を含みます
利用シーンの例
シーン 1：FAQ クイック回答ボット
ニーズ：顧客からよくある質問には、長々とした説明を避け、簡潔で明確な回答が必要
設定方法：
出力 Token 上限：256〜512
役割指示：「質問には簡潔かつ明確に、3 文以内で答えてください」
期待される効果：すばやい応答と Token 消費の削減
会話例：
シーン 2：テクニカルサポートの詳細な説明
ニーズ：ユーザーが技術的な問題に直面しており、詳細な手順説明が必要
設定方法：
出力 Token 上限：1024〜2048
役割指示：「ユーザーが手順どおりに操作できるよう、詳細な手順説明を提供してください」
期待される効果：完全な問題解決のガイダンス
会話例：
シーン 3：コンテンツの要約生成
ニーズ：長文の記事から要点を抽出して要約する
設定方法：
出力 Token 上限：512〜768
役割指示：「要点を 3〜5 個のポイントにまとめ、各ポイントは 2 文以内にしてください」
期待される効果：簡潔で、すばやく理解しやすい要約
他の設定との関係
役割指示 (System Prompt)
高い Token 上限を設定していても、役割指示によって回答の長さを制約できます。
モデルの選択
モデルによってサポートされる最大出力 Token 数は異なります。AI アシスタントで使用するモデルを切り替えると、カスタマイズできる範囲もそれに応じて変わり、画面に表示される範囲のヒントが現在選択しているモデルの上限・下限を示します。「モデルの最大値を使用」を選択すると、システムが自動的にそのモデルの最大値を適用します。
コスト最適化のおすすめ
Token 消費を計算する
1 回の会話の Token 消費には以下が含まれます。
入力 Token：ユーザーの質問 + 会話履歴 + 役割指示
出力 Token：AI の回答（この設定によって制限されます）
計算例：
最適化の戦略
シーンに応じて調整する
簡単な質問には低い Token 上限を使う
複雑な質問のときだけ上限を引き上げる
不要な長い回答を避ける
役割指示で簡潔さを明確に求める
1 回の長い回答ではなく、複数回の会話で対応する
利用状況を定期的に確認する
「使用分析」タブで会話文字数などの利用傾向を確認する
コストを最適化するために設定を調整する
よくある質問
Q：Token 上限を設定すると、AI の回答は強制的に途中で切られますか？
A：はい。AI が生成する回答が Token 上限に達すると、その位置で停止するため、文が途中で切れる場合があります。おすすめは次のとおりです。
適切な上限を設定する（低く設定しすぎない）
役割指示で「文字数の上限に達する前に自然に締めくくる」よう求める
Q：自分の AI アシスタントが平均でどのくらいの Token を使っているか、どうすればわかりますか？
A：AI アシスタントの「設定」ページの「使用分析」タブで、日付期間ごとに「会話文字数」「会話回数」「メッセージ回数」「平均会話インタラクション回数」「ユーザー満足度」などの傾向グラフを確認できます。このうち「会話文字数」はそのアシスタントが累計で生成した文字数であり、文字数は Token 数と正の相関があるため、Token 消費の目安として利用できます。
Q：Token 上限を高めに設定すると、回答速度は遅くなりますか？
A：わずかに影響があります。回答が長くなると生成により多くの時間がかかりますが、通常その差は大きくありません（数秒以内）。主な影響要因は依然として次のとおりです。
モデルの選択
ネットワーク接続速度
サーバー負荷
Q：言語によって異なる Token 上限を設定する必要はありますか？
A：適度な調整をおすすめします。
日本語：同じ文字数でも Token 消費が多くなるため、上限をやや高めにできます
英語：Token 効率が高いため、低めの上限を使用できます
多言語環境：柔軟性を確保するため、高めの上限を設定することをおすすめします
Q：Token 上限はナレッジベースの検索結果に影響しますか？
A：検索そのものには直接影響しませんが、検索結果の提示のしかたには影響します。
高い Token 上限：より多くのナレッジベースの断片を引用できます
低い Token 上限：最も関連性の高い断片のみを引用します
テストと調整
テストの流れ
初期値を設定する
推奨値から始める（例：1024）
テスト会話を行う
典型的なユーザーの質問を入力する
回答の長さと完全性を観察する
結果を評価する
回答は完全ですか？
不要な冗長さはありませんか？
Token 消費は妥当ですか？
段階的に調整する
長すぎる → Token 上限を下げる
短すぎる／途中で切れる → Token 上限を上げる
継続的に監視する
利用状況を定期的に確認する
実際のニーズに応じて微調整する
テスト例
関連機能
最終更新
役に立ちましたか？