Hook の追加と設定

標準テンプレートから Hook を作成し、パラメータ（禁止語リスト、判定モデル、検出サービス、ブロックメッセージなど）を調整して、AI アシスタントに関連付けます。

このページでは、標準テンプレートから Hook を作成し、パラメータを調整して AI アシスタントに関連付け、動作させる方法を説明します。

1. Hook の追加

1. Hook リストを開く

左側のメニューから AI 機能 → Hook を開きます。リストには、現在の組織にあるすべての Hook と、その名前、説明、タイプ、インターセプトタイミング、アクション、関連付けられた AI アシスタント、有効状態、作成者、更新日時が表示されます。

Hook リストでは、各 Hook のタイプ、インターセプトタイミング（介入するタイミング）、アクション（書き換え／ブロック）、関連付けられた AI アシスタント、有効状態を確認できます。

2. テンプレートを選択する

右上の Hook を追加 をクリックし、ポップアップウィンドウで標準テンプレートを選択します。各テンプレートカードにはインターセプトタイミングとアクションが表示されているため、用途をすぐに判断できます。

テンプレートの選択：7 種類の標準テンプレートには、それぞれインターセプトタイミング（ユーザーメッセージ受信時／AI 回答生成後）とアクション（書き換え／ブロック）が表示されます。

作成手順は、テンプレート（使用するタイプ）→ 基本情報（名前、説明）→ AI アシスタントに適用（関連付けるアシスタント）の 3 つのタブに分かれています。テンプレートを選択したら、順番に入力してください。

2. パラメータの調整

テンプレートごとに異なるパラメータがあります。作成後、Hook の設定ページで調整できます。一般的なパラメータは次のとおりです。

テンプレート	主なパラメータ	説明
個人情報マスキング	マスキングする PII タイプ	検出するタイプ（Email／携帯電話番号／身分証明書番号／クレジットカード）を選択します
セマンティック個人情報マスキング	個人情報検出モデルと検出タイプ、最小信頼度、マスキング形式	検出サービスを選択してから、マスキングする個人情報タイプ（氏名、住所、電話番号など）を選択します。信頼度を上げると誤検出を抑えられます
機密キーワードブロック	禁止語リスト、最小文字数	1 行に 1 つの禁止語を入力します。最小文字数を設定すると、短すぎる語を除外して誤検出を防げます
プロンプトインジェクション対策	判定モデル、追加の判定ルール	攻撃かどうかを判定する LLM を選択します。カスタムルールも追加できます
コンテンツセーフティ分類ブロック	コンテンツセーフティモデルとブロック対象カテゴリ、追加スコアしきい値、検出サービス異常時の処理	検出サービスを選択してから、ブロックするカテゴリを選択します。何も選択しない場合、いずれかのカテゴリに違反するとブロックされます
無効なメッセージのフィルタリング	挨拶リスト、連続繰り返し上限、判定モデル	最初にルールでフィルタリングし、その後 LLM で無効なメッセージかどうかを判定します
回答信頼性チェック	書き換えモデル、確認基準	回答が信頼できるかどうかを判定し、書き換える LLM を選択します

「個人情報マスキング」を例に、検出する PII タイプを選択し、有効状態を設定できます。

判定モデル（LLM ベースのテンプレート）

プロンプトインジェクション対策、無効なメッセージのフィルタリング、回答信頼性チェックなど、「セマンティックな判定」が必要なテンプレートには判定モデルフィールドがあります。ドロップダウンメニューには、組織で現在利用可能なモデルが表示されます。この判定はメッセージごとに実行されるため、応答が速く、低コストのモデル（Haiku、GPT-5 mini、Gemini Flash など）を推奨します。空欄の場合は、プラットフォームのデフォルトモデルが使用されます。

「回答信頼性チェック」を例に、組織で利用可能な LLM から判定モデルを選択し、「確認基準」に判定方針をわかりやすい言葉で記述できます。

検出サービス（セーフティモデルベースのテンプレート）

「コンテンツセーフティ分類ブロック」と「セマンティック個人情報マスキング」では、一般的な LLM による判定ではなく、コンテンツを専用のセーフティモデルに送信します。構造化された分類とスコアが返されるため、しきい値の設定や監査が可能で、LLM による判定よりも低遅延かつ低コストです。どちらのテンプレートも2 段階で設定します。最初に検出サービスを選択し、次に処理する項目を選択します。

コンテンツセーフティ分類ブロック

1. コンテンツセーフティモデルとブロック対象カテゴリ の最初のドロップダウンメニューで、検出サービスを選択します（現在は OpenAI Moderation を利用できます）。

2. 2 つ目のドロップダウンメニューで、ハラスメント、ヘイト、違法行為、自傷、性的コンテンツ、暴力など、ブロックするカテゴリを選択します。何も選択しない場合、モデルがいずれかのカテゴリへの違反を判定するとブロックされます（最も厳格で、初期設定として推奨します）。

3. 追加スコアしきい値 のデフォルトは 0 で、モデルの判定をそのまま使用します。0～1 の値を設定すると、スコアがしきい値以上の場合にのみブロックされます。値を上げると誤検出を抑えられます。

4. 検出サービス異常時 では、サービスがタイムアウトした場合やキーが設定されていない場合の処理を指定します。pass はメッセージを通過させ（可用性を優先、デフォルト）、block は常にブロックします（コンプライアンスを優先、規制対象業界に推奨）。

コンテンツセーフティ分類ブロック：最初に検出サービスを選択し、次にブロックするカテゴリを選択します。その下で、追加スコアしきい値とサービス異常時の処理を設定できます。

選択可能なカテゴリは検出サービスからリアルタイムで提供され、各カテゴリの横にはサービス固有のカテゴリ名が表示されます。サービスを切り替えるとリストも変わります。

セマンティック個人情報マスキング

1. 個人情報検出モデルと検出タイプ の最初のドロップダウンメニューで、検出サービスを選択します（現在は Google Cloud DLP を利用できます）。

2. 2 つ目のドロップダウンメニューで、マスキングする個人情報タイプを選択します。「標準タイプ」には氏名、住所、電話番号、メールアドレス、台湾の身分証明書番号、台湾のパスポート番号などがあり、「プロバイダー固有タイプ」にはクレジットカード番号、IBAN など、より詳細な項目があります。選択するタイプが多いほど、呼び出しごとのコストが高くなるため、業務上実際にマスキングが必要なタイプだけを選択することを推奨します。

3. 最小信頼度 のデフォルトは 0.5 です。この値を下回る検出結果は無視されます。値を上げると誤検出（会社名を人名と誤認する場合など）を抑えられますが、マスキング漏れが生じる可能性があります。

4. マスキング形式：type_token は [NAME] や [ADDRESS] などのプレースホルダーに置き換えるため、AI は元のデータタイプを引き続き認識できます（推奨）。asterisk は同じ文字数のアスタリスクに置き換え、タイプを完全に隠します。

セマンティック個人情報マスキング：最初に検出サービスを選択し、次にマスキングする個人情報タイプを選択します（この例では氏名と住所を選択）。その下で、最小信頼度とマスキング形式を設定できます。

選択可能な個人情報タイプは「標準タイプ」と「プロバイダー固有タイプ」の 2 つに分かれ、同じメニュー内にセクション別で表示されます。

コンテンツは外部の検出サービスに送信されます。 この 2 つのテンプレートは、確認対象のテキストを検出サービス（OpenAI、Google Cloud）に送信して判定します。データレジデンシー要件がある組織や、外部へのデータ送信が禁止されている組織は、有効にする前にコンプライアンスを確認してください。検出サービスを切り替えると、タイプの非互換性による保存エラーを防ぐため、選択済みの項目は自動的にクリアされます。

ブロックメッセージはカスタマイズできます。 「ブロック」タイプのテンプレート（プロンプトインジェクション対策、機密キーワードブロック、無効なメッセージのフィルタリング、コンテンツセーフティ分類ブロックなど）では、ブロック時の回答メッセージに、ブロックされた際にユーザーへ返すメッセージを設定できます。たとえば、「メッセージに不適切な表現が含まれています。修正してからもう一度お試しください。」と設定できます。

3. AI アシスタントの関連付け

Hook は、AI アシスタントに関連付けて初めて有効になります。関連付ける方法は 2 つあります。

• 作成時に関連付ける：Hook の作成時に「AI アシスタントに適用」タブで、適用するアシスタントを選択します。

• アシスタント設定から関連付ける：AI アシスタントの設定ページを開き、Hook タブに切り替えて、適用する Hook を選択します。

Hook の「AI アシスタントに適用」タブで、左側の「選択可能」リストから右側の「選択済み」リストへ Hook を移動すると、関連付けが完了します。

1 つのアシスタントに複数の Hook を関連付けられます。 システムは順番に実行します。たとえば、最初に「無効なメッセージのフィルタリング」でスパムをブロックし、次に「個人情報マスキング」で個人情報をマスキングし、最後に「プロンプトインジェクション対策」で攻撃をブロックすることで、独自の保護フローを構築できます。

「ユーザーメッセージ受信時」の Hook を関連付けると、添付ファイル、ナレッジベースの文章、ツールの返却内容も確認されます。 追加設定は必要ありません。AI に入力される前に実行される Hook をアシスタントに関連付けると、ユーザーがアップロードした添付ファイルの内容、ナレッジベースから取得した文章、Agent モードでツールが返した結果は、すべてモデルに送信される前に同じ Hook を通過します。詳しくは、Hook メッセージインターセプトを参照してください。

Hook を有効にする

パラメータと関連付けるアシスタントを確認したら、Hook を 有効 に設定します。有効にすると、ユーザーがそのアシスタントと対話するたびに、対応するタイミングで Hook が自動的に動作します。

4. 次のステップ

設定が完了したら、Hook 実行ログで各ブロックまたは書き換えの記録を確認し、Hook が正しく動作していることを確認できます。