AWS Guardrails

AWS Guardrails の防護機能は、設定可能なセキュリティ対策を提供し、生成 AI アプリケーションを安全かつ大規模に構築するのを支援します。自動推論を活用して、ハルシネーションによる事実誤認を防止します。不要かつ有害なコンテンツを最大 85% 以上ブロックできます。検索拡張生成 (RAG) や要約のユースケースにおけるモデルのハルシネーション応答を 75% 以上フィルタリングします。

AWS Guardrails には次の機能があります。

• コンテンツフィルタリング（性的・暴力的表現などの防止）

• 話題逸脱の防止

• 禁止ワード（ワードフィルタリング）

• 機密データの除去

• ハルシネーションの防止

操作手順の説明

Step 1: Config の設定（名称、説明、ブロックされた場合に返すメッセージ）

他の事例での設定

Step 2: コンテンツフィルタリングの設定（User Input, Assistant Response）

危害レベルを指定でき、Image の入力も含めることが可能です

他の事例での設定

Step 3: 拒否するトピックを設定し、話題逸脱を防止する

説明や定義を追加し、例を提供することで、話題の逸脱を防止できます

他の事例での設定

Step 4: ワードフィルタリングの設定（罵倒語や特定の語句への言及を禁止する）

例えば、モデルに「ヴォルデモート」と言及してほしくない場合は、その単語を追加します。複数の単語を一度に入力することも可能です（csv, txt, ctrl + c）。

他の事例での設定

Step 5: 機密データ (PII) のブロック、正規表現による置換

クレジットカード、ナンバープレート、マイナンバーなど、いくつかのパターンがあらかじめ設定されています

他の事例での設定

正規表現による置換では、AI アシスタントの応答内で、任意の正規表現を用いて不要な構造を置き換えることができます。

Step 6: ハルシネーションの防止、および関連性に基づいて応答をブロックする閾値 (threshold)

他の事例での設定