IT資格マップ
DVA-C03 練習問題1：生成AIの入出力から個人情報を守る
DVA-C03の練習問題1です。Bedrockを使うアプリで、入力と応答に含まれる個人情報を、コードに判定を書かずに防ぐ方法を四択で解きます。
AWS Developer（DVA-C03）
AWS DVA-C03 オリジナル問題 1
人が全選択肢を確認済み（AI 作成）
AI が一次情報をもとに作成し、人がすべての選択肢を確認しました（確認）。
根拠（Amazon Web Servicesの公開資料の要約）：Guardrails は、入力プロンプトとモデルの応答に対して、拒否トピックや機密情報フィルターなどの保護を設定できる機能。根拠の資料を開く
Amazon Web Services、AWS は、Amazon.com, Inc. またはその関連会社の商標です。当サイトはAmazon Web Servicesと提携・公認の関係にありません。この問題は当サイトが独自に作成したもので、実際の試験の問題ではありません。
根拠の資料と食い違う点があれば、資料が優先です。解説文は検証の対象外です。品質方針
Amazon Bedrock の基盤モデルを呼び出すアプリを開発しています。ユーザーの入力にカード番号などの個人情報が含まれることがあり、モデルの応答にも個人情報が出るおそれがあります。入力と応答の両方で個人情報を検出して伏せたく、アプリのコードに個別の判定ロジックは書きたくありません。最も適した方法はどれですか。
答えと選択肢ごとの根拠を見る
正解：エ（Amazon Bedrock Guardrails に機密情報のフィルターを設定し、モデルの呼び出しに適用する。） 当サイトの解答
ア × 誤り 指示文に書けば、入力と応答の両方を確実に制御できると考えた
システムプロンプトはモデルへの指示で、強制力のあるフィルターではありません。入力に含まれる個人情報を、モデルに渡す前に伏せることもできません。
イ × 誤り アクセス権の制御で、入出力の中身も制御できると考えた
IAM が決めるのは、だれがどの API を呼べるかです。リクエストと応答の中身は見ないので、個人情報は防げません。
ウ × 誤り Macie が生成AIの入出力を直接検査すると考えた
Macie は、S3 に保存されたデータから機密データを見つけるサービスです。Bedrock へのリクエストと応答は対象ではありません。
エ ○ 正しい
Guardrails は、入力と応答の両方に対して、個人情報などの機密情報を検出し、ブロックまたはマスクできます。判定の処理をアプリのコードに持たなくて済みます。
解説を開く
解説
答えはイ：Guardrails を呼び出しに適用する
生成AIを使うアプリでは、入力と応答の両方が守る対象です。Bedrock Guardrails は、この両方に同じルールをかけられます。個人情報の種類ごとに、ブロックにするか伏せるか（マスク）を設定できます。
この問題は、試験ガイドの分野「Security」にあたります。当サイトが作った問題で、公式のサンプル問題とは別です。
誤答は何を取り違えているか
アは、指示を書くだけで、入力側には効きません。ウは呼び出せる人の制限で、中身を見ません。エの Macie が見るのは S3 のデータです。
似た問題を解くときの手がかり
「入出力の中身を制御したい」という問題では、権限の話（IAM）と、中身の話（Guardrails）を分けて考えます。
参考にした資料
Amazon Web Services（確認）