発展読了目安 30 分#AI#LLM#個人情報#認可#インシデント対応
「AI に聞いたら、知らない人の住所が出てきた」— 誰も攻撃していない漏えい
サポートの AI が、別の顧客の注文と住所を答えていた。トークンは盗まれていない。AI は持たされた道具を、持たされた権限で使っただけだった。5 つの判断点で、あなたは何を選びますか。
このケースで問われること
このケースは、AI に道具を持たせたとき、その道具の権限を誰が決めていたかを扱います。
誰もトークンを盗んでいません。AI は、会話の相手が書いた番号で、持たされた道具を、持たされた権限の範囲で使いました。認可の検査は、すべて正しく通っています。 それでも、顧客の個人情報は別の顧客に渡りました。
そしてこのケースには、写真に写った 1 件の外側があります。3 か月のあいだに、同じことが何回起きていたのか。そのうち何回が打ち間違いで、何回が意図的だったのか。答えは、自分たちのログの中にしかありません。
順に 5 つの判断点があります。それぞれで一度自分の答えを決めてから、先へ進んでください。結論を先に読むと、判断の練習になりません。
扱う範囲は security/prompt-injection・security/ai-agent-permissions・security/ai-data-flow・security/authorization・security/audit-log にまたがります。
読み終わりましたか?
読了にすると、これを前提とする記事がロードマップで開放されます。