コンピュータセキュリティシンポジウム2026　学生論文賞

敵対的摂動型ビジュアルプロンプトインジェクションにおける視覚言語モデルの内部状態の分析

国内における情報セキュリティ研究の中核となる学術シンポジウムであるコンピュータセキュリティシンポジウム2026（CSS2026）にて学生論文賞を受賞しました。

本研究では、画像の見た目を大きく変えずに僅かな加工を行うことで、生成AIの回答を攻撃者の意図するものへ誘導する攻撃を対象に、その仕組みを分析しました。AIモデルを構成する複雑な合成関数を観察・介入し、攻撃によって生じた変化が、視覚から次トークン予測へとどのように伝わるのかを機械論的解釈可能性の観点から追跡しました。その結果、攻撃の影響は複数段階の内部処理を通じて徐々に出力を決定する部分へ伝わった後、実際に回答を生成する直前の段階で特定の語彙へと強く結び付くことが分かりました。

この成果は、外見からは判別しにくい画像を使った攻撃への理解を深め、より安全で信頼性の高い人工知能システムを実現するための検知・防御技術の開発への応用が期待されます。