Graduate School of Information Sciences, Tohoku University
(Department of Electrical, Information and Physics Engineering, School of Engineering, Tohoku University)
Computer Structures Laboratory

顔なりすまし攻撃検知手法に対するバックドアポイズニング攻撃の検討

岩松 翔太   (東北大学),  伊藤 康一   (東北大学),  青木 孝文   (東北大学)

暗号と情報セキュリティシンポジウム, January 2025.

Graphical Abstract
Abstract

高性能な顔認証は,環境変化やノイズに強い耐性を有するため,ユーザの顔写真などを提示すると,そのユーザになりすまして不正に認証されてしまう可能性がある.なりすまし攻撃を防ぐためには顔認証を行う前に入力画像がなりすましであるかを検知する必要がある.現在までに提案されている検知手法は,深層学習を用いているため,膨大な数の学習データが必要である.そのため,学習データの一部に誤検知を引き起こすデータが混入されると,なりすまし攻撃を誤検知する可能性がある.顔認証に対するなりすまし攻撃検知において,以上のようなバックドアポイズニングの危険性があることを示すために,本稿では,なりすまし攻撃に用いられる顔画像から抽出された特徴量を本物の顔画像に埋め込むことで,特定のなりすまし攻撃を検知させないバックドア攻撃を提案する.顔画像の見た目を変えることなく,別人の特徴量を埋め込んでポイズニングデータを作成するため,システム管理者などがバックドア攻撃に気づくことは困難である.公開データセットを用いた提案手法の性能評価実験を通して,顔認証のなりすまし攻撃検知に対するバックドアポイズニングが脅威になり得ることを示す.