メディアダイナミクス・メディア創生学研究室
高信頼な基盤モデルの実現に向けた敵対的防御技術の確立
大規模なデータで事前学習された基盤モデルは、多様なタスクに適用可能な高い汎用性を有します。一方で、人間には知覚困難な微小摂動を加えた画像である「敵対的サンプル」に対して脆弱であることが知られており、高い安全性・信頼性が要求されるタスクへの展開における障壁となっています。そこで、基盤モデルの敵対的頑健性の向上に関する研究に取り組んでいます。特に、データや攻撃の種類ごとに獲得された防御知識をモデルマージにより統合することで、多様なデータや攻撃に対して汎用的に頑健な基盤モデルの構築を目指しています。