村田晴彦さん（理工学研究科電気電子工学専攻博士前期課程2年、堀田研究室）

SVD-ViT：空間特異ベクトルを用いたVision Transformer の前景特徴抽出能力の向上

Vision Transformerは特徴量にアーティファクトと呼ばれます。空間構造に依存しない高ノルム成分が含まれることが報告されています。この成分は分類タスクにおけるノイズとなり、精度低下を招く要因となります。本研究では、特異値分解を用いてアーティファクトを抑制し、最適化を行うSVD-ViTを提案します。SVD-ViTは特徴量の特異ベクトルを学習に用いることで、ノイズであるアーティファクトが形成する軸を抑制できます。これにより、物体やパーツの特徴を相対的に強調し、有益な情報を効果的に抽出することで分類精度を向上させました。本研究は、その新規性と実験の妥当性が高く評価され、研究奨励賞を受賞しました。