Exploiting Feature Covariance in High-Dimensional Online Learning

二値素性でのオンライン学習の実験まとめ - ny23の日記 で CW は素性数が多いと共分散行列のサイズが問題になるという話をしたが,その改良をしたよ(共分散行列を rank の低い行列で近似)という論文.Online Passive-Aggressive Algorithms on a Budget - ny23の日記 と同じ,AISTATS という学会に出たようだ.数カ月前にダウンロードしていたのだけど,放置していた.話としてはあるだろうなとは思っていたが,近似パラメタが一つ増えるのはちょっとやな感じ.そもそもオンライン学習の時点で近似なのだけど,さらに近似を重ねるパラメータが増えるのは感覚的に気持ち悪い.