over 3 years ago

Sparse coding想做到的事情很簡單,就是希望用一些basis的linear combination去試圖組回原本(error最小)的signal,但跟一些類似的方法,如eigen vector跟PCA有些不同,像是他的basis不一定要是orthogonal的,這讓他能更有彈性的去fit data。

而online dictionary learning,與一般的learning不同的自然是data是incremental增加的,那自然dictionary的basis也必須要隨著新加進的data做調整,本篇paper主要就是提出一套systematically的方法去完成這件事情,並且效能比之前的方法還來得好上許多。

如何做online dictionary learning呢? 演算法如下圖所示

對Dictionary做update的演算法則是如下圖:

← [Paper cirtique] Latent Dirichlet Allocation [paper critique] A Survey on Transfer Learning →