协同过滤

在之前的基于内容的推荐系统中，对于每一部电影，我们都掌握了可用的特征，使用这些特征训练出了每一个用户的参数。相反地，如果我们拥有用户的参数，我们可以学习得出电影的特征。 $\min_{x^{(1)},...,x^{(n_m)}}\frac{1}{2}\sum^{n_u}_{j=1}\sum_{i:r(i,j) =1}((\theta^{(j)})^Tx^{(i)} - y^{(i,j)})^2 + \frac{\lambda}{2}\sum^{n_u}_{j=1}\sum^{n}_{k=1}(\theta^{(j)}_k)^2$ 如果我们既没有用户的参数，也没有电影的特征，这两种方法都不可行了。协同过滤算法可以同时学习这两者。

我们的优化目标便改为同时针对x和$\theta$进行。 $J(x^{(1)},...,x^{(n_m)},\theta^{(1)},...,\theta^{(n_m)})= \frac{1}{2}\sum_{(i,j):r(i,j) =1}((\theta^{(j)})^Tx^{(i)} - y^{(i,j)})^2+ \frac{\lambda}{2}\sum^{n_m}_{i=1}\sum^{n}_{k=1}(x^{(i)}_k)^2 + \frac{\lambda}{2}\sum^{n_u}_{j=1}\sum^{n}_{k=1}(\theta^{(j)}_k)^2$

对代价函数求偏导数的结果如下：

$$x^{(i)}_k := x^{(i)}_k-\alpha(\sum_{j:r(i,j)=1}((\theta^{(j)})^Tx^{(i)}-j^{(i,j)})\theta^{(j)}_k + \lambda x^{(i)}_k)$$ $$\theta^{(i)}_k := \theta^{(i)}_k-\alpha(\sum_{j:r(i,j)=1}((\theta^{(j)})^Tx^{(i)}-j^{(i,j)})x^{(j)}_k + \lambda \theta^{(i)}_k)$$