1802zjhua
我的毕业论文题目是矩阵的乘法及其应用~个人感觉相当简单~我是数学与应用数学专业 
[1]毛纲源 一类特殊分块矩阵为循环矩阵的循环分块矩阵的几个性质[J] 应用数学，1995，(3) [2]游兆永，姜宗乾， 分块矩阵的对角占优性[J] 西安交通大学学报，1984，(3) [3]曹重光 体上分块矩阵群逆的某些结果[J] 黑龙江大学自然科学学报，2001，(3) [4]庄瓦金 非交换主理想整环上分块矩阵的秩[J] 数学研究与评论，1994，(2) [5]曹礼廉，李芳芸，柴跃廷 一种用于MRP的分块矩阵方法[J] 高技术通讯，1997，(7) [6]逄明贤 分块矩阵的Cassini型谱包含域[J] 数学学报，2000，(3) [7]杨月婷 一类分块矩阵的谱包含域[J] 数学研究，1998，(4) [8]何承源 R-循环分块矩阵求逆的快速傅里叶算法[J] 数值计算与计算机应用，2000，(1) [9]马元婧，曹重光 分块矩阵的群逆[J] 哈尔滨师范大学自然科学学报，2005，(4) [10]游兆永，黄廷祝 两类分块矩阵的性质与矩阵正稳定和亚正定判定[J] 工程数学学报，1995，(2)
矩阵分解在协同过滤推荐算法中的应用推荐系统是当下越来越热的一个研究问题，无论在学术界还是在工业界都有很多优秀的人才参与其中。近几年举办的推荐系统比赛更是一次又一次地把推荐系统的研究推向了高潮，比如几年前的Neflix百万大奖赛，KDD CUP 2011的音乐推荐比赛，去年的百度电影推荐竞赛，还有最近的阿里巴巴大数据竞赛。这些比赛对推荐系统的发展都起到了很大的推动作用，使我们有机会接触到真实的工业界数据。我们利用这些数据可以更好地学习掌握推荐系统，这些数据网上很多，大家可以到网上下载。推荐系统在工业领域中取得了巨大的成功，尤其是在电子商务中。很多电子商务网站利用推荐系统来提高销售收入，推荐系统为Amazon网站每年带来30%的销售收入。推荐系统在不同网站上应用的方式不同，这个不是本文的重点，如果感兴趣可以阅读《推荐系统实践》（人民邮电出版社，项亮）第一章内容。下面进入主题。 为了方便介绍，假设推荐系统中有用户集合有6个用户，即U={u1，u2，u3，u4，u5，u6}，项目（物品）集合有7个项目，即V={v1，v2，v3，v4，v5，v6，v7}，用户对项目的评分结合为R，用户对项目的评分范围是[0， 5]。R具体表示如下： 推荐系统的目标就是预测出符号“？”对应位置的分值。推荐系统基于这样一个假设：用户对项目的打分越高，表明用户越喜欢。因此，预测出用户对未评分项目的评分后，根据分值大小排序，把分值高的项目推荐给用户。怎么预测这些评分呢，方法大体上可以分为基于内容的推荐、协同过滤推荐和混合推荐三类，协同过滤算法进一步划分又可分为基于基于内存的推荐（memory-based）和基于模型的推荐（model-based），本文介绍的矩阵分解算法属于基于模型的推荐。矩阵分解算法的数学理论基础是矩阵的行列变换。在《线性代数》中，我们知道矩阵A进行行变换相当于A左乘一个矩阵，矩阵A进行列变换等价于矩阵A右乘一个矩阵，因此矩阵A可以表示为A=PEQ=PQ（E是标准阵）。 矩阵分解目标就是把用户-项目评分矩阵R分解成用户因子矩阵和项目因子矩阵乘的形式，即R=UV，这里R是n×m， n =6， m =7，U是n×k，V是k×m。直观地表示如下： 高维的用户-项目评分矩阵分解成为两个低维的用户因子矩阵和项目因子矩阵，因此矩阵分解和PCA不同，不是为了降维。用户i对项目j的评分r_ij =innerproduct(u_i， v_j)，更一般的情况是r_ij =f(U_i， V_j)，这里为了介绍方便就是用u_i和v_j内积的形式。下面介绍评估低维矩阵乘积拟合评分矩阵的方法。首先假设，用户对项目的真实评分和预测评分之间的差服从高斯分布，基于这一假设，可推导出目标函数如下： 最后得到矩阵分解的目标函数如下： 从最终得到得目标函数可以直观地理解，预测的分值就是尽量逼近真实的已知评分值。有了目标函数之后，下面就开始谈优化方法了，通常的优化方法分为两种：交叉最小二乘法（alternative least squares）和随机梯度下降法（stochastic gradient descent）。首先介绍交叉最小二乘法，之所以交叉最小二乘法能够应用到这个目标函数主要是因为L对U和V都是凸函数。首先分别对用户因子向量和项目因子向量求偏导，令偏导等于0求驻点，具体解法如下： 上面就是用户因子向量和项目因子向量的更新公式，迭代更新公式即可找到可接受的局部最优解。迭代终止的条件下面会讲到。接下来讲解随机梯度下降法，这个方法应用的最多。大致思想是让变量沿着目标函数负梯度的方向移动，直到移动到极小值点。直观的表示如下： 其实负梯度的负方向，当函数是凸函数时是函数值减小的方向走；当函数是凹函数时是往函数值增大的方向移动。而矩阵分解的目标函数L是凸函数，因此，通过梯度下降法我们能够得到目标函数L的极小值（理想情况是最小值）。 言归正传，通过上面的讲解，我们可以获取梯度下降算法的因子矩阵更新公式，具体如下： （3）和（4）中的γ指的是步长，也即是学习速率，它是一个超参数，需要调参确定。对于梯度见（1）和（2）。下面说下迭代终止的条件。迭代终止的条件有很多种，就目前我了解的主要有1） 设置一个阈值，当L函数值小于阈值时就停止迭代，不常用2） 设置一个阈值，当前后两次函数值变化绝对值小于阈值时，停止迭代3） 设置固定迭代次数另外还有一个问题，当用户-项目评分矩阵R非常稀疏时，就会出现过拟合（overfitting）的问题，过拟合问题的解决方法就是正则化（regularization）。正则化其实就是在目标函数中加上用户因子向量和项目因子向量的二范数，当然也可以加上一范数。至于加上一范数还是二范数要看具体情况，一范数会使很多因子为0，从而减小模型大小，而二范数则不会它只能使因子接近于0，而不能使其为0，关于这个的介绍可参考论文Regression Shrinkage and Selection via the Lasso。引入正则化项后目标函数变为： （5）中λ_1和λ_2是指正则项的权重，这两个值可以取一样，具体取值也需要根据数据集调参得到。优化方法和前面一样，只是梯度公式需要更新一下。矩阵分解算法目前在推荐系统中应用非常广泛，对于使用RMSE作为评价指标的系统尤为明显，因为矩阵分解的目标就是使RMSE取值最小。但矩阵分解有其弱点，就是解释性差，不能很好为推荐结果做出解释。后面会继续介绍矩阵分解算法的扩展性问题，就是如何加入隐反馈信息，加入时间信息等。
随着现代科学的发展，数学中的矩阵也有更广泛而深入的应用，下面列举几项矩阵在现实生活中的应用：矩阵在经济生活中的应用可“活用”行列式求花费总和最少等类似的问题；可“借用”特征值和特征向量预测若干年后的污染水平等问题。在人口流动问题方面的应用这是矩阵高次幂的应用，比如预测未来的人口数数、人口的发展趋势。矩阵在密码学中的应用可用可逆矩阵及其逆矩阵对需发送的秘密消息加密和译密。矩阵在文献管理中的应用比如现代搜索中往往包括几百万个文件和成千的关键词，但可以利用矩阵和向量的稀疏性，节省计算机的存储空间和搜索时间。
