局部线性嵌入 发表于 2016-04-29 | 分类于 Machine Learning 局部线性嵌入(Locally Linear Embeding)是一个比较经典的流形学习算法,于2000年和Isomap一同发表在Science杂志上。该方法的主要思想是试图用数据的局部线性来代替全局线性,即在样本空间中建立数据的局部线性关系,同时在寻找数据的低维嵌入时保持这种线性关系不变。 阅读全文 »
BP算法 发表于 2016-04-19 | 分类于 Machine Learning BP算法是神经网络中一个经典算法,大部分的反馈神经网络都是使用BP算法来进行反馈调节。本文的主要内容是关于BP算法的详细推导过程。 阅读全文 »
主成分分析 发表于 2016-04-10 | 分类于 Machine Learning 在多元统计分析中,主成分分析(Principal components analysis,PCA)是一种分析、简化数据集的技术。在机器学习领域被广泛的应用于数据降维,特别是人脸识别等。本文的主要内容是讲解了PCA的理论基础。然而PCA对于非高斯分布的降维效果不太理想,故很自然的又引入了KPCA的概念,并做了简单的理论叙述。 阅读全文 »
EM算法 发表于 2016-03-15 | 分类于 Machine Learning 最大期望算法(Expectation-maximization algorithm,又译期望最大化算法)在统计中被用于寻找,依赖于不可观察的隐性变量的概率模型中,参数的最大似然估计。EM算法的一个重要应用就是对高斯混合模型进行参数估计。 阅读全文 »
拉格朗日对偶性 发表于 2016-03-03 | 分类于 Machine Learning 在使用了约束最优化问题中,常常利用拉格朗日对偶性将原始问题转化为对偶问题,通过解对偶问题的而得到原始问题的解。该方法应用在许多统计学习方法中,例如最大熵模型与SVM。我从SVM中开启疑问,研究了一下拉格朗日对偶性的问题。 阅读全文 »
NexT主题的优化与修改 发表于 2016-02-29 | 分类于 Blog 我的Hexo博客选用了Next主题,但是其外观效果不是很令我满意;可以通过修改主题的CSS来来达到想要的效果,同时也进一步学习了CSS 阅读全文 »