LDA漫游指南
- 187*324
-
0 次阅读
-
0 次下载
-
2024-03-03 21:04:07
微信
赏
支付宝
文档简介:
目 录
版权信息
作品简介
作者简介
前言
第1章 背景
第2章 前置知识
2.1 gamma函数
2.2 二项分布(Binomial distribution)
2.3 Beta分布(Beta distribution)
两种证明方法
Beta分布的期望
2.4 多项分布(multinomial distribution)
多项分布的极大似然估计
2.5 狄利克雷分布(Dirichlet Distribution)
2.6 共轭先验分布(conjugacy prior)
2.6.1 从二项分布到Beta分布
求证:Beta分布确实是二项分布的共轭先验分布。
2.6.2 从多项分布到Dirichlet分布
求证:Dirichlet分布确实是多项分布的共轭先验分布。
2.7 总结
参考文献
第3章 LDA的Gibbs Sampling推导
3.1 unigram假设
3.2 Latent Dirichlet Allocation介绍
3.3 马尔可夫链→Metropolis-Hasting→Gibbs Sampling
3.3.1 马尔可夫链(markov chain)
3.3.2 Metropolis-Hasting算法
3.3.3 Gibbs Sampling
3.4 伟大的采样公式: Collapsed Gibbs Sampling采样公式推导
3.5 总结
参考文献
第4章 实现与应用
4.1 实现
4.2 应用
4.2.1 相似文档发现
4.2.2 自动打标签
4.2.3 LDA与LR(逻辑斯蒂回归)结合做新闻个性化推荐系统
4.2.4 topic rank
4.2.5 word rank
4.2.6 文章质量评分算法
4.3 总结
参考文献
第5章 并行化
5.1 AD-LDA
5.2 spark-LDA
5.2.1 切分块
5.2.2 选择
5.2.3 计算和合并
5.3 总结
参考文献
第6章 变分贝叶斯的启蒙
6.1 前置知识
6.1.1 指数分布族(exponential family)
6.1.2 再谈数学期望
6.1.3 进一步观察指数分布族
6.1.4 拉格朗日的杰作——拉格朗日乘数法
6.1.5 指数分布族的一点深入思考
6.1.6 Jensen不等式
6.2 补充材料:变分法的启蒙
6.2.1 改变世界的方程:欧拉—拉格朗日方程
6.2.2 E-L方程的两种降阶形式
6.2.3 E-L方程与拉格朗日乘数法的联姻
参考文献
第7章 LDA的变分贝叶斯法
7.1 Latent Dirichlet Allocation的另一个视角
7.2 分析模型
7.3 推导
7.3.1 启蒙
7.3.2 变分目标函数
7.3.3 下界(lower bound)......
评论
发表评论