LDA是一种常见的主题模型算法。简单来说它是一个贝叶斯概率生成模型，用于对文档集进行降维或者潜在语义分析。
给定一个语料库$ C $，该语料库由一系列文档 $ \{D_1, \cdots, D_{M}\} $构成。
每个文档$ D_i $ 则由一个序列的词构成，$ D_i = (t_1, t_2, \cdots, t_{N_i}) $。
语料库中的词整体构成了一个词汇表$ V $。
LDA模型需要人为指定模型的话题个数，这里用$ K $来表示。
在LDA模型中，每个文档被表示成了一个$ K $维的话题分布，$ \theta_d $，
而每个话题$ k $则被表示成一个$ V $维的词分布$ \phi_k $。
LDA模型对每个文档的生成过程进行了建模。
在文档$ d $的生成过程中，LDA首先从狄利克雷分布$ Dir(\alpha) $中采样出
一个$ K $维的话题分布$ \theta_d $，这里的$ \alpha $是狄利克雷分布
的超参数。
对于文档$ d $中的每个词$ t_{dn} $，LDA模型首先从多项分布$ Mult(\theta_d) $
中采样出该词的话题$ z_{dn} $，
然后再从多项分布$ Mult(\phi_{z_{dn}}) $中采样出单词$ w_{dn} \in V $。
求解LDA模型的过程通常使用Gibbs Sampling方法，通过采样出大量符合后验分布的样本$ z_{dn} $，
从而对每个文档的话题分布和话题的词分布进行估计估计。
目前对LDA的Gibbs Sampling方法有大概6中，包括Collapsed Gibbs Sampling(CGS)，SparseLDA，
AliasLDA，F+LDA，LightLDA和WarpLDA。
我们通过实验和分析，认为F+LDA比较适合用于在Angel上进行LDA模型的训练。
如果我们使用$ Z=\{z_d\}_{d=1}^D $来表示所有词的话题，
用$ \Phi = [\phi_1 \cdots \phi_{V}] $来表示维度为$ V \times K $的话题-词矩阵，
用$ \Theta = [\theta_1 \cdots \theta_D] $来表示所有文档的话题分布矩阵。
那LDA模型的训练过程则是在给定观测变量$ Z $和超参数的条件下，
求解隐变量$ (\Theta, \Phi, Z) $的后验概率分布。
CGS通过分布之间共轭的性质将$ \Theta, \Phi $通过积分积掉，从而CGS只用迭代地采样每个
词的话题$ z_{dn} $。
采样的条件概率公式如下：
F+LDA通过将概率公式进行了分解成两部分$ C_{dk} \frac{C_{wk} + \beta}{C_k + V\beta} $
和 $ \alpha \frac{C_{wk} + \beta}{C_k + V\beta} $。
利用$ C_d $矩阵的稀疏性，从而在采样时可以只用访问非零的部分，降低了算法的复杂度。
对于另一个部分，F+LDA采用F+树来进行查找，可以将复杂度降低到O(logK)。
从而F+LDA的复杂度为$ O(K_d) $，$ K_d $是文档-话题矩阵中非零元素的个数。
在Angel中进行LDA模型的训练，整体的框架如下图所示。
对于LDA模型中的两个较大的矩阵$ C_w $和$ C_d $，
我们将C_d矩阵划分到不同的worker上，将C_w矩阵划分到不同的server上。
在每一轮迭代中，worker从server上拉取C_w矩阵，从而进行话题的采样，在迭代结束时将对C_w矩阵
的更新发送回server节点。
输入数据分为多行，每行是一个文档，每个文档由一系列的词id构成，词id之间由空格隔开
- 数据参数
- angel.train.data.path: 输入数据路径
- angel.save.model.path: 模型保存路径
- 算法参数
- ml.epoch.num: 算法迭代次数
- ml.lda.word.num：词个数
- ml.lda.topic.num：话题个数
- ml.worker.thread.num：worker内部并行度
- ml.lda.alpha: alpha
- ml.lda.beta: beta
-
测试数据
- PubMED 数据集
-
资源
- worker：20个
- ps：20个
-
Angel vs Spark: 迭代100次的训练时间
- Angel：15min
- Spark：>300min