直观理解概率编程

概率编程的推理过程就是：对问题进行建模，然后利用计算机采样的方法进行自动的贝叶斯推理（Bayesian inference），得出未知参数的概率分布。

什么是贝叶斯推理？

贝叶斯推理主要利用贝叶斯公式 $p(\theta|X)=\frac{p(\theta)p((X|\theta)}{p(X)}$ ，计算参数$\theta$的后验概率。

怎样理解后验概率？
后验概率是在已有先验概率$p(\theta)$的情况下，再结合观测数据而得出的参数$\theta$的后验概率$p(\theta|X)$。
例如，预测明天下雨的概率时，先验概率可以是之前几年中这个季节的下雨的概率，也就是上面公式中的$p(\theta)$，观测数据X是今天天气晴朗，那么明天下雨的概率就是$p(\theta|X)$，$p(\theta|X)$用自然语言来解释的话就是，在今天天气晴朗的情况下下雨的概率。