分布

3.3 贝塔-二项模型

2019-06-29
| 机器学习 | | 拟然 , 先验 , 后验 , 均值 , 众数 , 方差 , 分布 , 拟合 , 悖论 , 预测 | Comment 评论

返回本章目录

在给定一离散观察序列的情况下, 数字游戏涉及从有限假设空间推断出离散变量的分布, \(h \in \mathcal{H}\) 。这使计算变得特别简单:我们只需要求和,乘和除。然而,在许多应用中,未知参数是连续的,因此假设空间是 \(\mathbb{R}^K\) 的某个子集, 其中 \(K\) 是参数的个数. 这使数学变得复杂,因为我们必须用积分代替和。但是,基本思路是一样的。

...

2.5 联合概率分布

2019-06-24
| 机器学习 | | 分布 , 协方差 , 相关性 | Comment 评论

返回本章目录

到目前为止,我们一直专注于建模单变量概率分布。 在本节中,我们开始讨论在多个相关随机变量上建立联合概率分布的更具挑战性的问题; 这将是本书的核心主题。

联合概率分布形如 \(p(x_1,\dots,x_D),D>1\) ,并且模拟变量之间的(随机)关系。 如果所有变量都是离散的,我们可以将联合分布表示为一个大的多维数组,每个维度有一个变量。 但是,定义这种模型所需的参数数量是 \(O(K^D)\) ,其中K是每个变量的状态数。

...