6.3 频率派决策理论

2019-07-14

| 机器学习 | | 频率派 , 风险 , 贝叶斯 , 估计器 , 决策规则 , 悖论 | 评论

返回本章目录

在频率派或经典决策理论中，存在一个损失函数和一个拟然，但没有先验因而没有后验或后验预期损失。 因此，与贝叶斯情况不同，没有自动推导出最优估计器的方法。 相反，在频率派方法中，我们可以自由选择我们想要的任何估计器或决策程序 \(\delta：\mathcal{X} \to \mathcal{A}\) 。

选择估计器后，我们将其预期损失或风险定义如下：

5.3贝叶斯模型选择

2019-07-06

| 机器学习 | | 模型选择 , 边际拟然 , 奥卡姆剃刀 , 证据 , 先验 , 贝叶斯 , 悖论 | 评论

返回本章目录

在图1.18中，我们看到使用过高度数多项式会导致过拟合，而使用过低度数会导致欠拟合。类似地，在图7.8（a）中，我们看到使用太小正则化参数会导致过拟合，而太大值会导致欠拟合。一般来说，当面对一组不同复杂度的模型（即参数分布族）时，我们应该如何选择最好的模型呢？这称为模型选择问题。

3.3 贝塔-二项模型

2019-06-29

| 机器学习 | | 拟然 , 先验 , 后验 , 均值 , 众数 , 方差 , 分布 , 拟合 , 悖论 , 预测 | 评论

返回本章目录

在给定一离散观察序列的情况下, 数字游戏涉及从有限假设空间推断出离散变量的分布, \(h \in \mathcal{H}\) 。这使计算变得特别简单：我们只需要求和，乘和除。然而，在许多应用中，未知参数是连续的，因此假设空间是 \(\mathbb{R}^K\) 的某个子集, 其中 \(K\) 是参数的个数. 这使数学变得复杂，因为我们必须用积分代替和。但是，基本思路是一样的。