即泛化误差=偏差+方差+噪声. 其中偏差指的是,训练集变化时,学得模型的期望输出与真实标记间的差异;方差指的是,训练集变化时,学得模型的变化程度;噪声指的是,采样所得样本标记与真实标记的差异. 偏差越小,学习算法对训练集的拟合能力越强;方差越大,训练集扰动对学得模型的影响越大;噪声越大,问题本身越难. ...
泛化误差指模型在所有数据上的误差(也有人说是在学习器没见过的数据上的误差),泛化误差一般是求不出来的。因此,一般训练集和测试集不交叉,以测试误差来近似代替泛化误差。 泛化误差的偏差-方差分解 偏差-方差分解用于衡量学习算法的泛化能力,将学习算法的期望泛化误差进行分解。 泛化误差 = 偏差 + 方差 + 噪声 噪...
由“偏差 - 方差分解”的角度来度量泛化误差,机器学习算法的泛化能力,是由什么决定的A.学习算法的能力B.数据的充分性C.学习任务的难度D.以上都是