在李航老师的《统计学习方法》(第 1 版第 5 页,第 2 版第 7 页) 里面,清楚地说明了假设空间的概念,即“由输入空间到输出空间的映射的集合”。也就是由输入空间 X 到输出空间 Y 的映射 f : X \rightarrow Y 所构成的集合,该空间是一个函数空间,即由函数所构成的集合。(注:此处我们仅讨论非概率模型...
版本空间则是与训练集一致的所有假设所构成的集合，是假设空间的一个最大子集。这意味着版本空间内的每一个假设都与训练集中的样例相兼容，不会产生冲突。理解假设空间和版本空间的概念对于构建和评估机器学习模型至关重要，它们提供了对模型复杂度和泛化能力的洞察。