lightGBM与XGBoost的区别: xgboost采用的是level-wise的分裂策略,而lightGBM采用了leaf-wise的策略。 level-wise:指对每一层所有节点做无差别分裂,可能有些节点的增益非常小,带来了没必要的开销。 leaf-wise:指在当前所有叶子节点中选择分裂收益最大的节点进行分裂,如此递归进行,容易出现过拟合,因
随机森林RF与GBDT之间的区别 相同点 都是由多棵树组成 最终的结果都是由多棵树一起决定 不同点 组成随机森林的树可以分类树也可以是回归树,而GBDT只由回归树组成 组成随机森林的树可以并行生成,而GBDT是串行生成 随机森林的结果是多数表决表决的,而GBDT则是多棵树累加之和 随机森林对异常值不敏感,而GBDT对异常...