回归树（Regression Trees）模型的优缺点
# 回归树（Regression Trees）模型的优缺点 #
I.决策树（Decision Tree）
优点
训练速度和预测速度较快；
善于获取数据集中的非线性关系；
了解数据集中的特征交互；
善于处理数据集中出现的异常值；
善于在数据集中找到最重要的特征；
不需要特征缩放；
结果可解释，并易于说明；
缺点
预测精确度较低；
需要一些参数的调整；
不适用于小型数据集；
分离信号和噪声的效果不理想；
当新增数据时，不易更新模型；
在实践中很少使用，而是更多地使用集合树；
可能会出现过度拟合（见下面的融合模型）；
II.融合模型(RandomForest,XGBoost, CatBoost, LightGBM)
优点
多重树结构整理预测；
具有较高的预测精确度，在实践中表现很好；
是Kaggle竞赛中推荐的算法；
善于处理数据集中出现的异常值；
善于在数据集中获取非线性关系；
善于在数据集中找到最重要的特征；
能够分离信号和噪声；
不需要特征缩放；
特别适用于高维度的数据；
缺点
训练速度较慢；
具有较高的预测速度；
结果不易解释或说明；
当新增数据时，不易更新模型；
需要调整参数，但调整较为复杂；
不适用于小型数据集；
https://www.toutiao.com/a1659113701001220
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/69946223/viewspace-2676823/ ，如需转载，请注明出处，否则将追究法律责任。
