相同點(diǎn):
都是由多棵樹組成,最終的結(jié)果都是由多棵樹一起決定。
不同點(diǎn):
a 組成隨機(jī)森林的樹可以分類樹也可以是回歸樹,而GBDT只由回歸樹組成;
b 組成隨機(jī)森林的樹可以并行生成,而GBDT是串行生成
c 隨機(jī)森林的結(jié)果是多數(shù)表決表決的,而GBDT則是多棵樹累加之和
d 隨機(jī)森林對異常值不敏感,而GBDT對異常值比較敏感
e 隨機(jī)森林是減少模型的方差,而GBDT是減少模型的偏差
f GBDT的會(huì)累加所有樹的結(jié)果,而這種累加是無法通過分類完成的,因此GBDT的樹都是CART回歸樹,而不是分類樹(盡管GBDT調(diào)整后也可以用于分類但不代表GBDT的樹為分類樹)