當前位置:科普知識站>IT科技>

bagging|boosting區別

IT科技 閱讀(3.28W)

bagging與boosting是兩種不同的整合演算法,Bagging採用重複取樣:boostrap 每個個體分類器所採用的訓練樣本都是從訓練集中按等概率抽取的,因此Bagging的各子網能夠很好的覆蓋訓練樣本空間,從而有著良好的穩定性。

bagging boosting區別

                    

而Boosting注重分類錯誤的樣本,將個體子網分類錯誤的訓練樣本的權重提高,降低分類錯誤的樣本權重,並依據修改後的樣本權重來生成新的訓練樣本空間並用來訓練下一個個體分類器。然而,由於Boosting演算法可能會將噪聲樣本或分類邊界樣本的權重過分累積,因此Boosting很不穩定,但其在通常情況下,其泛化能力是最理想的整合演算法之一。