• python入门教程之集成学习之Xgboost(13)

还需要注意这里的第t$t$颗回归树是根据前面的t−1$t-1$颗回归树的残差得来的，相当于t−1$t-1$颗树的值yi^(t−1)${\widehat{y_i}}^{(t-1)}$是已知的。换句话说，损失函数里面l(yi,yi^(t))$l(y_i,{\widehat{y_i}}^{(t)})$是常数，对目标函数的优化不影响（最小化），可以直接去掉，且常数项constant也可以移除，从而得到如下一个比较统一的目标函数：