集成学习之Xgboost(12)|python教程|python入门|python教程

当前位置:

首页 > 编程开发 > python入门 >

python入门教程之集成学习之Xgboost(12)

本站最新发布 Python从入门到精通|Python基础教程
试听地址 https://www.xin3721.com/eschool/pythonxin3721/

y^(t−1)i)ft(xi)+12∂2yi^(t−1) l(yi,yi^(t−1))ft(xi)2]+Ω(ft)+constant(5)(6)(7)

\begin{aligned} (5) & O b j^{(t)} & = \sum_{i = 1}^{n} l (y_{i}, {\hat{y_{i}}}^{(t)}) + \sum_{i = 1}^{t} Ω (f_{i}) \\ (6) & = \sum_{i = 1}^{n} l (y_{i}, {\hat{y_{i}}}^{(t - 1)} + f_{t} (x_{i})) + Ω (f_{t}) + c o n s t a n t \\ (7) & \approx \sum_{i = 1}^{n} [l (y_{i}, {\hat{y_{i}}}^{(t - 1)}) + \partial_{{\hat{y}}_{i}^{(t - 1)}} l (y_{i}, {\hat{y}}_{i}^{(t - 1)}) f_{t} (x_{i}) + \frac{1}{2} \partial_{{\hat{y_{i}}}^{(t - 1)}}^{2} l (y_{i}, {\hat{y_{i}}}^{(t - 1)}) f_{t} (x_{i})^{2}] + Ω (f_{t}) + c o n s t a n t \end{aligned}

其中， $g_{i} = \partial_{{\hat{y}}_{i}^{(t - 1)}} l (y_{i}, \hat{y_{i}}^{(t - 1)})$ ， $\partial_{{\hat{y}}_{i}^{(t - 1)}}^{2} l (y_{i}, \hat{y_{i}}^{(t - 1)})$ 。

则目标损失函数可以写成：

栏目列表

首页 > 编程开发 > python入门 >

python入门教程之集成学习之Xgboost(12)