資訊專欄INFORMATION COLUMN
摘要：簡單看了一下中的源碼在這里記錄一下，目前來說還不能把的所有理論都搞清楚有兩個(gè)類似于的實(shí)現(xiàn)一個(gè)用于分類，另一個(gè)用于回歸這兩個(gè)類其實(shí)區(qū)別只在于上，下面是類繼承關(guān)系繼承了繼承了和的區(qū)別使用的是準(zhǔn)確率來計(jì)算誤差而回歸的是使用來計(jì)算誤差實(shí)際上這兩個(gè)模
簡單看了一下sklearn中的gbdt源碼
在這里記錄一下，目前來說還不能把gbdt的所有理論都搞清楚
sklearn有兩個(gè)類似于gbdt的實(shí)現(xiàn)
GradientBoostingClassifier GradientBoostingRegressor
一個(gè)用于分類，另一個(gè)用于回歸
這兩個(gè)類其實(shí)區(qū)別只在于mixin上，下面是類繼承關(guān)系
GradientBoostingRegressor繼承了
BaseGradientBoosting
RegressorMixin
GradientBoostingClassifier繼承了
BaseGradientBoosting
ClassifierMixin
ClassifierMixin和RgressorMixin的區(qū)別：
classifierMixin使用的是準(zhǔn)確率來計(jì)算誤差
而回歸的是使用r_square來計(jì)算誤差
實(shí)際上這兩個(gè)模型的差距是很小的，就是計(jì)算一下擬合度
然后是整個(gè)訓(xùn)練的過程
訓(xùn)練的過程會(huì)先設(shè)置一些參數(shù)
設(shè)置n_estimators是要訓(xùn)練的分類器數(shù)據(jù)
如果損失函數(shù)是loss的話，那么就比較簡單了
每次訓(xùn)練弱分類器都會(huì)根據(jù)上一次的結(jié)果來
上次生成的y - y_pred會(huì)作為新的y傳進(jìn)去
這樣來訓(xùn)練直到n_estimators足夠
不過在predict結(jié)果的時(shí)候有點(diǎn)看不懂代碼
后面看了再補(bǔ)充
文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址：http://m.specialneedsforspecialkids.com/yun/38049.html
摘要：應(yīng)用過機(jī)器學(xué)習(xí)進(jìn)行數(shù)據(jù)挖掘的同學(xué)應(yīng)該都知道特征選擇對(duì)模型表現(xiàn)的重要性。本文基于網(wǎng)上經(jīng)典特征選擇相關(guān)文章整理出干貨常用方法分類以及調(diào)包俠該如何用快速上手，供大家參考。 應(yīng)用過機(jī)器學(xué)習(xí)進(jìn)行數(shù)據(jù)挖掘的同學(xué)應(yīng)該都知道特征選擇對(duì)模型表現(xiàn)的重要性。本文基于網(wǎng)上經(jīng)典特征選擇相關(guān)文章整理出干貨：常用方法分類以及調(diào)包俠該如何用sklearn快速上手，供大家參考。 （一）預(yù)處理： 1 無量綱化： 1.1 ...
摘要：交叉驗(yàn)證是經(jīng)常用到的驗(yàn)證方法使用可以很大程度上簡化交叉驗(yàn)證的過程使用過程見下方這里以模型為例訓(xùn)練集標(biāo)簽交叉驗(yàn)證的倍數(shù)返回結(jié)果的類型，可以自定義，也有很多默認(rèn)選項(xiàng)例如就是返回準(zhǔn)確率都是可以的這就是簡單的用法，只有比較復(fù)雜，其他都比較簡單 交叉驗(yàn)證是經(jīng)常用到的驗(yàn)證方法使用sklearn可以很大程度上簡化交叉驗(yàn)證的過程使用過程見下方： from sklearn import cross_va...
???大家好，我是Gauss松鼠會(huì)，歡迎進(jìn)來學(xué)習(xí)啦~??? 上一篇介紹了 8.6 AI查詢時(shí)間預(yù)測(cè)的相關(guān)內(nèi)容，本篇我們介紹8.7 DeepSQL、8.8 小結(jié)的相關(guān)精彩內(nèi)容介紹。 8.7 DeepSQL 前面提到的功能均為AI4DB領(lǐng)域，AI與數(shù)據(jù)庫結(jié)合還有另外一個(gè)大方向，即DB4AI。在本章中，我們將介紹openGauss的DB4AI能力，探索通過數(shù)據(jù)庫來高效驅(qū)動(dòng)AI任務(wù)的新途徑。 使用場(chǎng)景 ...
馬上就要開始啦這次共組織15個(gè)組隊(duì)學(xué)習(xí) 涵蓋了AI領(lǐng)域從理論知識(shí)到動(dòng)手實(shí)踐的內(nèi)容 按照下面給出的最完備學(xué)習(xí)路線分類 難度系數(shù)分為低、中、高三檔 可以按照需要參加 - 學(xué)習(xí)路線 - showImg(https://segmentfault.com/img/remote/1460000019082128); showImg(https://segmentfault.com/img/remote/...
閱讀 1510·2021-11-22 13:52
閱讀 1325·2021-09-29 09:34
閱讀 2723·2021-09-09 11:40
閱讀 3042·2019-08-30 15:54
閱讀 1270·2019-08-30 15:53
閱讀 982·2019-08-30 11:01
閱讀 1371·2019-08-29 17:22
閱讀 1965·2019-08-26 10:57
