特征選擇的包裝法Wrapper

1、包裝法的效果是所有特征選擇方法中最利于提升模型表現(xiàn)的，它可以使用很少的特征達(dá)到很優(yōu)秀的效果。除此之外，在特征數(shù)目相同時(shí)，包裝法和嵌入法的效果能夠匹敵，不過它比嵌入法算得更見緩慢，所以也不適用于太大型的數(shù)據(jù)。

創(chuàng)新互聯(lián)建站專業(yè)為企業(yè)提供商洛網(wǎng)站建設(shè)、商洛做網(wǎng)站、商洛網(wǎng)站設(shè)計(jì)、商洛網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)與制作、商洛企業(yè)網(wǎng)站模板建站服務(wù)，十余年商洛做網(wǎng)站經(jīng)驗(yàn)，不只是建網(wǎng)站，更提供有價(jià)值的思路和整體網(wǎng)絡(luò)服務(wù)。

2、Wrapper方法需要選定一種評(píng)估模型效果的指標(biāo)，如Area Under the Curve (AUC)、Mean Absolute Error (MAE)、Mean Squared Error(MSE)。

3、特征選擇是指直接刪除不相關(guān)且冗余的特征，保留原始數(shù)據(jù)最有價(jià)值的信息，形成一 個(gè)最優(yōu)的特征子集，特征本身并沒有被改變。依據(jù)特征選擇和學(xué)習(xí)器的不同結(jié)合方式，特征選擇方法可以分為三類：過濾法，包裝法和嵌入法。

4、wrapper法 過濾法在選擇特征時(shí)不考慮特征對(duì)學(xué)習(xí)器的效果，包裹式選擇就很靈性了。包裹式通常根據(jù)預(yù)測(cè)效果評(píng)分來為學(xué)習(xí)器“量身定制”特征子集，相較于過濾法，能使學(xué)習(xí)器的性能更佳，缺點(diǎn)即是計(jì)算開銷往往也更大。

5、下面只講特征選擇，特征選擇有四種方法：過濾法，嵌入法，包裝法，和降維算法。

6、后面我們將描述基于域的不同的特征選擇聚類（FSC）方法。介紹：傳統(tǒng)FSC，文本數(shù)據(jù)中的FSC，流數(shù)據(jù)中的FSC和FSC鏈接數(shù)據(jù)。與監(jiān)督學(xué)習(xí)的特征選擇類似，用于聚類的特征選擇也被分類為Filter[15]、Wrapper[55]、Hybrid[19]。

特征選擇的方法

通過深度學(xué)習(xí)來進(jìn)行特征選擇：目前這種手段正在隨著深度學(xué)習(xí)的流行而成為一種手段，尤其是在計(jì)算機(jī)視覺領(lǐng)域，原因是深度學(xué)習(xí)具有自動(dòng)學(xué)習(xí)特征的能力，這也是深度學(xué)習(xí)又叫unsupervised feature learning的原因。

而Embedded特征選擇方法與算法本身緊密結(jié)合，在模型訓(xùn)練過程中完成特征的選擇。

Heatmap 是檢查和尋找相關(guān)特征的最簡(jiǎn)單方法。大多數(shù)特征在某種程度上相互關(guān)聯(lián)，但有些特征具有非常高的相關(guān)性，例如長(zhǎng)度與軸距以及發(fā)動(dòng)機(jī)尺寸與馬力?？梢愿鶕?jù)相關(guān)閾值手動(dòng)或以編程方式刪除這些功能。

特征提取和特征選擇異同 特征提取 ：通過映射（變換）的方法，將高維的特征向量變換為低維特征向量。

平均精確率減少（Mean decrease accuracy） 特征選擇方法就是直接度量每個(gè)特征對(duì)模型精確度的影響。主要思路是打亂每個(gè)特征的特征值順序，并且度量順序變動(dòng)對(duì)模型的精確率的影響。

包裹式特征選擇會(huì)受冗余影響嗎

1、但是包裹式特征選擇由于特征子集受特定的學(xué)習(xí)算法影響比較大，容易出現(xiàn)“過擬合”，并且使用不同的學(xué)習(xí)算法，得到的特征子集也不同， 所以獲得的特征子集的穩(wěn)定性和適應(yīng)性較差。（3）嵌入式（embedding）。

2、冗余的特征會(huì)影響阻礙模型找尋數(shù)據(jù)潛在的規(guī)律，若冗余的特征過多，還會(huì)造成維度容災(zāi)，占用大量的時(shí)間空間，使算法運(yùn)行效率大打折扣。去除不相關(guān)的特征會(huì)降低學(xué)習(xí)任務(wù)的難度，保留關(guān)鍵的特征更能直觀的看出數(shù)據(jù)潛在的規(guī)律。

3、如果選用的特征過多、冗余或噪聲特征較多，會(huì)影響模型的識(shí)別和預(yù)測(cè)準(zhǔn)確率。因此在選擇特征時(shí)，建議采用特征選擇方法，去掉無用特征和冗余特征，提升模型的“魯棒性”。

4、包裹式特征選擇是將特征選擇和學(xué)習(xí)過程結(jié)合起來，將特征選擇看作一個(gè)子集搜索問題，每次選擇一個(gè)特定的子集，用這個(gè)子集去訓(xùn)練學(xué)習(xí)器，然后將訓(xùn)練器的性能作為特征子集的評(píng)價(jià)。

5、比如，有些騙子會(huì)冒充知名機(jī)構(gòu)或大咖發(fā)布重要信息，利用用戶的好奇心或貪心，引導(dǎo)他們點(diǎn)擊鏈接或者參與活動(dòng)。在點(diǎn)擊鏈接后，用戶會(huì)所說的，特征選擇的方法大致分為三類：過濾型、包裹型和嵌入型。

網(wǎng)站欄目：特征選擇算法代碼java 特征選擇實(shí)現(xiàn)
URL標(biāo)題：http://vcdvsql.cn/article14/deedege.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供域名注冊(cè)、、網(wǎng)站設(shè)計(jì)、網(wǎng)站制作、定制開發(fā)、App開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)