CVPR 2020: SGAS，一種基于貪心思想的CNN/GCN網(wǎng)絡(luò)結(jié)構(gòu)搜索算法
根據(jù)這三個影響邊選擇的三個因素，我們提出了兩個選擇指標(biāo)：
指標(biāo)1 ：具有高的邊重要性和高的邊確定性的邊將被選擇，公式為：
指標(biāo)2：在指標(biāo)1的基礎(chǔ)上，被選擇的邊也應(yīng)該具有較高的穩(wěn)定性：
這里，normalize（·）指 Min－Max標(biāo)準(zhǔn)化。
實(shí)驗(yàn)結(jié)果
我們搜索了CNN和GCN網(wǎng)絡(luò)結(jié)構(gòu)，并在CIFAR，ImageNet圖像分類，ModelNet點(diǎn)云分類，PPI生物圖數(shù)據(jù)節(jié)點(diǎn)分類上達(dá)到了SOTA效果。
CNN
我們將SGAS用到CNN的網(wǎng)絡(luò)結(jié)構(gòu)搜索中， CNN網(wǎng)絡(luò)結(jié)構(gòu)由普通單元（normalcell） 和 歸約單元（reduction cell）組成。普通單元保持特征圖大小不變，歸約單元縮小特征圖至． CNN任務(wù)中，搜索空間由8個運(yùn)算組成：skip－connect，max－pool－3×3， avg－pool－3×3， sep－conv－3×3， sep－conv5×5， dil－conv－3×3，dil－conv－5×5， zero。
SGAS在CIFAR－10的訓(xùn)練集與驗(yàn)證集搜索結(jié)構(gòu)，并在測試集上進(jìn)行測試，結(jié)果如表1所示：
SGAS在CIFAR－10的訓(xùn)練集與驗(yàn)證集搜索結(jié)構(gòu)，并在ImageNet測試集上進(jìn)行測試，結(jié)果如表2所示：
我們的SGAS在性能超越了手工設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)以及其他NAS算法。
分享
發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025（第六屆）機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設(shè)計(jì)：醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
