人工智能之受限玻爾茲曼機(RBM)
用于訓練RBM的算法被稱作對比發(fā)散CD(contrastive divergence) 算法 。對比發(fā)散CD算法,目前已經(jīng)成為訓練RBM的標準算法。訓練過程如下圖所示。
RBM問題實質(zhì):
RBM求解目標可認為是讓RBM網(wǎng)絡表示的Gibbs分布與輸入樣本的分布盡可能地接近。
RBM問題最終可以轉(zhuǎn)化為極大似然來求解。
RBM功能:
深信任網(wǎng)絡DBN和深玻爾茲曼機DBM,由多層神經(jīng)元組成,已經(jīng)應用于許多機器學習任務中,能夠很好地解決一些復雜問題,在一定程度上提高了學習性能。深神經(jīng)網(wǎng)絡由許多受限玻爾茲曼機RBM堆棧構(gòu)成,RBM的可見層神經(jīng)元之間和隱層神經(jīng)元之間假定無連接。深神經(jīng)網(wǎng)絡用層次無監(jiān)督貪婪預訓練方法分層預訓練RBM,將得到的結(jié)果作為監(jiān)督學習訓練概率模型的初始值,學習性能得到很大改善。無監(jiān)督特征學習就是將RBM的復雜層次結(jié)構(gòu)與海量數(shù)據(jù)集之間實現(xiàn)統(tǒng)計建模。通過無監(jiān)督預訓練使網(wǎng)絡獲得高階抽象特征,并且提供較好的初始權(quán)值,將權(quán)值限定在對全局訓練有利的范圍內(nèi),使用層與層之間的局部信息進行逐層訓練,注重訓練數(shù)據(jù)自身的特性,能夠減小對學習目標過擬合的風險,并避免深神經(jīng)網(wǎng)絡中誤差累積傳遞過長的問題。RBM由于表示力強、易于推理等優(yōu)點被成功用作深神經(jīng)網(wǎng)絡的結(jié)構(gòu)單元使用,在近些年受到廣泛關(guān)注,作為實際應用,RBM的學習算法已經(jīng)在MNIST和NORB等數(shù)據(jù)集上顯示出優(yōu)越的學習性能。RBM的學習在深度神經(jīng)網(wǎng)絡的學習中占據(jù)核心的地位。
RBM應用場景:
玻爾茲曼機BM及其模型已經(jīng)成功應用于協(xié)同濾波、分類、降維、圖像檢索、信息檢索、語言處理、語音識別、時間序列建模、文檔分類、非線性嵌入學習、暫態(tài)數(shù)據(jù)模型學習和信號與信息處理等任務。
受限玻爾茲曼機RBM在降維、分類、協(xié)同過濾、特征學習和主題建模中得到了應用。根據(jù)任務的不同,受限玻爾茲曼機可以使用監(jiān)督學習或無監(jiān)督學習的方法進行訓練。
結(jié)語:
受限玻爾茲曼機RBM是一種可通過輸入數(shù)據(jù)集學習概率分布的隨機生成神經(jīng)網(wǎng)絡。它是一種玻爾茲曼機BM的變體,限制玻爾茲曼機RBM和玻爾茲曼機BM相比,主要是加入了“限制”。所謂的限制就是,將完全圖變成了二分圖。RBM算法在人工智能之機器學習、降維、分類、協(xié)同過濾、特征學習和主題建模等領域有著廣泛應用。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機器人及智能工廠展
-
7月31日免費預約>> OFweek 2025具身智能機器人產(chǎn)業(yè)技術(shù)創(chuàng)新應用論壇
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設計:醫(yī)療器械設計的應用案例與方案解析
推薦專題