訂閱
糾錯
加入自媒體

人工智能之受限玻爾茲曼機(RBM)

2018-05-10 10:28
AI優化生活
關注

用于訓練RBM的算法被稱作對比發散CD(contrastive divergence) 算法 。對比發散CD算法,目前已經成為訓練RBM的標準算法。訓練過程如下圖所示。

blob.png

RBM問題實質:

RBM求解目標可認為是讓RBM網絡表示的Gibbs分布與輸入樣本的分布盡可能地接近

blob.png

RBM問題最終可以轉化為極大似然來求解。

blob.png

RBM功能:

深信任網絡DBN和深玻爾茲曼機DBM,由多層神經元組成,已經應用于許多機器學習任務中,能夠很好地解決一些復雜問題,在一定程度上提高了學習性能。深神經網絡由許多受限玻爾茲曼機RBM堆棧構成,RBM的可見層神經元之間和隱層神經元之間假定無連接。深神經網絡用層次無監督貪婪預訓練方法分層預訓練RBM,將得到的結果作為監督學習訓練概率模型的初始值,學習性能得到很大改善。無監督特征學習就是將RBM的復雜層次結構與海量數據集之間實現統計建模。通過無監督預訓練使網絡獲得高階抽象特征,并且提供較好的初始權值,將權值限定在對全局訓練有利的范圍內,使用層與層之間的局部信息進行逐層訓練,注重訓練數據自身的特性,能夠減小對學習目標過擬合的風險,并避免深神經網絡中誤差累積傳遞過長的問題。RBM由于表示力強、易于推理等優點被成功用作深神經網絡的結構單元使用,在近些年受到廣泛關注,作為實際應用,RBM的學習算法已經在MNIST和NORB等數據集上顯示出優越的學習性能。RBM的學習在深度神經網絡的學習中占據核心的地位。

blob.png

RBM應用場景:

玻爾茲曼機BM及其模型已經成功應用于協同濾波、分類、降維、圖像檢索、信息檢索、語言處理、語音識別、時間序列建模、文檔分類、非線性嵌入學習、暫態數據模型學習和信號與信息處理等任務。

受限玻爾茲曼機RBM在降維、分類、協同過濾、特征學習和主題建模中得到了應用。根據任務的不同,受限玻爾茲曼機可以使用監督學習或無監督學習的方法進行訓練。

結語:

受限玻爾茲曼機RBM是一種可通過輸入數據集學習概率分布的隨機生成神經網絡。它是一種玻爾茲曼機BM的變體,限制玻爾茲曼機RBM和玻爾茲曼機BM相比,主要是加入了“限制”。所謂的限制就是,將完全圖變成了二分圖。RBM算法在人工智能機器學習、降維、分類、協同過濾、特征學習和主題建模等領域有著廣泛應用。

<上一頁  1  2  
聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯系舉報。

發表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續

暫無評論

暫無評論

    人工智能 獵頭職位 更多
    掃碼關注公眾號
    OFweek人工智能網
    獲取更多精彩內容
    文章糾錯
    x
    *文字標題:
    *糾錯內容:
    聯系郵箱:
    *驗 證 碼:

    粵公網安備 44030502002758號