13367270556 李經(jīng)理
17771793878 萬經(jīng)理
掃碼免費技術(shù)交流
人工神經(jīng)網(wǎng)絡(luò)早期的研究工作應(yīng)追溯至上世紀40年代。下面以時間順序,以著名的人物或某一方面突出的研究成果為線索,簡要介紹人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷史。
1943年,心理學(xué)家W·Mcculloch和數(shù)理邏輯學(xué)家W·Pitts在分析、總結(jié)神經(jīng)元基本特性的基礎(chǔ)上首先提出神經(jīng)元的數(shù)學(xué)模型。此模型沿用至今,并且直接影響著這一領(lǐng)域研究的進展。因而,他們兩人可稱為人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)。
1945年馮·諾依曼領(lǐng)導(dǎo)的設(shè)計小組試制成功存儲程序式電子計算機,標志著電子計算機時代的開始。1948年,他在研究工作中比較了人腦結(jié)構(gòu)與存儲程序式計算機的根本區(qū)別,提出了以簡單神經(jīng)元構(gòu)成的再生自動機網(wǎng)絡(luò)結(jié)構(gòu)。但是,由于指令存儲式計算機技術(shù)的發(fā)展非常迅速,迫使他放棄了神經(jīng)網(wǎng)絡(luò)研究的新途徑,繼續(xù)投身于指令存儲式計算機技術(shù)的研究,并在此領(lǐng)域作出了巨大貢獻。雖然,馮·諾依曼的名字是與普通計算機聯(lián)系在一起的,但他也是人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)之一。
50年代末,F·Rosenblatt設(shè)計制作了“感知機”,它是一種多層的神經(jīng)網(wǎng)絡(luò)。這項工作首次把人工神經(jīng)網(wǎng)絡(luò)的研究從理論探討付諸工程實踐。當時,世界上許多實驗室仿效制作感知機,分別應(yīng)用于文字識別、聲音識別、聲納信號識別以及學(xué)習(xí)記憶問題的研究。然而,這次人工神經(jīng)網(wǎng)絡(luò)的研究高潮未能持續(xù)很久,許多人陸續(xù)放棄了這方面的研究工作,這是因為當時數(shù)字計算機的發(fā)展處于全盛時期,許多人誤以為數(shù)字計算機可以解決人工智能、模式識別、專家系統(tǒng)等方面的一切問題,使感知機的工作得不到重視;其次,當時的電子技術(shù)工藝水平比較落后,主要的元件是電子管或晶體管,利用它們制作的神經(jīng)網(wǎng)絡(luò)體積龐大,價格昂貴,要制作在規(guī)模上與真實的神經(jīng)網(wǎng)絡(luò)相似是完全不可能的;另外,在1968年一本名為《感知機》的著作中指出線性感知機功能是有限的,它不能解決如異感這樣的基本問題,而且多層網(wǎng)絡(luò)還不能找到有效的計算方法,這些論點促使大批研究人員對于人工神經(jīng)網(wǎng)絡(luò)的前景失去信心。60年代末期,人工神經(jīng)網(wǎng)絡(luò)的研究進入了低潮。
另外,在60年代初期,Widrow提出了自適應(yīng)線性元件網(wǎng)絡(luò),這是一種連續(xù)取值的線性加權(quán)求和閾值網(wǎng)絡(luò)。后來,在此基礎(chǔ)上發(fā)展了非線性多層自適應(yīng)網(wǎng)絡(luò)。當時,這些工作雖未標出神經(jīng)網(wǎng)絡(luò)的名稱,而實際上就是一種人工神經(jīng)網(wǎng)絡(luò)模型。
隨著人們對感知機興趣的衰退,神經(jīng)網(wǎng)絡(luò)的研究沉寂了相當長的時間。80年代初期,模擬與數(shù)字混合的超大規(guī)模集成電路制作技術(shù)提高到新的水平,完全付諸實用化,此外,數(shù)字計算機的發(fā)展在若干應(yīng)用領(lǐng)域遇到困難。這一背景預(yù)示,向人工神經(jīng)網(wǎng)絡(luò)尋求出路的時機已經(jīng)成熟。美國的物理學(xué)家Hopfield于1982年和1984年在美國科學(xué)院院刊上發(fā)表了兩篇關(guān)于人工神經(jīng)網(wǎng)絡(luò)研究的論文,引起了巨大的反響。人們重新認識到神經(jīng)網(wǎng)絡(luò)的威力以及付諸應(yīng)用的現(xiàn)實性。隨即,一大批學(xué)者和研究人員圍繞著 Hopfield提出的方法展開了進一步的工作,形成了80年代中期以來人工神經(jīng)網(wǎng)絡(luò)的研究熱潮。
1985年,Ackley、Hinton和Sejnowski將模擬退火算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)訓(xùn)練中,提出了Boltzmann機,該算法具有逃離極值的優(yōu)點,但是訓(xùn)練時間需要很長。
1986年,Rumelhart、Hinton和Williams提出了多層前饋神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法,即BP算法。它從證明的角度推導(dǎo)算法的正確性,是學(xué)習(xí)算法有理論依據(jù)。從學(xué)習(xí)算法角度上看,是一個很大的進步。
1988年,Broomhead和Lowe第一次提出了徑向基網(wǎng)絡(luò):RBF網(wǎng)絡(luò)。
總體來說,神經(jīng)網(wǎng)絡(luò)經(jīng)歷了從高潮到低谷,再到高潮的階段,充滿曲折的過程。
中科微震采用人工神經(jīng)網(wǎng)絡(luò)算法,在微震爆破信號識別方面進行了深入的研究,使用的是卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)算法的一種,是基于基本深度神經(jīng)網(wǎng)絡(luò)的衍生。CNN的卷積層和池化層是其不同于其他網(wǎng)絡(luò)的獨特之處,它們使CNN具有了局部連接、權(quán)值共享和池化三大特點,使CNN具有強大的泛化能力和魯棒性。模型結(jié)構(gòu)如圖1所示,包括卷積、池化、激活函數(shù)、全連接和FP/BP原理等。
中科微震獲得了不少進展,識別率逐步提高,大大減少了人工篩選有用信號的難度,提高了工作效率,也為縮短預(yù)警時間提供了可靠的手段。
友情鏈接: 地壓監(jiān)測綜合平臺
17771793878 萬經(jīng)理
Copyright ? 2017-2024 湖北海震科創(chuàng)技術(shù)有限公司 版權(quán)所有 鄂ICP備18018194號
lhf@ssswzjc.com