神經(jīng)網(wǎng)絡(luò)與智能信息處理分析論文
時(shí)間:2022-11-04 02:11:00
導(dǎo)語(yǔ):神經(jīng)網(wǎng)絡(luò)與智能信息處理分析論文一文來(lái)源于網(wǎng)友上傳,不代表本站觀點(diǎn),若需要原創(chuàng)文章可咨詢客服老師,歡迎參考。
關(guān)鍵詞:
80年代初,在美國(guó)、日本、接著在我國(guó)國(guó)內(nèi)都掀起了一股研究神經(jīng)網(wǎng)絡(luò)理論和神經(jīng)計(jì)算機(jī)的熱潮,并將神經(jīng)網(wǎng)絡(luò)原理應(yīng)用于圖象處理、模式識(shí)別、語(yǔ)音綜合及機(jī)器人控制等領(lǐng)域。近年來(lái),美國(guó)等先進(jìn)國(guó)家又相繼投入巨額資金,制定出強(qiáng)化研究計(jì)劃,開展對(duì)腦功能和新型智能計(jì)算機(jī)的研究。
人腦是自生命誕生以來(lái),生物經(jīng)過(guò)數(shù)十億年漫長(zhǎng)歲月進(jìn)化的結(jié)果,是具有高度智能的復(fù)雜系統(tǒng),它不必采用繁復(fù)的數(shù)字計(jì)算和邏輯運(yùn)算,卻能靈活處理各種復(fù)雜的,不精確的和模糊的信息,善于理解語(yǔ)言、圖象并具有直覺感知等功能。
人腦的信息處理機(jī)制極其復(fù)雜,從結(jié)構(gòu)上看它是包含有140億神經(jīng)細(xì)胞的大規(guī)模網(wǎng)絡(luò)。單個(gè)神經(jīng)細(xì)胞的工作速度并不高(毫秒級(jí)),但它通過(guò)超并行處理使得整個(gè)系統(tǒng)實(shí)現(xiàn)處理的高速性和信息表現(xiàn)的多樣性。
因此,從信息處理的角度對(duì)人腦進(jìn)行研究,并由此研制出一種象人腦一樣能夠“思維”的智能計(jì)算機(jī)和智能信息處理方法,一直是人工智能追求的目標(biāo)。
神經(jīng)網(wǎng)絡(luò)就是通過(guò)對(duì)人腦的基本單元---神經(jīng)元的建模和聯(lián)結(jié),來(lái)探索模擬人腦神經(jīng)系統(tǒng)功能的模型,并研制一種具有學(xué)習(xí)、聯(lián)想、記憶和模式識(shí)別等智能信息處理功能的人工系統(tǒng)。本文介紹神經(jīng)網(wǎng)絡(luò)的特點(diǎn)以及近年來(lái)有關(guān)神經(jīng)網(wǎng)絡(luò)與混沌理論、模糊計(jì)算和遺傳算法等相結(jié)合的混合神經(jīng)網(wǎng)絡(luò)研究的動(dòng)態(tài)。
一.神經(jīng)網(wǎng)絡(luò)和聯(lián)結(jié)主義
回顧認(rèn)知科學(xué)的發(fā)展,有所謂符號(hào)主義和聯(lián)結(jié)主義兩大流派。符號(hào)主義從宏觀層次上,撇開人腦的內(nèi)部結(jié)構(gòu)和機(jī)制,僅從人腦外在表現(xiàn)出來(lái)的智能現(xiàn)象出發(fā)進(jìn)行研究。例如,將記憶、判斷、推理、學(xué)習(xí)等心理活動(dòng)總結(jié)成規(guī)律、甚至編制成規(guī)則,然后用計(jì)算機(jī)進(jìn)行模擬,使計(jì)算機(jī)表現(xiàn)出各種智能。
符號(hào)主義認(rèn)為,認(rèn)識(shí)的基本元素是符號(hào),認(rèn)知過(guò)程是對(duì)符號(hào)表示的運(yùn)算。人類的語(yǔ)言,文字的思維均可用符號(hào)來(lái)描述,而且思維過(guò)程只不過(guò)是這些符號(hào)的存儲(chǔ)、變換和輸入、輸出而已。以這種方法實(shí)現(xiàn)的系統(tǒng)具有串行、線性、準(zhǔn)確、簡(jiǎn)潔、易于表達(dá)的特點(diǎn),體現(xiàn)了邏輯思維的基本特性。七十年代的專家系統(tǒng)和八十年代日本的第五代計(jì)算機(jī)研究計(jì)劃就是其主要代表。
聯(lián)接主義則與其不同,其特點(diǎn)是從微觀出發(fā)。聯(lián)接主義認(rèn)為符號(hào)是不存在的,認(rèn)知的基本元素就是神經(jīng)細(xì)胞(神經(jīng)元),認(rèn)知過(guò)程是大量神經(jīng)元的聯(lián)接,以及這種聯(lián)接所引起的神經(jīng)元的不同興奮狀態(tài)和系統(tǒng)所表現(xiàn)出的總體行為。八十年代再度興起的神經(jīng)網(wǎng)絡(luò)和神經(jīng)計(jì)算機(jī)就是這種聯(lián)接主義的代表。
神經(jīng)網(wǎng)絡(luò)的主要特征是:大規(guī)模的并行處理和分布式的信息存儲(chǔ),良好的自適應(yīng)、自組織性,以及很強(qiáng)的學(xué)習(xí)功能、聯(lián)想功能和容錯(cuò)功能。與當(dāng)今的馮.諾依曼式計(jì)算機(jī)相比,更加接近人腦的信息處理模式。主要表現(xiàn)如下:
☆神經(jīng)網(wǎng)絡(luò)能夠處理連續(xù)的模擬信號(hào)。例如連續(xù)灰度變化的圖象信號(hào)。
☆能夠處理混沌的、不完全的、模糊的信息。
☆傳統(tǒng)的計(jì)算機(jī)能給出精確的解答,神經(jīng)網(wǎng)絡(luò)給出的是次最優(yōu)的逼近解答。
☆神經(jīng)網(wǎng)絡(luò)并行分布工作,各組成部分同時(shí)參與運(yùn)算,單個(gè)神經(jīng)元的動(dòng)作速度不高,但總體的處理速度極快。
☆神經(jīng)網(wǎng)絡(luò)信息存儲(chǔ)分布于全網(wǎng)絡(luò)各個(gè)權(quán)重變換之中,某些單元障礙并不影響信息的完整,具有魯棒性。
☆傳統(tǒng)計(jì)算機(jī)要求有準(zhǔn)確的輸入條件,才能給出精確解。神經(jīng)網(wǎng)絡(luò)只要求部分條件,甚至對(duì)于包含有部分錯(cuò)誤的輸入,也能得出較好的解答,具有容錯(cuò)性。
☆神經(jīng)網(wǎng)絡(luò)在處理自然語(yǔ)言理解、圖象模式識(shí)別、景物理解、不完整信息的處理、智能機(jī)器人控制等方面有優(yōu)勢(shì)。
符號(hào)主義和聯(lián)接主義兩者各有特色,學(xué)術(shù)界目前有一種看法:認(rèn)為基于符號(hào)主義得傳統(tǒng)人工智能和基于聯(lián)接主義得神經(jīng)網(wǎng)絡(luò)是分別描述人腦左、右半腦的功能,反映了人類智能的兩重性:精確處理和非精確處理,分別面向認(rèn)識(shí)的理性和感性兩個(gè)方面,兩者的關(guān)系應(yīng)該是互補(bǔ)而非互相代替。理想的智能系統(tǒng)及其表現(xiàn)的智能行為應(yīng)是兩者相互結(jié)合的結(jié)果。
接下去的問(wèn)題是,符號(hào)AI和聯(lián)接AI具體如何結(jié)合,兩者在智能系統(tǒng)中相互關(guān)系如何?分別扮演什么角色?目前這方面發(fā)表的文獻(xiàn)很多,大致有如下幾種類型:
1.松耦合模型:符號(hào)機(jī)制的專家系統(tǒng)與聯(lián)接機(jī)制的神經(jīng)網(wǎng)絡(luò)通過(guò)一個(gè)中間媒介(例如數(shù)據(jù)文件)進(jìn)行通訊。
2.緊耦合模型:與松耦合模型相比較,其通訊不是通過(guò)外部數(shù)據(jù)進(jìn)行,而是直接通過(guò)內(nèi)部數(shù)據(jù)完成,具有較高的效率。其主要類型有嵌入式系統(tǒng)和黑板結(jié)構(gòu)等。
3.轉(zhuǎn)換模型:將專家系統(tǒng)的知識(shí)轉(zhuǎn)換成神經(jīng)網(wǎng)絡(luò),或把神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換成專家系統(tǒng)的知識(shí),轉(zhuǎn)換前的系統(tǒng)稱為源系統(tǒng),轉(zhuǎn)換后的系統(tǒng)稱為目標(biāo)系統(tǒng),由一種機(jī)制轉(zhuǎn)成另一種機(jī)制。如果源系統(tǒng)是專家系統(tǒng),目標(biāo)系統(tǒng)是神經(jīng)網(wǎng)絡(luò),則可獲得學(xué)習(xí)能力及自適應(yīng)性;反之,可獲得單步推理能力、解釋能力及知識(shí)的顯式表示。當(dāng)然,轉(zhuǎn)換需要在兩種的機(jī)制之間,確定結(jié)構(gòu)上的一致性,目前主要問(wèn)題是還沒有一種完備而精確的轉(zhuǎn)換方法實(shí)現(xiàn)兩者的轉(zhuǎn)換。有待進(jìn)一步研究。
4.綜合模型:綜合模型共享數(shù)據(jù)結(jié)構(gòu)和知識(shí)表示,這時(shí)聯(lián)接機(jī)制和符號(hào)機(jī)制不再分開,兩者相互結(jié)合成為一個(gè)整體,既具有符號(hào)機(jī)制的邏輯功能,又有聯(lián)接機(jī)制的自適應(yīng)和容錯(cuò)性的優(yōu)點(diǎn)和特點(diǎn)。例如聯(lián)接主義的專家系統(tǒng)等。
近年來(lái)神經(jīng)網(wǎng)絡(luò)研究的另一個(gè)趨勢(shì),是將它與模糊邏輯、混沌理論、遺傳進(jìn)化算法等相結(jié)合,即所謂“混合神經(jīng)網(wǎng)絡(luò)”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法,人們希望通過(guò)她們之間的相互結(jié)合,能夠獲得具有有柔性信息處理功能的系統(tǒng)。下面分別介紹。
二.混沌理論與智能信息處理
混沌理論是對(duì)貌似無(wú)序而實(shí)際有序,表面上看來(lái)是雜亂無(wú)章的現(xiàn)象中,找出其規(guī)律,并予以處理的一門學(xué)科。早在七十年代,美國(guó)和歐洲的一些物理學(xué)家、生物學(xué)家、數(shù)學(xué)家就致力于尋求在許許多多不同種類的不規(guī)則性之間的聯(lián)系。生物學(xué)家發(fā)現(xiàn)在人類的心臟中有混沌現(xiàn)象存在,血管在顯微鏡下交叉纏繞,其中也有驚人的有序性。在生物腦神經(jīng)系統(tǒng)中從微觀的神經(jīng)膜電位到宏觀的腦電波,都可以觀察到混沌的性態(tài),證明混沌也是神經(jīng)系統(tǒng)的正常特性。
九十年代開始,則更進(jìn)一步將混沌和神經(jīng)網(wǎng)絡(luò)結(jié)合起來(lái),提出多種混沌神經(jīng)網(wǎng)絡(luò)模型,并探索應(yīng)用混沌理論的各種信息處理方法。例如,在神經(jīng)元模型中,引入神經(jīng)膜的不應(yīng)性,研究神經(jīng)元模型的混沌響應(yīng),研究在神經(jīng)網(wǎng)絡(luò)的方程中,不應(yīng)性項(xiàng)的定標(biāo)參數(shù),不定性時(shí)間衰減常數(shù)等參數(shù)的性質(zhì),以及這些參數(shù)于神經(jīng)網(wǎng)絡(luò)混沌響應(yīng)的關(guān)系,并確定混沌---神經(jīng)網(wǎng)絡(luò)模型具有混沌解的參數(shù)空間。經(jīng)過(guò)試驗(yàn),由這種混沌神經(jīng)網(wǎng)絡(luò)模型所繪出的輸出圖形和腦電圖極為相似。
現(xiàn)代腦科學(xué)把人腦的工作過(guò)程看成為復(fù)雜的多層次的混沌動(dòng)力學(xué)系統(tǒng)。腦功能的物理基礎(chǔ)是混沌性質(zhì)的過(guò)程,腦的工作包含有混沌的性質(zhì)。通過(guò)混沌動(dòng)力學(xué),研究、分析腦模型的信息處理能力,可進(jìn)一步探索動(dòng)態(tài)聯(lián)想記憶、動(dòng)態(tài)學(xué)習(xí)并應(yīng)用到模式識(shí)別等工程領(lǐng)域。例如:
☆對(duì)混沌的隨機(jī)不規(guī)則現(xiàn)象,可利用混沌理論進(jìn)行非線性預(yù)測(cè)和決策。
☆對(duì)被噪聲所掩蓋的微弱信號(hào),如果噪聲是一種混沌現(xiàn)象,則可通過(guò)非線性辨識(shí),有效進(jìn)行濾波。
☆利用混沌現(xiàn)象對(duì)初始值的敏銳依賴性,構(gòu)成模式識(shí)別系統(tǒng)。
☆研究基于混沌---神經(jīng)網(wǎng)絡(luò)自適應(yīng)存儲(chǔ)檢索算法。該算法主要包括三個(gè)步驟,即:特征提取、自適應(yīng)學(xué)習(xí)和檢索。
模式特征提取采用從簡(jiǎn)單的吸引子到混沌的層次分支結(jié)構(gòu)來(lái)描述,這種分支結(jié)構(gòu)有可能通過(guò)少數(shù)幾個(gè)系統(tǒng)參數(shù)的變化來(lái)加以控制,使復(fù)雜問(wèn)題簡(jiǎn)單化。自適應(yīng)學(xué)習(xí)采用神經(jīng)網(wǎng)絡(luò)的誤差反傳學(xué)習(xí)法。檢索過(guò)程是通過(guò)一個(gè)具有穩(wěn)定吸引子的動(dòng)力學(xué)系統(tǒng)來(lái)完成,即利用輸入的初始條件與某個(gè)吸引子(輸出)之間的存在直接對(duì)應(yīng)關(guān)系的方法進(jìn)行檢索。利用這種方法可應(yīng)用于模式識(shí)別。例如黑白圖象的人臉識(shí)別。
三.模糊集理論與模糊工程
八十年代以來(lái)在模糊集理論和應(yīng)用方面,也有很大進(jìn)展。1983年美國(guó)西海岸AI研究所發(fā)表了稱為REVEAL的模糊輔助決策系統(tǒng)并投入市場(chǎng),1986年美國(guó)將模糊邏輯導(dǎo)入OPS---5,并研究成功模糊專家系統(tǒng)外殼FLOPS,1987年英國(guó)發(fā)表采用模糊PROLOG的智能系統(tǒng)FRIL等。除此通用工具的研制以外,各國(guó)還開發(fā)一系列用于專用目的的智能信息處理系統(tǒng)并實(shí)際應(yīng)用于智能控制、模式識(shí)別、醫(yī)療診斷、故障檢測(cè)等方面。
模糊集理論和神經(jīng)網(wǎng)絡(luò)雖然都屬于仿效生物體信息處理機(jī)制以獲得柔性信息處理功能的理論,但兩者所用的研究方法卻大不相同,神經(jīng)網(wǎng)絡(luò)著眼于腦的微觀網(wǎng)絡(luò)結(jié)構(gòu),通過(guò)學(xué)習(xí)、自組織化和非線性動(dòng)力學(xué)理論形成的并行分析方法,可處理無(wú)法語(yǔ)言化的模式信息。而模糊集理論則著眼于可用語(yǔ)言和概念作為代表的腦的宏觀功能,按照人為引入的隸屬度函數(shù),邏輯的處理包含有模糊性的語(yǔ)言信息。
神經(jīng)網(wǎng)絡(luò)和模糊集理論目標(biāo)相近而方法各異。因此如果兩者相互結(jié)合,必能達(dá)到取長(zhǎng)補(bǔ)短的作用。將模糊和神經(jīng)網(wǎng)絡(luò)相結(jié)合的研究,約在15年前便已在神經(jīng)網(wǎng)絡(luò)領(lǐng)域開始,為了描述神經(jīng)細(xì)胞模型,開始采用模糊語(yǔ)言,把模糊集合及其運(yùn)算用于神經(jīng)元模型和描述神經(jīng)網(wǎng)絡(luò)系統(tǒng)。目前,有關(guān)模糊---神經(jīng)網(wǎng)絡(luò)模型的研究大體上可分為兩類:一類是以神經(jīng)網(wǎng)絡(luò)為主,結(jié)合模糊集理論。例如,將神經(jīng)網(wǎng)絡(luò)參數(shù)模糊化,采用模糊集合進(jìn)行模糊運(yùn)算。另一類以模糊集、模糊邏輯為主,結(jié)合神經(jīng)網(wǎng)絡(luò)方法,利用神經(jīng)網(wǎng)絡(luò)的自組織特性,達(dá)到柔性信息處理的目的。
與神經(jīng)網(wǎng)絡(luò)相比,模糊集理論和模糊計(jì)算是更接近實(shí)用化的理論,特別近年來(lái)美國(guó)和日本的各大公司都紛紛推出各種模糊芯片,研制了型號(hào)繁多的模糊推理板,并實(shí)際應(yīng)用于智能控制等各個(gè)應(yīng)用領(lǐng)域,建立“模糊工程”這樣一個(gè)新領(lǐng)域。日本更首先在模糊家電方面打開市場(chǎng),帶有模糊控制,甚至標(biāo)以神經(jīng)---模糊智能控制的洗衣機(jī)、電冰箱、空調(diào)器、攝象機(jī)等已成為新一代家電的時(shí)髦產(chǎn)品。我國(guó)目前市場(chǎng)上也有許多洗衣機(jī),例如榮事達(dá)洗衣機(jī)就是采用模糊神經(jīng)網(wǎng)絡(luò)智能控制方式的洗衣機(jī)。
四.遺傳算法
遺傳算法(GeneticAlgorithm:GA)是模擬生物的進(jìn)化現(xiàn)象(自然、淘汰、交叉、突然變異)的一種概率搜索和最優(yōu)化方法。是模擬自然淘汰和遺傳現(xiàn)象的工程模型。
GA的歷史可追溯到1960年,明確提出遺傳算法的是1975年美國(guó)Michigan大學(xué)的Holland博士,他根據(jù)生物進(jìn)化過(guò)程的適應(yīng)現(xiàn)象,提出如下的GA模型方案:
1.將多個(gè)生物的染色體(Chromosmoe)組成的符號(hào)集合,按文字進(jìn)行編碼,稱為個(gè)體。
2.定義評(píng)價(jià)函數(shù),表示個(gè)體對(duì)外部環(huán)境的適應(yīng)性。其數(shù)值大的個(gè)體表示對(duì)外部環(huán)境的適應(yīng)性高,它的生存(子孫的延續(xù))的概率也高。
3.每個(gè)個(gè)體由多個(gè)“部分”組合而成,每個(gè)部分隨機(jī)進(jìn)行交叉及突然變異等變化,并由此產(chǎn)生子孫(遺傳現(xiàn)象)。
4.個(gè)體的集合通過(guò)遺傳,由選擇淘汰產(chǎn)生下一代。
遺傳算法提出之后,很快得到人工智能、計(jì)算機(jī)、生物學(xué)等領(lǐng)域科學(xué)家的高度重視,并在各方面廣泛應(yīng)用。1989年美國(guó)Goldberg博士發(fā)表一本專著:“GeneticAlgorithmsinSearch,OptimizationandMachineLearning”。出版后產(chǎn)生較大影響,該書對(duì)GA的數(shù)學(xué)基礎(chǔ)理論,GA的基本定理、數(shù)理分析以及在搜索法、最優(yōu)化、機(jī)器學(xué)習(xí)等GA應(yīng)用方面進(jìn)行了深入淺出的介紹,并附有Pascal模擬程序。
1985年7月在美國(guó)召開第一屆“遺傳算法國(guó)際會(huì)議”(ICGA)。以后每隔兩年召開一次。近年來(lái),遺傳算法發(fā)展很快,并廣泛應(yīng)用于信息技術(shù)的各個(gè)領(lǐng)域,例如:
智能控制:機(jī)器人控制。機(jī)器人路徑規(guī)劃。
工程設(shè)計(jì):微電子芯片的布局、布線;通信網(wǎng)絡(luò)設(shè)計(jì)、濾波器設(shè)計(jì)、噴氣發(fā)動(dòng)機(jī)設(shè)計(jì)。
圖象處理:圖象恢復(fù)、圖象識(shí)別、特征抽取。
調(diào)度規(guī)劃:生產(chǎn)規(guī)劃、調(diào)度問(wèn)題、并行機(jī)任務(wù)分配。
優(yōu)化理論:TSP問(wèn)題、背包問(wèn)題、圖劃分問(wèn)題。
人工生命:生命的遺傳進(jìn)化以及自增殖、自適應(yīng);免疫系統(tǒng)、生態(tài)系統(tǒng)等方面的研究。
神經(jīng)網(wǎng)絡(luò)、模糊集理論和以遺傳算法為代表的進(jìn)化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標(biāo)相近而方法各異;將它們相互結(jié)合,必能達(dá)到取長(zhǎng)補(bǔ)短、各顯優(yōu)勢(shì)的效果。例如,遺傳算法與神經(jīng)網(wǎng)絡(luò)和模糊計(jì)算相結(jié)合方面就有:
☆神經(jīng)網(wǎng)絡(luò)連續(xù)權(quán)的進(jìn)化。
傳統(tǒng)神經(jīng)網(wǎng)絡(luò)如BP網(wǎng)絡(luò)是通過(guò)學(xué)習(xí),并按一定規(guī)則來(lái)改變數(shù)值分布。這種方法有訓(xùn)練時(shí)間過(guò)長(zhǎng)和容易陷入局部?jī)?yōu)化的問(wèn)題。采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)可以克服這個(gè)缺點(diǎn)。
☆神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的進(jìn)化。
目前神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)全靠設(shè)計(jì)者的經(jīng)驗(yàn),由人事先確定,還沒有一種系統(tǒng)的方法來(lái)確定網(wǎng)絡(luò)結(jié)構(gòu),采用遺傳算法可用來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。
☆神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的進(jìn)化。
采用遺傳算法可使神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程能夠適應(yīng)不同問(wèn)題和環(huán)境的要求。
☆基于遺傳算法的模糊推理規(guī)則的優(yōu)化,以及隸屬度函數(shù)的自適應(yīng)調(diào)整也都取得很好效果。
熱門標(biāo)簽
神經(jīng)內(nèi)科論文 神經(jīng)外科 神經(jīng)網(wǎng)絡(luò)論文 神經(jīng)科學(xué) 神經(jīng)阻滯 神經(jīng)元 神經(jīng) 神經(jīng)內(nèi)科 神經(jīng)疾病 神經(jīng)病學(xué) 心理培訓(xùn) 人文科學(xué)概論