第1章神經元和神經網絡

1第一章神經元和神經網絡2主要內容1.1神經元電活動模型1.2神經元的功能模型1.3神經網絡1.4人工神經網絡的計算功能3神經系統的生理梗概人體生活在經常變化的環境中，環境的變化隨時影響著體內的各種功能。這就需要對體內各種生理功能不斷作出迅速而完善的調節，使機體適應內外環境的變化。實現這一調節功能的就是神經系統。4神經系統的生理梗概中樞神經系統:包括腦和脊髓。腦可分為腦干、小腦、大腦兩半球三部分。

外周神經系統:聯系中樞神經系統與全身各器官的神經，由腦發出的腦神經及脊髓發出的脊神經組成。56神經系統的生理梗概中樞神經系統是人體各種活動的管理機構，它通過分布在體內各部分的各種感受器和感覺神經獲得體內外的各種信息，再經過各級神經中樞的分析和綜合，起到了整體協調的作用。7神經系統的生理梗概神經系統的主要機能可歸納為三種：高級機能，包括飲食活動等非條件反射性及學習和記憶等條件反射性的復雜行為；運動機能，包括骨胳肌的收縮等軀體運動和組成內臟器官的平滑肌與心肌的內臟機能；感覺機能，包括各種內外刺激作用于感受器產生神經沖動傳到大腦皮層所產生的軀體感覺、內臟感覺和特殊感覺，如視、聽、味、嗅覺等。8神經系統的生理梗概神經系統的主要細胞組成：神經細胞神經膠質細胞神經系統表現出來的一切機能都由神經細胞所承擔。所以神經細胞是神經系統的結構單元，同時也是它的功能單元，稱為神經元。9主動作用與對抗作用從有機體與環境之間的相互關系來看，中樞神經系統的功能可以歸納成兩類：主動作用并非由明顯的外界刺激所引起而是由機體主動發動的，如貓向老鼠撲去，如人們隨意想發動某個動作等。對抗作用就是對抗外界環境給予機體的刺激，力圖維持機體活動的原先狀態，在生理學上稱穩態性作用。101.1神經元電活動模型111.什么是電活動12細胞膜的物質轉運機制13常見的跨膜物質轉運形式單純擴散易化擴散由載體介導由通道介導主動轉運出胞與入胞14常見的跨膜物質轉運形式1.單純擴散脂溶性的小分子物質從細胞膜的高濃度一側向低濃度一側移動的過程，稱為單純擴散。濃度梯度、通透性

15常見的跨膜物質轉運形式2.易化擴散指一些不溶于脂質或脂溶性很小的物質，在膜結構中一些特殊蛋白質分子的“幫助”下，從膜的高濃度一側向低濃度一側的移動過程。16常見的跨膜物質轉運形式(1)由載體為中介的易化擴散葡萄糖、氨基酸等營養性物質的進出細胞就屬于這種類型的易化擴散。特點：特異性；飽和性；競爭性抑制。17常見的跨膜物質轉運形式(2)由通道為中介的易化擴散通過通道擴散的物質主要是Na+、K+、Ca2+、Cl-等離子。通道蛋白質特點：隨著蛋白質分子構型的改變，它可以處于不同的功能狀態。開放狀態：允許特定的離子由膜的高濃度一側向低濃度一側轉移；關閉狀態：膜對該種離子不能通透。181920常見的跨膜物質轉運形式上述兩種物質轉運方式，都不需要細胞代謝供能，因而均屬于被動轉運。21常見的跨膜物質轉運形式3.主動轉運指細胞膜通過本身的某種耗能過程，將某物質的分子或離子由膜的低濃度一側移向高濃度一側的過程。22常見的跨膜物質轉運形式

23常見的跨膜物質轉運形式鈉泵：鑲嵌在膜的脂質雙分子層中的一種特殊蛋白質。具有ATP酶的活性，可以分解ATP使之釋放能量，并能利用此能量進行Na+和K+逆濃度梯度的主動轉運。因而鈉泵是一種被稱Na+、K+依賴式ATP酶的蛋白質。24常見的跨膜物質轉運形式當細胞內的Na+增加和細胞外的K+增加時，鈉泵被激活，于是將細胞內的Na+移出膜外，同時把細胞外的K+移入膜內。泵出Na+和K+這兩個過程是同時進行的。與此同時，ATP酶分解ATP，為鈉泵提供能量。在一般生理情況下，每分解一個ATP分子，可以移出3個Na+，同時移入2個K+。25鈉泵活動的意義鈉泵活動造成的細胞內高K+，是許多代謝反應進行的必需條件；細胞內高K+、低Na+能阻止細胞外水分大量進入細胞，對維持細胞的正常體積、形態和功能具有一定意義；建立一種勢能貯備，供其他耗能過程利用。26常見的跨膜物質轉運形式4.出胞與入胞式物質轉運出胞指借助于細胞膜復雜的結構和功能變化使大分子物質或固態、液態的物質團塊從細胞內移向細胞外，如腺細胞的分泌活動;入胞是指物質進入細胞的過程。27細胞的生物電現象能引起生物機體發生反應的各種環境變化，統稱為刺激。一切具有生命活動的細胞、組織或機體對刺激都具有發生反應的能力或特性，稱為興奮性。一切活組織的細胞，不論在安靜狀態還是在活動過程中均表現有電的變化，這種電變化是伴隨著細胞生命活動出現的，所以稱為生物電。28細胞的生物電現象生物電的表現形式：靜息電位——所有細胞在安靜時均存在，不同的細胞其靜息電位值不同。動作電位——可興奮細胞受到閾或閾上刺激時產生。局部電位——所有細胞受到閾下刺激時產生。291.靜息電位靜息電位：細胞處于安靜狀態下（未受刺激時）膜內外的電位差。靜息電位表現為膜外相對為正而膜內相對為負。30311.靜息電位（1）形成條件：①安靜時細胞膜兩側存在離子濃度差（離子不均勻分布）。②安靜時細胞膜主要對K+通透。

細胞未受刺激時，膜上離子通道中主要是K+通道開放，允許K+由細胞內流向細胞外，而不允許Na+、Ca2+由細胞外流入細胞內。

321.靜息電位（2）形成機制：K+外流的平衡電位即靜息電位，靜息電位形成過程不消耗能量。（3）特征：靜息電位是K+外流形成的膜兩側穩定的電位差。331.靜息電位342.動作電位概念：可興奮組織或細胞受到閾上刺激時，在靜息電位基礎上發生的快速、可逆轉、可傳播的細胞膜兩側的電變化。動作電位的主要成份是鋒電位。35形成條件細胞膜兩側存在離子濃度差。細胞膜在不同狀態下對不同離子的通透性不同，例如，安靜時主要允許K+通透，而去極化到閾電位水平時又主要允許Na+通透。可興奮組織或細胞受閾上刺激。36形成過程≥閾刺激細胞部分去極化Na+少量內流去極化至閾電位水平Na+內流與去極化形成正反饋（Na+爆發性內流）達到Na+平衡電位（膜內為正膜外為負）形成動作電位上升支37膜去極化達到一定電位水平Na+內流停止、K+迅速外流形成動作電位下降支38形成機制動作電位上升支——Na+內流所致。動作電位的幅度決定于細胞內外的Na+濃度差(細胞外液Na+濃度降低動作電位幅度也相應降低，而阻斷Na+通道則能阻礙動作電位的產生)。動作電位下降支——K+外流所致。39動作電位特征產生和傳播都是“全或無”式的。傳播的方式為局部電流（localcurrent），傳播速度與細胞直徑成正比。動作電位是一種快速，可逆的電變化，產生動作電位的細胞膜將經歷一系列興奮性的變化：絕對不應期——相對不應期——超常期——低常期。動作電位期間Na+、K+離子的跨膜轉運是通過通道蛋白進行的。403.局部電位概念：細胞受到閾下刺激時，細胞膜兩側產生的微弱電變化（較小的膜去極化或超極化反應）。或者說是細胞受刺激后去極化未達到閾電位的電位變化。形成機制：閾下刺激使膜通道部分開放，產生少量去極化或超極化。局部電位在不同細胞上由不同離子流動形成，而且離子是順著濃度差流動，不消耗能量。等級性、可以總和、衰減性414.興奮的傳播（1）興奮在同一細胞上的傳導：可興奮細胞興奮的標志是產生動作電位，因此興奮的傳導實質上是動作電位向周圍的傳播。（2）興奮在細胞間的傳遞：細胞間信息傳遞的主要方式是化學性傳遞。422.神經元的活動規律43神經元的基本結構每個神經元由三部分組成：樹突：神經元的“輸入”組織。細胞體：神經元的“CPU”，完成非線性信號處理：當輸入信號超過一定閾值，則產生一個輸出信號。軸突：神經元的“輸出裝置”，把輸出信號傳送給其他神經元。44神經細胞的分類根據形態結構的不同可分為：單極、雙極、多極神經元。45神經元的分類根據神經元在信息傳遞、整合過程中的作用不同或反射弧中的位置，可把它們分成：傳入（感覺）神經元中間（聯絡）神經元傳出（運動）神經元46神經元的分類根據對突觸后神經元的不同作用分為:興奮性神經元抑制性神經元47突觸一個神經元與另一個神經元或其他細胞相接觸的部位，稱為突觸。突觸具有特殊的結構，是神經元之間或神經元與其他細胞之間在機能上發生聯系的部位，是信息傳遞和整合的關鍵部位。發送信號的神經元為突觸前神經元，接收信號的神經元為突觸后神經元。48突觸的結構突觸前膜突觸間隙突觸后膜49突觸的分類根據突觸接觸的部位分類：一般來說，高等哺乳動物最主要的突觸接觸形式有三種：

1.軸突-樹突突觸。

2.軸突-胞體突觸。

3.軸突-軸突突觸。50突觸的分類根據突觸的結合形式分類：(1)包圍式突觸。一個軸突末梢的許多分支密集地貼附在另一神經元的胞體上，這種結合形式使興奮易于總合，相當于軸突-胞體突觸。(2)依傍式突觸。一個神經元的軸突末梢分支與另一神經元的樹突或胞體的某一點相接觸，這一結合形式起易化作用，相當于軸突-樹突突觸或軸突-胞體突觸。51突觸的分類根據突觸對下一個神經元機能活動的影響分類：(1)興奮性突觸，使下一個神經元興奮；(2)抑制性突觸，使下一個神經元抑制。52突觸傳遞過程化學性突觸傳遞是神經系統內信息傳遞的主要方式，是一種以釋放化學遞質為中介的突觸性傳遞。基本過程：EPSP興奮性突觸后電位IPSP抑制性突觸后電位突觸前膜釋放遞質突觸間隙與突觸后膜受體結合EPSP或IPSP突觸后神經元興奮或抑制5354興奮性突觸后電位其特征是突觸后膜出現局部去極化。它的產生是由于突觸小泡釋放興奮性遞質，與受體結合后，提高了突觸后膜對Na+、K+、Cl-，特別是Na+的通透性。由于Na+內流，使突觸后膜膜電位絕對值減小，產生局部去極化，即興奮性突觸后電位。55抑制性突觸后電位特征：突觸后膜產生超極化。它的產生也是由于突觸前神經元末梢興奮，但釋放的是抑制性遞質，與受體結合后，可提高突觸后膜對K+、Cl-，尤其是Cl-的通透性。由于Cl-由膜外進入膜內，使膜電位的絕對值增大，出現突觸后膜的超極化，即抑制性突觸后電位，它降低突觸后膜的興奮性，使突觸后神經元不能產生興奮，而出現抑制效應。56神經遞質同一個中樞遞質對不同的突觸后膜有不同的效應，有的呈現興奮性效應，有的呈現抑制性效應，這種不同主要是由突觸后膜的特性決定的。57神經系統傳遞信息的機理全或無原則輻散原則聚合原則接力傳遞原則神經背景發放脈沖583.神經元電活動模型59一、計算跨膜電壓的生物物理工具不帶電微粒在水溶液中的擴散：物理意義：溶液中的微粒總沿著濃度梯度下降的方向擴散，直至溶液濃度均勻一致。穿越溶液中薄膜的微粒流量比例系數，擴散率膜兩邊的濃度梯度古典的生物膜理論建立在由濃度差引起的擴散和由電位差引起的帶電微粒（離子）的漂移這兩種過程的基礎上。60一、計算跨膜電壓的生物物理工具當溶液中存在任何電場E時，帶電微粒在溶液中還要受到一個附加的力的作用，這個力就是電場力。任何電解質在水溶液中都要被離解為電的離子，例如氯化鈉溶于水被離解為帶正電荷的鈉離子和帶負電荷的氯離子，它們都是可能受到電場力作用的帶電微粒。帶電微粒在電場中的運動速度也與電場強度成比例。61計算跨膜電壓的生物物理工具因電場力而產生的帶電微粒在溶液中的漂移流量可由歐姆定律表達：帶正電荷微粒的漂移沿電位梯度下降的方向進行，且流量與電位梯度成正比。離子帶電荷數某種離子濃度溶液中的電位梯度，即電場強度離子遷移率62計算跨膜電壓的生物物理工具離子擴散率和遷移率都取決于離子通過溶液的能力，二者之間的關系用愛因斯坦關系式表示：可以求出，當溶液被一個對溶液中某正離子具有通透性的膜分隔時，為了保持膜兩側具有穩定濃度差所應施加的跨膜電壓。絕對溫度單位電荷電量波爾茲曼常數63計算跨膜電壓的生物物理工具離子擴散流量和漂移流量分別為：根據在平衡狀態下兩者之和為零，可推導出：上式稱為Nernst方程，它給出為維持膜兩側具有穩定濃度差所應施加的跨膜電壓。64計算跨膜電壓的生物物理工具當計算生物膜兩邊的離子時，總認為在膜的任何一側，正負離子是相伴存在的，即空間電荷中和：65二.生物膜電位的電路模型66二.生物膜電位的電路模型為計算跨膜電壓，建立生物膜的電路模型：把表示離子通透性的電阻畫成可變電阻，是考慮到突觸中離子通透性的變化。67二.生物膜電位的電路模型根據包含鈉元素的回路所寫出的基爾霍夫電壓方程為：68二.生物膜電位的電路模型根據鈉、鉀離子通道列出基爾霍夫電壓方程，代入某細胞膜已知數值計算出靜息狀態和翻轉狀態（離子通道被打開）的跨膜電壓分別為：

Vm靜=-90mv，Vm翻=2mv這是生理實驗可得到的典型數值。694.Hodgkin-Huxley模型70AlanHodgkinAndrewHuxley1914-19981917-2012.5.301963年諾貝爾醫學生理學獎71槍烏賊神經纖維的直徑達到1000微米，如果從神經的一端沿纖維的長軸方向插入一根直徑約100微米的測量電極，對軸突的正常功能幾乎不產生什么影響。這樣，通過這個細胞內電極與另一個置于細胞外的電極，就可以精確地測出細胞的跨膜靜息電位。724.Hodgkin-Huxley模型73A：膜離子總電流B：鉀離子電流A-B：鈉離子電流A加入60mv去極化電壓B去除外部海水中的大部分鈉離子C去除外部所有的鈉離子744.Hodgkin-Huxley模型經過對大量實驗數據的分析，Hodgkin和Huxley找到了能與實驗數據擬合的電導方程。754.Hodgkin-Huxley模型對于鉀離子的膜電導方程為：對于鈉離子的膜電導方程為：其中，、為常數，其它參數由實驗得出。76774.Hodgkin-Huxley模型根據上述方程和生物膜電路模型可列出去極化過程中總共的膜電流為：784.Hodgkin-Huxley模型圖2-8是上述方程所表示的H-H模型計算機仿真動作電位的結果。791.2神經元的功能模型80神經元的作用原則1.在神經元系統中，信息的傳輸靠神經纖維傳播全或無消息來實現的；2.神經元的軸突分成許多末梢，神經元發出脈沖沿所有末梢擴布，并激活各自的突觸；3.每個神經元都要接收來自許多其他神經元的突觸，有興奮性的也有抑制性的，數量成百上千，最多可達80000；81神經元的作用原則4.在突觸處信息的傳輸先由電變化轉變成化學變化，最后又轉為電變化，繼續傳輸；5.神經元總是有背景發放。82模型中神經元的功能神經元功能建模的共同點是針對神經元擴布性峰電位的“全或無”性質，模型中神經元的功能主要表現為：1.神經元有多個輸入端和一個輸出端，輸入可為興奮性的或抑制性的；輸出服從“全或無”定律；2.輸出與輸入之間有固定的時延，它主要取決于突觸延擱；83模型中神經元的功能3.神經元有一定的閾值，只有當其輸入超過閾值時，才有輸出產生；4.絕對和相對不應期；5.非時變特性。84形式神經元MP模型由McCulloch和Pitts于1943年建立。基本思想：神經細胞的工作方式是要么興奮，要么抑制。85形式神經元具體實現：由于神經元之間的信號連接強度取決于突觸狀態，因此在MP模型中，神經元的每個突觸的活動強度用一個固定的實數即權值模擬。于是每個神經元模型都可以從數十甚至數百個其他神經元接收信息，產生神經興奮和沖動；同時，在其他條件不變的情況下，不論何種刺激，只要達到閾值以上，就能產生一個動作電位。但如果輸入總和低于閾值，則不能引起任何可見的反應。86形式神經元描述神經元基本功能的數學模型如下：設模型有幾個輸入變量，它表示第j個輸入在t時刻的狀態（0，1）。t時刻的輸出也是二值變量，有輸出時為1，無輸出時為0。輸入與輸出之間的關系可用下列方程描述：87形式神經元符號函數權重+/-閾值88形式神經元因此，神經元在t+1時刻有脈沖發放的條件為：形式神經元表達了“全或無”定律，空間加和、閾值，傳輸延遲等神經元功能，但并未體現出時間總和及不應期等。為此可把（2-12）改進為：89

表示j個輸入在r個時刻前的狀態對系統的影響的權重。

若第j個輸入是興奮性的，則全部大于零，但依r之順序而遞減；若第j個輸入是抑制性的，則全部均小于零，但依r之順序，其絕對值遞減。形式神經元901.3神經網絡91在神經網絡的研究中，所遇到的巨大困難來自兩方面：一是神經元的非線性特性；二是神經元數量太大，聯接關系太復雜。研究中要針對這兩方面做大量的簡化。92神經網絡的特點人腦是由140億個神經元組成的神經網絡，其突出特點主要有三個方面：1.并行處理機制。因此其速度快；2.容錯性。單個神經元的損壞并不影響其整體功能，因而保證了其可靠性；3.自學習能力。保證了人的適應能力。93一、神經元邏輯網絡神經元狀態的“全或無”定律使神經網絡中每個神經元的輸入、輸出都成為二值變量，可以較方便地利用邏輯代數來分析神經網絡。根據神經元的連接形式，可把神經網絡分解為實現基本邏輯運算的邏輯神經網絡。94（a）邏輯與（^）95969798一、神經元邏輯網絡如果神經網絡中含有反饋回路，則神經網絡不再是簡單的組合邏輯網絡，它在任一給定時刻的狀態還與以前的（包括初始）狀態有關。如圖：99如果網絡中每一個元件發生錯誤的概率為ε>0。不管這個ε怎么小，在一段相當長的時間內，總可能有一個或幾個元件發生錯誤，從而對網絡的狀態產生很大的影響。例：圖2-13（a）的網絡中，一旦因為動作錯誤而產生興奮，就會把興奮狀態保持下去。100在人的神經系統中，總共有上百億個神經元，每個神經元及其連接方式顯然不會有無限高的可靠性；那么人們就很難理解為什么神經系統能可靠地穩定工作上百年。101一、神經元邏輯網絡美國科學家諾依曼提出并證實了網絡中增加可靠性的方法，方法之一是采用多重聯線。網絡中的每個信號都傳送到一束N條聯線中去，如圖：取某個置信水平（0<

<0.25），有多于（1-

）N條聯線興奮時，經過混合器（方框C），輸出端就有信號，而只有少于

N條聯線興奮，輸出端就沒有信號。如果興奮的聯線數在N到（1-）N之間，就處于一種不確定的狀態。這樣就體現了一種少數服從多數的原則。102二、自組織系統在人出生一年后，腦細胞數目不再增加。人的一生所可能接受的一切信息不可能預先存貯在腦內，知識、技能只能通過學習方能掌握，這實際上是通過接受輸入信息，使神經元之間的聯結方式發生可塑性變化的復雜、漫長的過程。當神經沖動不斷地通過一個突觸，可使突觸導納上升，在大量分泌神經遞質后，突觸后細胞質的結構發生變化，即結合系數加大，興奮敏感性上升，成為一種學習、記憶過程。103二、自組織系統任何系統的形成都是一個組織過程，組織過程是事物或一組變量從無聯系的狀態進化到某些特定狀態的過程。開始時，系統的各部分之間是分散的，各部分是獨立運轉的。系統的各部分之間通過改變自身結構或參數形成聯系，以致成為一個整體，這種能具有自行組織功能的系統稱為自組織系統。許多神經網絡就是自組織系統。自組織系統可引用熵的概念作為判據。104二、自組織系統熵是衡量系統混亂程度的一個物理量，在熱力學中，熵的極大狀態是物質分子排列最無序的狀態，也是孤立系統在自發過程中達到的平衡態。為了對系統的有序度進行量度，可引進“剩余度”的概念。對于完全無序的系統，R=0；對于理想的有序系統，R=1。剩余度系統的熵最大熵105二、自組織系統對于自組織系統，它的有序度隨時間的推移而增長，即若系統的最大熵為常量，則：這說明，在最大熵為常量時，若要使系統成為自組織系統，系統熵的變化率應為負的。106二、自組織系統-學習過程當與某神經元聯結的突觸前細胞為興奮性結合時，，由于突觸的多次作用，突觸導納會逐步增加，下式表達自組織系統的學習過程。自組織的速度與興奮的傳遞相比很慢，的數值應很小。正的常數，數值很小結合系數的增量107突觸聯結沒有興奮性激勵時，結合系數又會隨時間而按一定比例減小，向初始值恢復，成為學習后的遺忘過程。正的常數，數值更小學習前的突觸導納，遺傳結合系數二、自組織系統-遺忘過程108二、自組織系統-遺忘過程109二、自組織系統-遺忘過程復習點的確定（根據艾賓浩斯記憶曲線制定）：

1．第一個記憶周期：5分鐘

2．第二個記憶周期：30分鐘

3．第三個記憶周期：12小時

4．第四個記憶周期：1天

5．第五個記憶周期：2天

6．第六個記憶周期：4天

7．第七個記憶周期：7天

8．第八個記憶周期：15天110

增加到一定程度后不再加大，表明在學習過程中，結合系數的增加有一個限度。飽和值二、自組織系統-飽和值111考慮式（2-20）至式（2-22）的各種因素后，的總增量為：上式表達了神經網絡在自組織過程中所具有的學習、遺忘、及遺傳因素等方面的特性。112三、神經網絡模型神經網絡模型是人們在對人腦思維研究的基礎上，用數學方法將其簡化、抽象并模擬，能反映人腦基本功能特性的一種并行分布處理連接網絡模型。113神經網絡模型的特征1.網的拓撲學特征：包括模型中所包含的神經元（結點）的個數和排列形式、各神經元的作用及其相互聯結方式和強弱，一般用權重表示其聯系的強弱。2.結點的特性：包括其非線性特性和閾值，可選用適當的神經元模型來描述。3.學習法則：不同的神經網絡模型，其學習法則各異。114神經元網絡中的每一個神經元都是一個信息處理單元，它可根據接收到的信息獨立運算，然后把結果傳輸出去，這是一個并行處理。1151.Hopfield神經網模型這一網絡可直接處理如黑白圖象或8bitASCII碼表示的信息，而對于那些連續值的輸入形式，則必須將其模擬量轉換為二值（+1或-1）后才能處理。116人們曾使用一個具有120個神經元，具有14400個聯系權重的Hopfield神經網模型作為8個數字類黑白模式的聯想式記憶。圖中給出了這8個模型的樣本集。每個樣本模式由120個象素組成，其中數值+1代表黑色象素，-1代表白色象素。117Hopfiled神經網的信息是存