本書系統(tǒng)地論述了人工神經網絡的主要理論和設計基礎,給出了大量應用實例,旨在使讀者了解神經網絡的發(fā)展背景和研究對象,理解和熟悉其基本原理和主要應用,掌握其結構模型和基本設計方法,為以后的深入研究和應用開發(fā)打下基礎。
全書共分為10章,第1、2章介紹了神經網絡的發(fā)展歷史、基本特征與功能、應用領域及基礎知識,第3~10章展開介紹了單層感知器、基于誤差反傳的多層感知器、徑向基函數神經網絡、競爭學習神經網絡、組合學習神經網絡、反饋神經網絡、支持向量機、深度神經網絡等內容。為了方便梳理知識點,每章都附有本章小結。為了方便學習、加深理解,在書后附錄中給出了例題與詳解及神經網絡常用術語的英漢對照。
本書可作為高等學校人工智能、智能科學與技術、自動化等相關專業(yè)人工神經網絡的教材,也可供人工智能科研人員參考。
第1章緒論
1.1人腦與計算機001
1.1.1人腦與計算機信息處理能力的比較002
1.1.2人腦與計算機信息處理機制的比較003
1.1.3什么是人工神經網絡004
1.2人工神經網絡發(fā)展簡史005
1.2.1啟蒙期005
1.2.2低潮期007
1.2.3復興期009
1.2.4高潮期010
1.2.5大數據期010
1.3神經網絡的基本特征與功能013
1.3.1神經網絡的基本特征013
1.3.2神經網絡的基本功能014
1.4神經網絡的應用領域015
1.4.1信息處理領域015
1.4.2自動化領域016
1.4.3工程領域016
1.4.4經濟領域017
1.4.5醫(yī)學領域018
1.5本章小結018
思考與練習019
第2章神經網絡基礎知識
2.1人工神經網絡的生物學基礎020
2.1.1生物神經元的結構020
2.1.2生物神經元的信息處理機理021
2.2人工神經元模型024
2.2.1神經元的建模024
2.2.2神經元的數學模型025
2.2.3神經元的轉移函數026
2.3人工神經網絡模型027
2.3.1網絡拓撲結構類型028
2.3.2網絡信息流向類型029
2.4神經網絡學習方式030
2.4.1監(jiān)督學習031
2.4.2無監(jiān)督學習031
2.5神經網絡學習規(guī)則031
2.5.1Hebb學習規(guī)則032
2.5.2Perceptron (感知器)學習規(guī)則034
2.5.3δ(Delta)學習規(guī)則034
2.5.4LMS(最小均方)學習規(guī)則036
2.5.5Correlation(相關)學習規(guī)則036
2.5.6Winner-Take-All(勝者為王)學習規(guī)則036
2.5.7Outstar(外星)學習規(guī)則037
2.6神經網絡計算機程序實現基礎038
2.6.1神經網絡結構的程序實現基礎038
2.6.2神經網絡學習算法的程序實現基礎039
2.6.3基于Python的神經網絡實現方法039
2.7本章小結040
思考與練習041
第3章單層感知器
3.1單層感知器模型042
3.2單節(jié)點感知器的功能分析043
3.3感知器的學習算法047
3.4感知器的局限性及解決途徑048
3.4.1感知器的局限性048
3.4.2解決途徑049
3.5本章小結051
思考與練習052
第4章基于誤差反傳的多層感知器
4.1BP網絡模型與算法055
4.1.1BP網絡模型055
4.1.2BP學習算法056
4.2BP網絡的能力與局限059
4.2.1BP網絡的主要能力059
4.2.2誤差曲面與BP算法的局限性060
4.3基于Python的BP算法實現061
4.3.1BP算法流程061
4.3.2基于Python的BP算法實現063
4.4BP算法的改進070
4.4.1增加動量項070
4.4.2自適應調節(jié)學習率070
4.4.3引入陡度因子071
4.5BP網絡設計基礎071
4.5.1網絡信息容量與訓練樣本數071
4.5.2訓練樣本集的準備072
4.5.3初始權值的設計076
4.5.4BP網絡結構設計076
4.5.5網絡訓練與測試077
4.6BP網絡應用與設計實例078
4.6.1BP網絡用于催化劑配方建模078
4.6.2BP網絡用于汽車變速器最佳擋位判定080
4.6.3BP網絡用于圖像壓縮編碼080
4.6.4BP網絡用于水庫優(yōu)化調度081
4.6.5BP網絡用于證券預測082
4.6.6BP網絡用于信用評價模型及預警083
4.7本章小結084
思考與練習084
第5章徑向基函數神經網絡
5.1基于徑向基函數技術的函數逼近與內插087
5.2正則化RBF網絡089
5.2.1正則化RBF網絡的結構及特點089
5.2.2正則化RBF網絡的學習算法090
5.3廣義RBF神經網絡090
5.3.1模式的可分性090
5.3.2廣義RBF網絡091
5.3.3廣義RBF網絡的設計方法092
5.3.4廣義RBF網絡數據中心的聚類算法093
5.3.5廣義RBF網絡數據中心的監(jiān)督學習算法094
5.4基于Python的RBF網絡學習算法實現095
5.4.1基于聚類的數據中心及RBF網絡程序實現095
5.4.2基于監(jiān)督學習的學習算法程序實現098
5.5RBF網絡與BP網絡的比較101
5.6RBF網絡設計應用實例102
5.6.1RBF網絡在液化氣銷售量預測中的應用102
5.6.2RBF網絡在地表水質評價中的應用102
5.6.3RBF網絡在汽油干點軟測量中的應用103
5.6.4RBF網絡在地下溫度預測中的應用105
5.7本章小結107
第6章競爭學習神經網絡
6.1競爭學習的概念與原理108
6.1.1基本概念108
6.1.2競爭學習原理110
6.2自組織特征映射神經網絡113
6.2.1SOM網的生物學基礎113
6.2.2SOM網的拓撲結構與權值調整域113
6.2.3自組織特征映射網的運行原理與學習算法115
6.3基于Python的SOM網絡設計與實現119
6.3.1SOM網絡的程序設計思路119
6.3.2基于neupy擴展模塊的SOM網絡程序設計120
6.4自組織特征映射網絡的設計與應用123
6.4.1SOM網的設計基礎123
6.4.2設計與應用實例125
6.5自適應共振理論131
6.5.1ARTⅠ型網絡132
6.5.2ARTⅠ型網絡的應用136
6.5.3ARTⅡ型網絡140
6.5.4ARTⅡ型網絡的應用143
6.6本章小結146
思考與練習147
第7章組合學習神經網絡
7.1學習向量量化神經網絡149
7.1.1向量量化(LVQ)149
7.1.2LVQ網絡結構與工作原理150
7.1.3LVQ網絡的學習算法150
7.1.4基于Python的LVQ網絡學習算法實現152
7.1.5LVQ網絡的設計與應用154
7.2對向傳播神經網絡157
7.2.1網絡結構與運行原理157
7.2.2CPN的學習算法158
7.2.3基于Python的CPN學習算法實現159
7.2.4改進的CPN舉例162
7.2.5CPN的應用163
7.3本章小結165
思考與練習165
第8章反饋神經網絡
8.1離散型Hopfield神經網絡167
8.1.1網絡的結構與工作方式167
8.1.2網絡的穩(wěn)定性與吸引子168
8.1.3網絡的權值設計173
8.1.4網絡的信息存儲容量175
8.2連續(xù)型Hopfield神經網絡176
8.2.1網絡的拓撲結構176
8.2.2能量函數與穩(wěn)定性分析177
8.3Hopfield網絡應用與設計實例178
8.3.1應用DHNN解決聯(lián)想問題178
8.3.2應用CHNN解決優(yōu)化計算問題179
8.4雙向聯(lián)想記憶(BAM)神經網絡182
8.4.1BAM網結構與原理182
8.4.2能量函數與穩(wěn)定性183
8.4.3BAM網的權值設計184
8.4.4BAM網的應用185
8.5隨機神經網絡186
8.5.1模擬退火原理187
8.5.2Boltzmann機188
8.6本章小結192
思考與練習193
第9章支持向量機
9.1支持向量機的基本思想195
9.1.1最優(yōu)超平面的概念195
9.1.2最優(yōu)超平面的構建196
9.2支持向量機神經網絡199
9.3支持向量機的學習算法200
9.4基于Python的SVM學習算法201
9.5支持向量機處理XOR問題203
9.6本章小結204
第10章深度神經網絡
10.1深層網絡模型的提出206
10.2深度網絡的網絡類型和學習算法208
10.2.1深度網絡的典型類型208
10.2.2深度網絡學習算法及改進209
10.3卷積神經網絡212
10.3.1CNN的基本概念及原理212
10.3.2CNN的模型與參數設計215
10.3.3CNN的學習217
10.3.4基于Python的CNN實現217
10.3.5CNN應用221
10.4生成對抗網絡222
10.4.1生成模型與判別模型222
10.4.2生成對抗網絡GAN的結構與核心思想223
10.4.3GAN的學習算法224
10.4.4基于Python的GAN實現225
10.4.5GAN的改進與應用229
10.5本章小結230
附錄
附錄1例題與詳解232
附錄2神經網絡常用術語英漢對照252
參考文獻