內(nèi)容豐富

涵蓋機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)算法，詳細(xì)講述算法的原理和應(yīng)用案例。

結(jié)合實(shí)踐

匯集人工智能領(lǐng)域?qū)＜液蛯W(xué)者的理論研究和應(yīng)用實(shí)踐的經(jīng)驗(yàn)與成果。

配套代碼

每個(gè)應(yīng)用案例都細(xì)致講解，并有實(shí)現(xiàn)代碼與之對(duì)應(yīng)，便于理解和掌握。

前　　言

人工智能技術(shù)是引領(lǐng)未來的前沿性、戰(zhàn)略性技術(shù)。黨中央、國(guó)務(wù)院高度重視新一代人工智能的發(fā)展，將其列為國(guó)家發(fā)展戰(zhàn)略，積極推動(dòng)人工智能發(fā)展及應(yīng)用。目前，人工智能已初步具備大規(guī)模實(shí)施的條件：首先，物聯(lián)網(wǎng)及通信技術(shù)為海量數(shù)據(jù)的采集提供了感知和傳輸手段，使得人工智能變成“有米之炊”；其次，各種計(jì)算技術(shù)與計(jì)算設(shè)施的快速發(fā)展為算力賦能，使得大規(guī)模、多維度、高復(fù)雜計(jì)算成為可能。“萬事俱備，只欠東風(fēng)”，有利于人工智能發(fā)展的條件逐漸成熟，算法的功能和實(shí)現(xiàn)成為人工智能必須面對(duì)的核心問題之一。隨著人工智能向社會(huì)各個(gè)領(lǐng)域加速滲透，新的算法技術(shù)層出不窮，圖像識(shí)別、機(jī)器翻譯等智能任務(wù)水平趨近人類，這其中的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)已成為人工智能發(fā)展的核心驅(qū)動(dòng)力。

本書由人工智能相關(guān)領(lǐng)域的專家、學(xué)者編寫，他們結(jié)合各自多年的理論研究和應(yīng)用實(shí)踐，從人工智能關(guān)鍵技術(shù)、算法原理、典型案例等方面按層次逐步展開，對(duì)人工智能典型算法進(jìn)行原理介紹、技術(shù)分析和應(yīng)用模擬。本書分為四大部分：基礎(chǔ)知識(shí)、監(jiān)督式學(xué)習(xí)算法、無監(jiān)督式學(xué)習(xí)算法、深度學(xué)習(xí)算法，共17章。

第1章闡述了人工智能的發(fā)展背景、定義以及關(guān)鍵技術(shù)等，并對(duì)人工智能技術(shù)的相關(guān)應(yīng)用進(jìn)行了深入分析。

第2章介紹了人工智能算法的實(shí)驗(yàn)環(huán)境，對(duì)Python環(huán)境安裝與配置、可視化庫(kù)以及深度學(xué)習(xí)算法實(shí)驗(yàn)環(huán)境TensorFlow框架的搭建進(jìn)行了詳細(xì)介紹。

第3章介紹了線性回歸算法，包括線性回歸模型、一元線性回歸算法、多元線性回歸算法，以及梯度下降求解線性回歸模型，最后將該算法應(yīng)用到“波士頓房?jī)r(jià)預(yù)測(cè)”案例中。

第4章介紹了邏輯回歸算法，主要介紹了算法的定義和原理，包括算法流程、假設(shè)函數(shù)、代價(jià)函數(shù)、梯度下降法以及決策邊界，最后將該算法應(yīng)用到“判斷是否為惡性腫瘤”案例中。

第5章介紹了支持向量機(jī)，包括算法的基本概念和原理，并將該算法應(yīng)用到“手寫體數(shù)字識(shí)別”案例中。

第6章介紹了K近鄰算法，主要介紹了算法的基本概念和原理，包括算法計(jì)算步驟、K值的選取、距離函數(shù)的確定，最后將該算法應(yīng)用到“約會(huì)網(wǎng)站配對(duì)與預(yù)測(cè)簽到位置”案例中。

第7章介紹了決策樹，主要介紹了算法的基本概念、決策樹的生成以及決策過程，并引出決策樹的原理，最后將該算法應(yīng)用到“借貸人狀態(tài)評(píng)估”案例中。

第8章介紹了樸素貝葉斯算法，主要介紹了算法的相關(guān)概念、理論基礎(chǔ)和原理，包括算法流程、實(shí)例分析等，并用樸素貝葉斯算法實(shí)現(xiàn)輿情判別。

第9章介紹了集成學(xué)習(xí)算法，主要介紹了算法的基本概念和原理，進(jìn)而引出AdaBoost、Bagging和隨機(jī)森林算法，最后將該算法應(yīng)用到“垃圾郵件分類應(yīng)用”案例中。

第10章介紹了主成分分析算法，主要介紹了算法相關(guān)概念和基本原理，最后運(yùn)用該算法實(shí)現(xiàn)對(duì)鳶尾花數(shù)據(jù)的降維。

第11章介紹了K-Means算法，主要介紹了算法基本原理、算法流程、算法描述以及核心代碼，最后將該算法應(yīng)用到“鳶尾花聚類分析”案例中。

第12章介紹了EM算法，首先介紹了最大似然法，提出含有隱變量的參數(shù)估計(jì)問題，引入EM算法概念；其次對(duì)算法的原理推導(dǎo)以及步驟進(jìn)行說明；再次利用EM算法實(shí)現(xiàn)求解高斯混合模型參數(shù)，最后將該算法應(yīng)用于“求解男性身高和女性身高的分布參數(shù)”案例中。

第13章介紹了BP神經(jīng)網(wǎng)絡(luò)，主要介紹了神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識(shí)、BP神經(jīng)網(wǎng)絡(luò)的相關(guān)概念以及基本原理，包括正向傳播、反向傳播等概念，然后通過代碼實(shí)現(xiàn)一個(gè)三層BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型，最后將該算法應(yīng)用于“天氣溫度預(yù)測(cè)”案例中。

第14章介紹了循環(huán)神經(jīng)網(wǎng)絡(luò)，主要介紹了RNN算法的基本概念和網(wǎng)絡(luò)結(jié)構(gòu)、循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)變體，然后應(yīng)用該算法實(shí)現(xiàn)飛機(jī)乘客的預(yù)測(cè)，最后介紹了對(duì)循環(huán)神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)的模型。

第15章介紹了卷積神經(jīng)網(wǎng)絡(luò)，主要介紹了CNN算法的起源與應(yīng)用、結(jié)構(gòu)特點(diǎn)以及核心概念，然后介紹了構(gòu)造卷積神經(jīng)網(wǎng)絡(luò)的方法，最后應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)對(duì)Cifar10數(shù)據(jù)集進(jìn)行圖像分類。

第16章介紹了LSTM神經(jīng)網(wǎng)絡(luò)，主要介紹了LSTM算法的基本概念與基本原理，并使用LSTM算法實(shí)現(xiàn)股票價(jià)格預(yù)測(cè)。

第17章介紹了生成對(duì)抗網(wǎng)絡(luò)，主要介紹了GAN算法的相關(guān)概念、算法原理，包括算法過程、具體操作、目標(biāo)函數(shù)的優(yōu)化以及GAN算法的改進(jìn)，然后列舉了生成對(duì)抗網(wǎng)絡(luò)在各領(lǐng)域的應(yīng)用，最后將該算法應(yīng)用于“擬合二次函數(shù)與圖片生成”案例中。

本書由梁琨、張翼英任主編，梁琨負(fù)責(zé)組織編寫，并對(duì)全書進(jìn)行修改和審校；張翼英參與部分章節(jié)編寫，并對(duì)全書進(jìn)行了審校。

本書第1章由梁琨、任依夢(mèng)編寫；第2章由梁琨、周保先編寫；第3章由梁琨、翟俊武編寫；第4章由張翼英、何業(yè)慎、李英卓編寫；第5章由梁琨、王聰、李曉航編寫；第6章由梁琨、任依夢(mèng)編寫；第7章由梁琨、柳依陽(yáng)編寫；第8章由梁琨、王德龍編寫；第9、10章由梁琨、張亞男、劉晶晶編寫；第11章由梁琨、張楠編寫；第12章由張翼英、韓龍哲、王鵬凱編寫；第13章由梁琨、尚靜編寫；第14章由梁琨、羅劍編寫；第15章由張翼英、于文平、周保先編寫；第16章由張翼英、馬彩霞編寫；第17章由梁琨、王聰、李蘇編寫。天津科技大學(xué)人工智能學(xué)院田宇宸、王煉、李可欣、臺(tái)耀強(qiáng)、劉瀚中、喬子驁、賈仁杰、葉子、張子豪、劉豐華、焦偉康等同學(xué)參與各章算法的代碼編輯與調(diào)試工作。

本書編寫過程中獲得了眾多專家的指導(dǎo)和幫助，朱冰鴻、尤平午、劉娟等專家在成稿過程中提出了諸多建設(shè)性意見，在此一并致謝。感謝天津開發(fā)區(qū)沃思電子商務(wù)有限公司提供的技術(shù)支持，同時(shí)，感謝中國(guó)水利水電出版社萬水分社副社長(zhǎng)石永峰的指導(dǎo)與幫助。

希望本書能夠?qū)﹃P(guān)心人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的高校師生和愛好者，以及相關(guān)各領(lǐng)域的從業(yè)人員等讀者群都能有所裨益，并為我國(guó)人工智能產(chǎn)業(yè)發(fā)展添磚加瓦。由于編者水平及時(shí)間所限，各位編者寫作風(fēng)格各異，書中難免會(huì)有局限和諸多不足之處，歡迎廣大專家和讀者不吝指正。

編　者

2021年9月

第一部分　基礎(chǔ)知識(shí)
第1章　人工智能與算法概述 2
1.1　人工智能 2
1.1.1　人工智能的概念 2
1.1.2　人工智能的發(fā)展 4
1.1.3　人工智能的應(yīng)用 9
1.2　AI算法簡(jiǎn)介 16
1.2.1　算法定義 16
1.2.2　AI算法定義 16
1.2.3　AI算法分類 17
1.3　人工智能與算法的關(guān)系 20
1.4　算法在人工智能中的應(yīng)用 21
1.5　本章習(xí)題 22
第2章　AI算法實(shí)驗(yàn)環(huán)境簡(jiǎn)介 23
2.1　Python環(huán)境安裝與配置 23
2.2　Python可視化庫(kù) 23
2.2.1　可視化庫(kù)簡(jiǎn)介 24
2.2.2　matplotlib的基本元素和常用方法 26
2.2.3　matplotlib繪圖 28
2.3　深度學(xué)習(xí)算法實(shí)驗(yàn)環(huán)境簡(jiǎn)介 33
2.4　TensorFlow框架搭建 33
2.5　本章習(xí)題 34
第二部分　監(jiān)督式學(xué)習(xí)算法
第3章　線性回歸算法 36
3.1　算法概述 36
3.2　算法原理 37
3.2.1　線性回歸模型 37
3.2.2　一元線性回歸算法 37
3.2.3　多元線性回歸算法 39
3.2.4　梯度下降求解線性回歸模型 40
3.3　算法案例：波士頓房?jī)r(jià)預(yù)測(cè) 44
3.4　算法總結(jié) 47
3.5　本章習(xí)題 48
第4章　邏輯回歸算法 49
4.1　算法概述 49
4.1.1　什么是邏輯回歸 49
4.1.2　邏輯回歸對(duì)比線性回歸 50
4.1.3　算法引入 50
4.2　算法原理 51
4.2.1　算法流程 51
4.2.2　假設(shè)函數(shù) 51
4.2.3　代價(jià)函數(shù) 52
4.2.4　梯度下降法 53
4.2.5　決策邊界 53
4.3　算法案例：判斷是否為惡性腫瘤 54
4.4　算法總結(jié) 57
4.5　本章習(xí)題 57
第5章　支持向量機(jī) 58
5.1　算法概述 58
5.2　算法原理 58
5.2.1　線性可分支持向量機(jī)介紹 58
5.2.2　拉格朗日乘子法 61
5.2.3　對(duì)偶問題和KKT條件 62
5.2.4　SMO算法原理 63
5.2.5　非線性支持向量機(jī) 64
5.2.6　線性支持向量機(jī) 65
5.3　算法案例：手寫體數(shù)字識(shí)別 66
5.4　算法總結(jié) 70
5.5　本章習(xí)題 70
第6章　K近鄰算法 72
6.1　算法概述 72
6.2　算法原理 73
6.2.1　算法計(jì)算步驟 73
6.2.2　K值的選取 73
6.2.3　確定距離函數(shù) 74
6.3　算法案例：約會(huì)網(wǎng)站配對(duì)與預(yù)測(cè)簽到位置 75
6.3.1　約會(huì)網(wǎng)站配對(duì)案例 75
6.3.2　預(yù)測(cè)簽到位置案例 81
6.4　算法總結(jié) 82
6.5　本章習(xí)題 83
第7章　決策樹 84
7.1　算法概述 84
7.1.1　什么是決策樹 84
7.1.2　如何生成一棵決策樹 85
7.1.3　決策過程 86
7.2　算法原理 86
7.2.1　信息增益 87
7.2.2　信息增益比 90
7.2.3　基尼（Gini）指數(shù) 91
7.2.4　決策樹的生成 91
7.2.5　決策樹的剪枝 92
7.3　算法案例：借貸人狀態(tài)評(píng)估 92
7.3.1　利用信息增益選擇最優(yōu)劃分屬性 93
7.3.2　遞歸構(gòu)建決策樹 95
7.4　算法總結(jié) 96
7.5　本章習(xí)題 97
第8章　樸素貝葉斯算法 98
8.1　算法概述 98
8.1.1　算法簡(jiǎn)介 98
8.1.2　理論基礎(chǔ) 98
8.2　算法原理 101
8.2.1　算法流程 101
8.2.2　實(shí)例分析 102
8.3　算法案例：樸素貝葉斯實(shí)現(xiàn)輿情判別 103
8.3.1　樸素貝葉斯分類器 103
8.3.2　核心代碼及分析 104
8.4　算法總結(jié) 107
8.4.1　優(yōu)點(diǎn) 107
8.4.2　缺點(diǎn) 107
8.5　本章習(xí)題 107
第9章　集成學(xué)習(xí)算法 109
9.1　算法概述 109
9.2　算法原理 110
9.2.1　AdaBoost算法 110
9.2.2　Bagging算法 113
9.2.3　隨機(jī)森林算法 114
9.3　算法案例：垃圾郵件分類應(yīng)用 115
9.4　算法總結(jié) 118
9.5　本章習(xí)題 119
第三部分　無監(jiān)督式學(xué)習(xí)算法
第10章　主成分分析算法 121
10.1　算法概述 121
10.2　算法原理 122
10.3　算法案例：數(shù)據(jù)降維應(yīng)用 123
10.4　算法總結(jié) 124
10.5　本章習(xí)題 125
第11章　K-Means算法 126
11.1　算法概述 126
11.2　算法原理 127
11.2.1　算法流程 131
11.2.2　算法描述 131
11.2.3　核心代碼 132
11.3　算法案例：鳶尾花聚類分析 134
11.3.1　鳶尾花卉數(shù)據(jù)集 134
11.3.2　聚類結(jié)果可視化 134
11.4　算法總結(jié) 135
11.5　本章習(xí)題 135
第12章　EM算法 136
12.1　算法概述 136
12.1.1　最大似然法 136
12.1.2　含有隱變量的參數(shù)估計(jì)問題 138
12.1.3　EM算法的引入 139
12.2　算法原理 139
12.2.1　EM-GMM推導(dǎo) 141
12.2.2　EM算法求解一維高斯混合模型參數(shù) 142
12.3　算法案例：求解男性身高和女性身高的分布
參數(shù) 145
12.4　算法總結(jié) 149
12.5　本章習(xí)題 150
第四部分　深度學(xué)習(xí)算法
第13章　BP神經(jīng)網(wǎng)絡(luò) 152
13.1　算法概述 152
13.1.1　人工神經(jīng)網(wǎng)絡(luò) 152
13.1.2　BP神經(jīng)網(wǎng)絡(luò) 153
13.2　算法原理 155
13.2.1　正向傳播 155
13.2.2　反向傳播 155
13.2.3　Sigmoid函數(shù) 156
13.2.4　BP神經(jīng)網(wǎng)絡(luò)具體步驟 157
13.2.5　三層BP神經(jīng)網(wǎng)絡(luò)算法實(shí)現(xiàn) 158
13.3　算法案例：天氣溫度預(yù)測(cè) 162
13.3.1　項(xiàng)目描述 162
13.3.2　代碼實(shí)現(xiàn) 162
13.4　算法總結(jié) 164
13.5　本章習(xí)題 165
第14章　循環(huán)神經(jīng)網(wǎng)絡(luò) 166
14.1　算法概述 166
14.2　算法原理 167
14.2.1　循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 167
14.2.2　RNN結(jié)構(gòu)變體 168
14.3　算法案例：數(shù)據(jù)走勢(shì)與飛機(jī)乘客預(yù)測(cè) 169
14.3.1　數(shù)據(jù)走勢(shì)預(yù)測(cè)案例 169
14.3.2　飛機(jī)乘客預(yù)測(cè)案例 172
14.4　算法總結(jié) 173
14.4.1　雙向RNN 173
14.4.2　深層雙向RNN 174
14.4.3　金字塔RNN（Pyramidal RNN） 175
14.5　本章習(xí)題 175
第15章　卷積神經(jīng)網(wǎng)絡(luò) 176
15.1 　算法概述 176
15.1.1　卷積神經(jīng)網(wǎng)絡(luò)的起源與應(yīng)用 176
15.1.2　卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)特點(diǎn) 177
15.1.3　卷積神經(jīng)網(wǎng)絡(luò)核心概念 178
15.2　算法原理 180
15.2.1　選擇激活函數(shù) 180
15.2.2　比較損失函數(shù) 181
15.2.3　訓(xùn)練參數(shù)調(diào)優(yōu) 183
15.3　算法案例：對(duì)Cifar10數(shù)據(jù)集圖像分類 185
15.3.1　Cifar10數(shù)據(jù)集使用 185
15.3.2　卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練 185
15.3.3　圖片模型預(yù)測(cè) 187
15.4　算法總結(jié) 189
15.5　本章習(xí)題 189
第16章　LSTM神經(jīng)網(wǎng)絡(luò) 191
16.1　算法概述 191
16.2　算法原理 193
16.2.1　細(xì)胞狀態(tài) 193
16.2.2　遺忘門 194
16.2.3　輸入門 195
16.2.4　更新門 195
16.2.5　輸出門 195
16.2.6　BPTT 196
16.2.7　梯度消失 197
16.3　算法案例：股票價(jià)格預(yù)測(cè) 198
16.3.1　LSTM算法構(gòu)建 198
16.3.2　LSTM算法描述 199
16.3.3　LSTM算法實(shí)現(xiàn) 199
16.3.4　基于Keras-TensorFlow框架實(shí)現(xiàn)股票
價(jià)格的預(yù)測(cè) 201
16.4　算法總結(jié) 202
16.5　本章習(xí)題 202
第17章　生成對(duì)抗網(wǎng)絡(luò) 204
17.1　算法概述 204
17.2　算法原理 205
17.2.1　原理過程 205
17.2.2　具體操作 206
17.2.3　目標(biāo)函數(shù)的優(yōu)化 206
17.2.4　GAN算法的改進(jìn) 207
17.2.5　算法設(shè)計(jì)與實(shí)現(xiàn) 208
17.2.6　算法的應(yīng)用 210
17.3　算法案例：擬合二次函數(shù)與圖片生成 213
17.3.1　用GAN實(shí)現(xiàn)擬合二次函數(shù) 213
17.3.2　利用GAN創(chuàng)造假的圖片 214
17.4　算法總結(jié) 215
17.5　本章習(xí)題 215
參考文獻(xiàn) 217

1. 嵌入式人工智能技術(shù)應(yīng)用（數(shù)字教材） [主編 胡娜 楊國(guó)勇 晏廷榮]
2. 人工智能應(yīng)用 [主編　陳　萍　劉培培　陳孟軍]
3. 基于深度學(xué)習(xí)的人體行為識(shí)別算法研究 [陳華鋒 著]
4. 粒子群算法在優(yōu)化選取問題中的應(yīng)用研究 [尹浩 著]
5. Java Web項(xiàng)目化設(shè)計(jì)實(shí)踐教程 [邱云 曾陳萍]
6. 人工智能開發(fā)框架應(yīng)用 [主編 王明超 蘆婭云]
7. 民航客艙服務(wù)實(shí)用英語教程 [主編 田靜 徐亞玲]
8. Python數(shù)據(jù)分析 [主編　馮志輝　趙磊　李放]
9. 大學(xué)信息技術(shù) [曾翰穎 編著]
10. 多維視域下的高校籃球教學(xué)創(chuàng)新研究 [張利超 李寧 著]
11. 創(chuàng)新創(chuàng)業(yè)訓(xùn)練實(shí)踐教程 [主編 王日華 陳武 黃喆誠(chéng)]
12. 實(shí)用運(yùn)籌學(xué) [主編　邢育紅　于晉臣]
13. 電子技術(shù)（第二版） [主編 覃愛娜 李飛]
14. 勞動(dòng)爭(zhēng)議處理實(shí)務(wù) [主編 王秀卿 羅靜]
15. 工程數(shù)學(xué) [主編 郭立娟 王海]
16. 語音識(shí)別理論與實(shí)踐 [主編　莫宏偉]
17. 武術(shù)基礎(chǔ)教程 [主編 李代勇 謝志民]
18. 計(jì)算機(jī)網(wǎng)絡(luò)實(shí)訓(xùn)教程 [主編 張浩軍 趙玉娟]
19. 畫法幾何與機(jī)械制圖習(xí)題集（多學(xué)時(shí)） [主編 趙軍]
20. 電工電子技術(shù)基礎(chǔ) [主編 劉 軍 楊國(guó)龍 劉天成]
21. MySQL數(shù)據(jù)庫(kù)項(xiàng)目式教程 [陳亞峰]
22. 機(jī)械設(shè)計(jì)基礎(chǔ)（第二版） [主編 田亞平 李愛姣]
23. 人工智能技術(shù)導(dǎo)論 [主編 劉軍 趙守凱 林海]
24. 畫法幾何與機(jī)械制圖 [主編 趙軍]
25. C語言程序設(shè)計(jì)習(xí)題與實(shí)驗(yàn)指導(dǎo)（第二版） [主編 甄增榮 張賓]
26. C語言程序設(shè)計(jì)（第二版） [主編 甄增榮 田云霞]
27. Unity3D虛擬現(xiàn)實(shí)應(yīng)用開發(fā)實(shí)踐 [主 編 劉龍]
28. 智能化技術(shù)基礎(chǔ)（第三版） [鄧文達(dá)　李禮]
29. 人工智能應(yīng)用系統(tǒng)開發(fā)項(xiàng)目化教程 [主編 楊家慧 周永福 魏育華]
30. 面向?qū)ο蟪绦蛟O(shè)計(jì) [主編 張勇 張平華 趙小龍]