人工智能概论

目录

第1章 人工智能概念与发展 1

1.1 人工智能概念 1

1.1.1 定义 1

1.1.2 判断方法 4

1.1.3 模型 6

1.1.4 表示 7

1.1.5 推理 8

1.1.6 学习 10

1.1.7 优化 13

1.1.8 深度学习 14

1.2 人工智能的发展简史 15

1.2.1 人工智能的提出 16

1.2.2 推理与证明 16

1.2.3 危机 17

1.2.4 专家系统 17

1.2.5 重生 18

1.3 人工智能学派 19

1.3.1 符号主义 19

1.3.2 连接主义 20

1.3.3 行为主义 20

1.3.4 另一种分类 21

1.4 小结 22

习题 23

第2章 知识表示 24

2.1 基本概念 24

2.1.1 数据 24

2.1.2 信息 24

2.1.3 知识 25

2.1.4 人工智能中的知识表示 26

2.2 状态空间图 28

2.3 问题归约 30

2.4 谓词逻辑 32

2.4.1 命题 32

2.4.2 谓词逻辑表示 33

2.5 语义网络 37

2.5.1 语义基元 38

2.5.2 常见的语义联系 38

2.6 不确定知识表示 40

2.7 其他表示方法 41

2.7.1 规则表示 41

2.7.2 框架表示 42

2.7.3 脚本表示 43

2.7.4 面向对象表示 44

2.7.5 智能体Agent 45

2.8 小结 46

习题 46

第3章 确定性与不确定性推理 48

3.1 图搜索策略 48

3.1.1 盲目搜索 48

3.1.2 启发式搜索 55

3.2 命题逻辑推理 58

3.2.1 完全归纳法 59

3.2.2 反演法 59

3.3 语义网络推理 61

3.4 产生式系统 62

3.5 不确定性推理 65

3.5.1 事件概率 65

3.5.2 贝叶斯推理 67

3.6 小结 69

习题 69

第4章 神经网络 71

4.1 计算智能 71

4.2 人工神经网络相关概念 72

4.2.1 并行分布处理 73

4.2.2 非线性映射 73

4.2.3 训练学习 74

4.3 人工神经元结构与激活函数 74

4.3.1 生物神经元结构 74

4.3.2 人工神经元结构 75

4.3.3 神经元中的激发函数 75

4.4 人工神经网络结构 76

4.4.1 人工神经网络的一般结构 76

4.4.2 对比生物神经网络 78

4.5 前馈网络与反馈网络 78

4.5.1 前馈神经网络 78

4.5.2 反馈神经网络 79

4.6 表示与推理 82

4.6.1 基于神经网络的知识表示与推理 82

4.6.2 与逻辑 83

4.6.3 异或逻辑 84

4.6.4 基于神经网络的推理 85

4.6.5 神经网络的泛化能力 85

4.7 应用领域 86

4.8 小结 87

习题 87

第5章 进化算法 89

5.1 发展背景 89

5.2 进化策略 90

5.3 进化规划 91

5.4 遗传算法 92

5.4.1 染色体编码与解码 94

5.4.2 初始种群 96

5.4.3 适应度函数 96

5.4.4 遗传操作 97

5.5 小结 104

习题 105

第6章 群体智能 106

6.1 发展背景 106

6.2 社会系统 107

6.3 粒子群算法 108

6.3.1 基本思路 108

6.3.2 算法描述 108

6.3.3 惯性因子讨论 109

6.3.4 标准PSO算法 110

6.4 蚁群算法 116

6.4.1 基本原理 116

6.4.2 蚁群TSP系统模型 117

6.4.3 函数优化 120

6.5 小结 122

习题 123

第7章 机器学习基础 125

7.1 机器学习的定义和发展历史 125

7.1.1 机器学习定义 125

7.1.2 发展历程 126

7.1.3 相关概念 127

7.1.4 过程模型 128

7.1.5 常用机器学习模型 129

7.2 归纳与回归 130

7.2.1 数据归纳处理 130

7.2.2 回归 131

7.2.3 过拟合与欠拟合 134

7.3 分类分析 136

7.3.1 决策树 136

7.3.2 朴素贝叶斯模型 140

7.3.3 支持向量机 142

7.3.4 k近邻 146

7.3.5 集成学习 150

7.4 聚类分析 153

7.4.1 k-means算法 154

7.4.2 基于密度的聚类方法DBSCAN 156

7.4.3 层次聚类法 158

7.5 小结 161

习题 161

第8章 模型度量 163

8.1 偏差与方差 163

8.1.1 偏差 163

8.1.2 方差与标准差 164

8.1.3 偏差-方差平衡 166

8.1.4 均方误差 167

8.2 准确率和错误率 167

8.3 精确率、召回率、F1分数 168

8.4 ROC最线 171

8.4.1 ROC最线定义 171

8.4.2 ROC最线绘制 172

8.5 AUC值 174

8.6 交叉验证 175

8.7 小结 176

习题 176

第9章 异常检测 177

9.1 统计方法 177

9.1.1 3??方法 177

9.1.2 箱线图 179

9.2 密度方法 181

9.2.1 LOF 181

9.2.2 DBSCAN 185

9.3 基于距离的方法 186

9.3.1 孤立森林 186

9.3.2 k-NN 189

9.4 本章小结 190

习题 191

第10章 梯度下降 193

10.1 拟合 193

10.2 梯度下降法的基本原理 194

10.2.1 公式变换 194

10.2.2 方向导数与梯度 195

10.2.3 梯度表示与计算 196

10.2.4 算法描述 196

10.2.5 随机梯度下降法 201

10.3 模型函数 202

10.3.1 假设函数 202

10.3.2 损失函数 202

10.3.3 代价函数与目标函数 210

10.4 本章小结 212

习题 212

第11章 逻辑回归 214

11.1 逻辑分布 214

11.2 决策边界 215

11.3 线性模型与非线性模型 216

11.4 逻辑回归算法 218

11.4.1 逻辑回归模型的假设函数 218

11.4.2 逻辑回归的代价函数与目标函数 221

11.4.3 计算参数w、b：梯度下降 222

11.5 Softmax回归 223

11.5.1 多分类问题 223

11.5.2 Softmax回归模型 224

11.6 判别模型与生成模型 226

11.6.1 判别模型 227

11.6.2 生成模型 227

11.7 本章小结 228

习题 228

第12章 BP神经网络 230

12.1 复合函数梯度计算 230

12.2 逻辑回归函数梯度计算 232

12.2.1 单样本情况的梯度计算 232

12.2.2 多样本情况的梯度计算 233

12.3 BP神经网络的基本原理 234

12.3.1 BP神经网络的假设函数 234

12.3.2 BP神经网络的代价函数 235

12.3.3 前向传播 236

12.3.4 反向传播 236

12.4 应用BP神经网络的步骤 247

12.5 本章小结 247

习题 248

第13章 深度学习 249

13.1 发展背景 249

13.2 神经网络的兴起 250

13.2.1 大数据的支撑 250

13.2.2 全连接网络的缺陷 251

13.3 卷积神经网络结构 252

13.3.1 输入层 253

13.3.2 卷积层 254

13.3.3 非线性层 262

13.3.4 池化层 265

13.3.5 全连接层 267

13.3.6 输出层 269

13.4 网络训练 270

13.4.1 训练方法 270

13.4.2 预训练与微调 271

13.5 小结 272

习题 272

第14章 自然语言处理 274

14.1 发展背景 274

14.2 语言模型 275

14.2.1 基础模型 275

14.2.2 n-gram模型 276

14.3 词向量 278

14.3.1 离散式表示 279

14.3.2 分布式表示 283

14.4 神经网络语言模型 291

14.5 预训练模型 294

14.6 小结 294

习题 295

参考文献 296