机器学习是人工智能的重要技术基础，涉及的内容十分广泛。本书内容涵盖了机器学习的基础知识，主要包括机器学习的概论、统计学习基础、分类、聚类、神经网络、贝叶斯网络、支持向量机、进化计算、文本分析等经典的机器学习理论知识，也包括用于大数据机器学习的分布式机器学习算法、深度学习和加强学习等高等级内容。此外，还介绍了机器学习的热门应用领域推荐技术，并给出了华为机器学习平台上的实验。本书深入浅出、内容全面、案例丰富，每章后都有习题和参考文献，便于学生巩固学习，适用于高等院校本科生、研究生机器学习、数据分析、数据挖掘等课程的教材，也可作为对机器学习感兴趣的研究人员和工程技术人员的参考资料。

1.大数据专家，复旦大学教授新力作 2.华为公司提供真实企业开发案例 3.提供典型Python算法与案例 4.突出机器学习系统内容，包括深度学习典型算法与应用、知识图谱、机器学习行业应用等 5.提供多媒体课件、案例代码等丰富的配套资源

2001年4月毕业于东南大学，获博士学位。2001年6月起在复旦大学管理科学与工程博士后流动站工作。2003年5月进入复旦大学软件学院，主要负责本科生和各类研究生电子商务、大数据核心技术和商务智能等课程的教学，2011年纽约大学Stern商学院访问学者。商务智能被评为上海市精品课程，获得2013年高等教育上海市教学成果奖二等奖。发表论文90多篇，其中被SCI、EI收录40多篇。出版专著及教材10多部。获得上海市2015年上海市科技进步二等奖。

序言

第 一章机器学习概述1

1.1机器学习简介1

1.1.1机器学习简史1

1.1.2机器学习主要流派2

1.2机器学习、人工智能和数据挖掘4

1.2.1什么是人工智能4

1.2.2机器学习、人工智能与数据挖掘5

1.3典型机器学习应用领域5

1.4机器学习算法12

1.5机器学习的一般流程20

第 二章机器学习基本方法23

2.1统计分析23

2.1.1统计基础23

2.1.2常见概率分布29

2.1.3参数估计31

2.1.4假设检验33

2.1.5线性回归33

2.1.6Logistics回归37

2.1.7判别分析38

2.1.8非线性模型39

2.2高维数据降维40

2.2.1主成分分析40

2.2.2线性判别分析43

2.2.3局部线性嵌入47

2.3特征工程48

2.3.1特征构造48

2.3.2特征选择49

2.3.3特征提取50

2.4模型训练50

2.4.1模型训练常见术语50

2.4.2训练数据收集51

2.5可视化分析52

2.5.1可视化分析的作用52

2.5.2可视化分析方法53

2.5.3可视化分析常用工具54

2.5.4常见的可视化图表56

2.5.5可视化分析面临的挑战62

第三章 决策树与分类算法64

3.1决策树算法64

3.1.1分支处理66

3.1.2连续属性离散化72

3.1.3过拟合问题74

3.1.4分类效果评价78

3.2集成学习83

3.2.1装袋法83

3.2.2提升法84

3.2.3GBDT86

3.2.4随机森林87

3.3决策树应用89

第四章 聚类分析95

4.1聚类分析概念95

4.1.1聚类方法分类95

4.1.2良好聚类算法的特征97

4.2聚类分析的度量97

4.2.1外部指标98

4.2.2内部指标99

4.3基于划分的方法101

4.3.1k-均值算法101

4.3.2k-medoids算法106

4.3.3k-prototype算法107

4.4基于密度聚类107

4.4.1DBSCAN算法108

4.4.2OPTICS算法110

4.4.3DENCLUE算法111

4.5基于层次的聚类116

4.5.1BIRCH聚类117

4.5.2CURE算法120

4.6基于网格的聚类122

4.7基于模型的聚类123

4.7.1概率模型聚类123

4.7.2模糊聚类129

4.7.3Kohonen神经网络聚类129

第五章 文本分析137

5.1文本分析介绍137

5.2文本特征提取及表示138

5.2.1TF-IDF138

5.2.2信息增益139

5.2.3互信息139

5.2.4卡方统计量140

5.2.5词嵌入141

5.2.6语言模型142

5.2.7向量空间模型144

5.3知识图谱146

5.3.1知识图谱相关概念147

5.3.2知识图谱的存储147

5.3.3知识图谱挖掘与计算148

5.3.4知识图谱的构建过程150

5.4词法分析155

5.4.1文本分词156

5.4.2命名实体识别159

5.4.3词义消歧160

5.5句法分析161

5.6语义分析163

5.7文本分析应用164

5.7.1文本分类164

5.7.2信息抽取167

5.7.3问答系统168

5.7.4情感分析169

5.7.5自动摘要171

第六章 神经网络173

6.1神经网络介绍173

6.1.1前馈神经网络173

6.1.2反馈神经网络176

6.1.3自组织神经网络179

6.2神经网络相关概念180

6.2.1激活函数180

6.2.2损失函数184

6.2.3学习率185

6.2.4过拟合188

6.2.5模型训练中的问题189

6.2.6神经网络效果评价192

6.3神经网络应用192

第七章 贝叶斯网络197

7.1贝叶斯理论概述197

7.1.1贝叶斯方法的基本观点197

7.1.2贝叶斯网络的应用198

7.2贝叶斯概率基础198

7.2.1概率论198

7.2.2贝叶斯概率199

7.3朴素贝叶斯分类模型200

7.4贝叶斯网络203

7.5贝叶斯网络的应用209

7.5.1中文分词210

7.5.2机器翻译210

7.5.3故障诊断211

7.5.4疾病诊断211

第八章 支持向量机215

8.1支持向量机模型215

8.1.1核函数215

8.1.2模型原理分析216

8.2支持向量机应用219

第九章 进化计算226

9.1遗传算法的基础226

9.1.1基因重组（交叉）与基因突变227

9.1.2遗传算法实现技术228

9.1.3遗传算法案例234

9.2蚁群算法237

9.2.1蚁群算法应用案例238

9.3蜂群算法简介239

9.3.1蜂群算法应用案例241

第十章 分布式机器学习245

10.1分布式机器学习基础245

10.1.1参数服务器245

10.1.2分布式并行计算类型246

10.2分布式机器学习框架247

10.3并行决策树254

10.4并行k-均值算法255

第十一章 深度学习258

11.1卷积神经网络258

11.1.1卷积神经网络的整体结构259

11.1.2常见卷积神经网络262

11.2循环神经网络271

11.2.1RNN基本原理271

11.2.2长短期记忆网络274

11.2.3门限循环单元277

11.3深度学习流行框架278

第十二章 高等级深度学习281

12.1高等级卷积神经网络281

12.1.1目标检测与追踪281

12.1.2目标分割295

12.2高等级循环神经网络应用301

12.2.1Encoder-Decoder模型301

12.2.2注意力模型301

12.2.3LSTM高等级应用302

12.3无监督式深度学习307

12.3.1深度信念网络307

12.3.2自动编码器网络309

12.3.3生成对抗网络模型312

12.4强化学习316

12.4.1增强学习基础316

12.4.2深度增强学习318

12.5迁移学习321

12.6对偶学习324

第十三章 推荐系统327

13.1推荐系统介绍327

13.1.1推荐系统的应用场景327

13.2推荐系统通用模型329

13.2.1推荐系统结构329

13.2.2基于内容的推荐330

13.2.3基于协同过滤的推荐算法331

13.2.4基于图的模型334

13.2.5基于关联规则的推荐335

13.2.6基于知识的推荐341

13.2.7基于标签的推荐342

13.3推荐系统评测343

13.3.1评测方法343

13.3.2评测指标345

13.4推荐系统常见问题349

13.4.1冷启动问题349

13.4.2推荐系统注意事项351

13.5推荐系统实例352

第十四章 实验364

14.1华为FusionInsight产品平台介绍364

14.2银行定期存款业务预测365

14.2.1上传银行客户及存贷款数据366

14.2.2准备存款业务分析工作区367

14.2.3创建数据挖掘流程368

14.2.4定期存款业务模型保存和应用375

14.3客户分群378

14.3.1分析业务需求379

14.3.2上传客户信息数据381

14.3.3准备客户分群工作区382

14.3.4创建数据挖掘流程383

14.3.5客户分群模型保存和应用392