目录

扫一扫

源码下载

扫一扫

AI助教

第一部分基 础 理 论

第1章绪论

1.1基本概念

1.1.1核心要素

1.1.2机器学习分类

1.1.3应用领域

1.2发展历程

1.2.1萌芽与发展初期

1.2.2关键理论与技术的突破期

1.2.3深度学习爆发期

1.2.4未来展望

1.3重要性和挑战

1.3.1机器学习的重要性

1.3.2机器学习的挑战

1.4外延阅读材料

1.4.1机器学习参考书

1.4.2深度学习参考书

1.4.3学术论文与综述文章

1.4.4在线课程与视频教程

1.4.5大语言模型

第2章基本术语及程序运行环境

2.1核心术语的直观理解

2.2核心术语的专业定义

2.3程序环境安装及配置

2.3.1Anaconda安装

2.3.2环境配置

2.3.3Python库安装

2.4集成开发环境

2.4.1VSCode安装和配置

2.4.2PyCharm安装和配置

2.5免费在线开发资源

2.5.1Kaggle

2.5.2阿里天池

2.5.3AWS SageMaker Studio(基础版)

2.5.4选择与使用建议

2.6实践练习

2.6.1NumPy练习

2.6.2Pandas练习

2.6.3Matplotlib练习

2.6.4scikitlearn练习

2.6.5综合练习

第3章模型评估

3.1分类问题评估指标

3.1.1基本术语定义

3.1.2准确率

3.1.3精确率与召回率

3.1.4F1分数

3.1.5混淆矩阵

3.2回归问题评估指标

3.2.1均方误差

3.2.2均方根误差

3.2.3平均绝对误差

3.2.4R2

3.3性能度量方法

3.3.1留出法

3.3.2K折交叉验证

3.3.3留一法交叉验证

3.3.4自助法

3.3.5交叉验证示例

3.3.6超参数调优方法

3.3.7超参数调优示例

3.3.8模型对比与选择

3.4实践练习

3.4.1示例1： 评估指标计算

3.4.2示例2： 模型调优

第二部分经 典 方 法

第4章线性模型

4.1房价问题

4.1.1问题提出

4.1.2基本概念与应用

4.1.3房价计算

4.2简单线性模型

4.2.1问题设定

4.2.2斜率的推导

4.2.3截距项的推导

4.3多元线性模型

4.3.1基本概念与应用

4.3.2多元房价问题

4.3.3一般形式说明

4.4逻辑回归模型

4.4.1问题提出

4.4.2成绩问题

4.4.3问题求解

4.4.4一般形式说明

4.4.5牛顿法求解

4.4.6逻辑回归的应用与总结

4.5线性判别分析

4.5.1录取预测问题

4.5.2LDA应用求解

4.5.3一般形式说明

4.6线性模型中的正则化

4.6.1问题提出

4.6.2正则化引入

4.6.3求解过程

4.6.4一般形式说明

4.6.5直观认识

4.7实践练习

4.7.1示例1： 有无正则化对比

4.7.2示例2： 房价预测

4.8补充知识

4.8.1矩阵逆、行列式和伴随矩阵

4.8.2最小二乘法原理及其应用

4.8.3矩阵求导及其应用

4.8.4残差及其应用

4.8.5梯度

4.8.6牛顿法的基础数学知识

4.8.7协方差矩阵

4.8.8广义特征值问题

第5章决策树

5.1活动计划问题

5.1.1周末计划问题

5.1.2活动决策树的构建

5.2决策树构建

5.2.1数据集纯度的概念

5.2.2信息熵： 衡量不确定性

5.2.3信息增益： 减少不确定性

5.2.4基尼指数： 衡量不纯度

5.2.5信息增益和基尼指数计算

5.3剪枝操作

5.3.1剪枝的必要性

5.3.2预剪枝

5.3.3后剪枝

5.4连续属性与缺失值处理

5.4.1连续属性的节点划分

5.4.2缺失值的处理方法

5.5实践练习

5.5.1示例1： 鸢尾花分类问题

5.5.2示例2： 加利福尼亚房价预测问题

5.5.3示例3： 特征空间的划分

第6章支持向量机

6.1水果分类问题

6.2SVM基本概念

6.2.1SVM的目标

6.2.2间隔

6.2.3硬间隔

6.2.4软间隔

6.2.5核函数

6.2.6支持向量

6.2.7对偶问题

6.3硬间隔SVM

6.3.1基础概念

6.3.2硬间隔SVM优化目标

6.4凸优化直接求解

6.4.1梯度下降法

6.4.2牛顿法

6.4.3内点法

6.5对偶问题求解

6.5.1原问题到对偶问题

6.5.2KKT条件

6.6SMO算法求解对偶问题

6.7软间隔SVM

6.8SVM直观理解

6.8.1点到超平面的距离

6.8.2平行超平面之间的距离

6.8.3点沿某维度到超平面的距离

6.9软间隔SVM求解

6.10支持向量回归

6.10.1SVR原始问题

6.10.2SVR对偶问题

6.10.3对偶问题求解

6.11核函数

6.11.1核函数的定义

6.11.2常用的核函数

6.11.3核函数的选择

6.12核技巧

6.12.1核技巧直观理解

6.12.2高斯径向基核函数理解

6.13实践练习

6.13.1示例1： 支持向量可视化

6.13.2示例2： 不同γ值高斯径向基核函数可视化

6.13.3示例3： 手写数字识别

6.14补充知识

6.14.1向量求导基础

6.14.2向量范式基础知识

6.14.3拉格朗日求解方法

6.14.4凸优化问题

6.14.5KKT条件

6.14.6张量积

第7章贝叶斯模型

7.1信件问题

7.2贝叶斯公式

7.2.1贝叶斯决策论

7.2.2贝叶斯公式推导

7.2.3贝叶斯决策规则

7.30/1损失最优贝叶斯

7.3.1最优贝叶斯分类器

7.3.2后验概率直接计算的挑战

7.3.3贝叶斯定理引入

7.3.4贝叶斯定理引入的问题

7.3.5相关解决方案

7.4朴素贝叶斯方法

7.4.1邮件分类问题

7.4.2直接计算的挑战

7.4.3朴素贝叶斯假设

7.4.4朴素贝叶斯解决邮件分类

7.4.5朴素贝叶斯一般形式

7.5参数估计

7.5.1离散特征参数估计

7.5.2连续特征

7.6半朴素贝叶斯

7.6.1半朴素贝叶斯的基本思想

7.6.2依赖关系引入

7.6.3SPODE半朴素贝叶斯分类器

7.6.4AODE半朴素贝叶斯分类器

7.6.5TAN半朴素贝叶斯分类器

7.7实践练习

7.7.1示例1： 电子邮件分类

7.7.2示例2： 疾病诊断

7.7.3示例3： 半朴素贝叶斯

7.8补充知识

7.8.1概率论的基础概念

7.8.2拉普拉斯平滑

7.8.3最大似然估计正态分布的参数

第8章聚类

8.1照片分类问题

8.2聚类性能度量

8.2.1内部指标

8.2.2外部指标

8.2.3可视化辅助度量

8.2.4综合评价

8.2.5性能度量小结

8.3聚类中的距离度量

8.3.1欧氏距离

8.3.2曼哈顿距离

8.3.3闵可夫斯基距离

8.3.4余弦相似度

8.3.5马氏距离

8.3.6汉明距离

8.3.7杰卡德距离

8.3.8编辑距离

8.3.9小结

8.4原型聚类

8.4.1原型聚类的基本思想

8.4.2KMeans

8.4.3KMeans++

8.4.4模糊C均值聚类

8.4.5高斯混合模型

8.5密度聚类

8.5.1密度聚类的基本概念

8.5.2DBSCAN算法

8.5.3OPTICS算法

8.6分层聚类

8.6.1分层聚类的基本概念

8.6.2凝聚层次聚类

8.6.3分裂层次聚类

8.7实践练习

8.7.1示例1： 基于KMeans的客户分群

8.7.2示例2： 基于DBSCAN的异常检测

8.7.3示例3： 基于凝聚层次聚类的文档分类

8.7.4示例4： 照片分类

第9章数据降维

9.1水果营养分析问题

9.1.1从故事到原理

9.1.2水果降维

9.2主成分分析

9.2.1PCA目标函数

9.2.2PCA拉格朗日求解

9.3PCA核心要素直观理解

9.3.1特征值分解理解

9.3.2特征向量可视化

9.4核化线性降维

9.4.1PCA的局限性

9.4.2核化线性降维

9.4.3核化PCA

9.4.4核化PCA实例

9.5线性判别分析降维

9.6实践练习

9.6.1示例1： PCA降维

9.6.2示例2： LDA在鸢尾花数据集上的应用

9.6.3示例3： 核化PCA在Iris数据集上的应用

9.7补充知识

9.7.1协方差矩阵

9.7.2特征值和特征向量

9.7.3协方差矩阵

9.7.4矩阵特征分解

9.7.5协方差矩阵特征值的加权平均

第10章集成学习

10.1竞赛问题

10.1.1竞赛策略问题

10.1.2集成学习的核心思想

10.1.3Bagging： 独立训练，集体决策

10.1.4Boosting： 相互补强，构建更强预测力

10.1.5Stacking： 多元视角，统一判断

10.2集成学习策略及经典实现

10.2.1Bagging和随机森林

10.2.2Boosting和AdaBoost模型

10.2.3Stacking和元模型整合

10.3集成学习数学描述

10.3.1随机森林回归的数学描述

10.3.2AdaBoost 的数学描述

10.3.3Stacking模型的数学描述

10.4实践练习

10.4.1示例1： 鸢尾花二分类

10.4.2示例2： 房价预测

10.4.3示例3： 集成学习方法对比

10.5补充知识

第三部分进 阶 应 用

第11章特征选择

11.1图像分类问题

11.2过滤法

11.2.1皮尔逊相关系数

11.2.2互信息

11.2.3卡方检验

11.3包裹法

11.3.1递归特征消除

11.3.2前向选择

11.3.3后向消除

11.4嵌入法

11.4.1L1 正则化

11.4.2决策树及其变体

11.5实践练习

11.5.1示例1： 乳腺癌分类

11.5.2示例2： 各类特征选择方法对比

11.5.3示例3： 泰坦尼克号生存预测

第12章大语言模型赋能机器学习综合案例

12.1大语言模型介绍

12.1.1大语言模型的核心定义与核心特性

12.1.2当前主流大语言模型介绍

12.1.3大语言模型在机器学习中的赋能价值

12.2核心案例：  基于大语言模型的学生行为与学业成绩预测

12.2.1任务一：  预测学生周末饮酒量（大语言模型分步赋能）

12.2.2任务二：  预测学生期末总成绩（大语言模型整体赋能）

12.3大语言模型辅助编程建议

12.3.1提示词设计规范（适配机器学习场景）

12.3.2实操技巧与避坑指南

12.3.3不同任务的大语言模型使用策略

12.3.4技术提示 

12.4习题与实操任务

12.4.1理论习题

12.4.2实操任务

12.4.3拓展任务

参考文献