统计学习方法

目 录 前言 符号表 第1章 统计学习方法概论 1.1 统计学习 1.2 监督学习 1.2.1 基本概念 1.2.2 问题的形式化 1.3 统计学习三要素 1.3.1 模型 1.3.2 策略 1.3.3 算法 1.4 模型评估与模型选择 1.4.1 训练误差与测试误差 1.4.2 过拟合与模型选择 1.5 正则化与交叉验证 1.5.1 正则化 1.5.2 交叉验证 1.6 泛化能力 1.6.1 泛化误差 1.6.2 泛化误差上界 1.7 生成模型与判别模型 1.8 分类问题 1.9 标注问题 1.10 回归问题 本章概要 继续阅读 习题 参考文献 第2章 感知机 2.1 感知机模型 2.2 感知机学习策略 2.2.1 数据集的线性可分性 2.2.2 感知机学习策略 2.3 感知机学习算法 2.3.1 感知机学习算法的原始形式 2.3.2 算法的收敛性 2.3.3 感知机学习算法的对偶形式 本章概要 继续阅读 习题 参考文献 第3章 k近邻法 3.1 k近邻算法 3.2 k近邻模型 3.2.1 模型 3.2.2 距离度量 3.2.3 k值的选择 3.2.4 分类决策规则 3.3 k近邻法的实现：kd树 3.3.1 构造kd树 3.3.2 搜索kd树 本章概要 继续阅读 习题 参考文献 第4章 朴素贝叶斯法 4.1 朴素贝叶斯法的学习与分类 4.1.1 基本方法 4.1.2 后验概率最大化的含义 4.2 朴素贝叶斯法的参数估计 4.2.1 极大似然估计 4.2.2 学习与分类算法 4.2.3 贝叶斯估计 本章概要 继续阅读 习题 参考文献 第5章 决策树 5.1 决策树模型与学习 5.1.1 决策树模型 5.1.2 决策树与if-then规则 5.1.3 决策树与条件概率分布 5.1.4 决策树学习 5.2 特征选择 5.2.1 特征选择问题 5.2.2 信息增益 5.2.3 信息增益比 5.3 决策树的生成 5.3.1 ID3算法 5.3.2 C4.5的生成算法 5.4 决策树的剪枝 5.5 CART算法 5.5.1 CART生成 5.5.2 CART剪枝 本章概要 继续阅读 习题 参考文献 第6章 逻辑斯谛回归与最大熵模型 6.1 逻辑斯谛回归模型 6.1.1 逻辑斯谛分布 6.1.2 二项逻辑斯谛回归模型 6.1.3 模型参数估计 6.1.4 多项逻辑斯谛回归 6.2 最大熵模型 6.2.1 最大熵原理 6.2.2 最大熵模型的定义 6.2.3 最大熵模型的学习 6.2.4 极大似然......