HadoopMapReduce性能优化
- 资料大王PDF
-
0 次阅读
-
0 次下载
-
2024-09-08 00:29:19
微信
赏
支付宝
文档简介:
目
录
封面
扉页
版权
内容提要
译者序
译者简介
前言
致谢
作者简介
技术审稿人简介
第1章 了解Hadoop MapReduce
1.1 MapReduce模型
1.2 Hadoop MapReduce概述
1.3 Hadoop MapReduce的工作原理
1.4 影响MapReduce性能的因素
1.5 小结
第2章 Hadoop参数概述
2.1 研究Hadoop参数
2.1.1 配置文件mapred-site.xml
2.1.2 配置文件hdfs-site.xml
2.1.3 配置文件core-site.xml
2.2 Hadoop MapReduce性能指标
2.3 性能监测工具
2.3.1 用Chukwa监测Hadoop
2.3.2 使用Ganglia监测Hadoop
2.3.3 使用Nagios监测Hadoop
2.4 用Apache Ambari监测Hadoop
2.5 小结
第3章 检测系统瓶颈
3.1 性能调优
3.2 创建性能基线
3.3 识别资源瓶颈
3.3.1 识别内存瓶颈
3.3.2 识别CPU瓶颈
3.3.3 识别存储瓶颈
3.3.4 识别网络带宽瓶颈
3.4 小结
第4章 识别资源薄弱环节
4.1 识别集群薄弱环节
4.1.1 检查Hadoop集群节点的健康状况
4.1.2 检查输入数据大小
4.1.3 检查海量I/O和网络阻塞
4.1.4 检查并发任务不足
4.1.5 检查CPU过饱和
4.2 量化Hadoop集群
4.3 正确配置集群
4.4 小结
第5章 强化map和reduce任务
5.1 强化map任务
5.1.1 输入数据和块大小的影响
5.1.2 处置小文件和不可拆分文件
5.1.3 在Map阶段压缩溢写记录
5.1.4 计算map任务的吞吐量
5.2 强化reduce任务
5.2.1 计算reduce任务的吞吐量
5.2.2 改善Reduce执行阶段
5.3 调优map和reduce参数
5.4 小结
第6章 优化MapReduce任务
6.1 使用Combiner
6.2 使用压缩技术
6.3 使用正确Writable类型
6.4 明智地复用类型
6.5 优化mapper和reducer的代码
6.6 小结
第7章 最佳实践与建议
7.1 硬件调优与操作系统推荐
7.1.1 Hadoop集群检查表
7.1.2 Bios调优检查表
7.1.3 OS配置建议
7.2 Hadoop最佳实践与建议
7.2.1 部署Hadoop
7.2.2 Hadoop调优建议
7.2.3 使用MapRe......
评论
发表评论