当前位置:首页 > 公开课 > 项目管理 > Hadoop与Spark大数据开发与案例分析高级工程师实战培训班

Hadoop与Spark大数据开发与案例分析高级工程师实战培训班

关注度:500   编号:235256
举办时间:
  • 北京 2018-12-25
  • 杭州 2019-01-15
Hadoop与Spark大数据开发与案例分析高级工程师实战培训班
点击报名 添加到购物车
Hadoop与Spark大数据开发与案例分析高级工程师培训,旨在使学员深入理解Hadoop与Spark技术架构,对Hadoop与Spark运作机制有清晰全面的认识,掌握Hadoop与Spark基本运维思路和方法,全面掌握Hadoop与Spark的架构原理和使用场景,并通过贯穿课程的项目进行实战锻炼。
HadoopSpark大数据开发高级工程师

Hadoop与Spark大数据开发与案例分析高级工程师实...课程特色与背景

    课程目标
    1、了解Hadoop
相关内容导读“Hadoop”
Hadoop与Spark大数据开发与案例分析高级工程师实战培训班  其他 2018/4/18(5天)

Hadoop与Spark大数据开发与案例分析高级工程师培训,旨在使学员深入理解Hadoop与Spark技术架构,对Hadoop与Spark运作机制有清晰全面的认识,掌握Hadoop与Spark基本运维思路和方法,全面掌握Hadoop与Spark的架构原理和使用场景,并通过贯穿课程的项目进行实战锻炼。

Spark
相关内容导读“Spark”
Hadoop与Spark大数据开发与案例分析高级工程师实战培训班  其他 2018/4/18(5天)

Hadoop与Spark大数据开发与案例分析高级工程师培训,旨在使学员深入理解Hadoop与Spark技术架构,对Hadoop与Spark运作机制有清晰全面的认识,掌握Hadoop与Spark基本运维思路和方法,全面掌握Hadoop与Spark的架构原理和使用场景,并通过贯穿课程的项目进行实战锻炼。

大数据实时处理-基于Spark的大数据实时处理及应用技术培训  北京 2018/5/9(3天)

Spark生态系统(BDAS项目)已经发展成一个,包含多个子项目的集合,包括Spark SQL、Spark Streaming、GraphX、MLlib等,基于Spark的大数据实时处理及应用技术课程从大数据实时处理技术以及Spark实战的角度,结合理论和实践,全方位地介绍Spark大数据实时处理工具的原理和内核,包括Spark大数据计算框架、运行架构、设计模型和数据管理策略,及Spark在业界的应用。

基于Python的Spark大数据挖掘技术  北京 2018/6/12(3天)

基于Python的Spark大数据挖掘技术课程,旨在帮助学员学习Python和Spark的相关基础知识,学习Python和Spark的核心技术方法及应用,了解Python和Spark在数据分析中的使用等。

的历史及目前发展的现状、以及Hadoop与Spark的技术特点,从而把握分布式计算框架及未来发展方向,在大数据时代能为企业的技术选型及架构设计提供决策参考。
    2、全面掌握Hadoop与Spark的架构原理和使用场景,并通过贯穿课程的项目进行实战锻炼,从而熟练使用Hadoop进行MapReduce程序开发。课程还涵盖了分布式计算领域的常用算法介绍,帮助学员为企业在利用大数据方面体现自身价值。
    3、深入理解Hadoop与Spark技术架构,对Hadoop与Spark运作机制有清晰全面的认识,可以独立规划及部署生产环境的Hadoop与Spark集群,掌握Hadoop与Spark基本运维思路和方法,对Hadoop与Spark集群进行管理和优化。

课程大纲

培训内容(4天课程)
HADOOP模块
模块一Hadoop在云计算技术的作用和地位
传统大规模系统存在的问题 
Hadoop概述 
Hadoop分布式文件系统   
MapReduce工作原理     
Hadoop集群剖析      
Hadoop生态系统对一种新的解决方案的需求
Hadoop的行业应用案例分析
Hadoop在云计算和大数据的位置和关系
模块二Hadoop生态系统介绍和演示
Hadoop HDFS 和 MapReduce 
Hadoop数据库之HBase 
Hadoop数据仓库之Hive
Hadoop数据处理脚本Pig 
Hadoop数据接口Sqoop和Flume,Scribe DataX 
Hadoop工作流引擎 Oozie
模块三Hadoop组件详解
Hadoop HDFS 基本结构
Hadoop HDFS 副本存放策略
Hadoop NameNode 详解
HadoopSecondaryNameNode 详解 
Hadoop DataNode 详解
Hadoop JobTracker 详解 
Hadoop TaskTracker 详解
模块四Hadoop安装和部署
Hadoop系统模块组件概述
Hadoop试验集群的部署结构
Hadoop 安装依赖关系
Hadoop 生产环境的部署结构
Hadoop集群部署
Hadoop 高可用配置方法
Hadoop 集群简单测试方法 
Hadoop 集群异常Debug方法
模块五Hadoop集群规划
Hadoop 集群内存要求
Hadoop集群磁盘分区
集群和网络拓扑要求
集群软件的端口配置
模块六MapReduce 算法原理
Hadoop MapReduce 算法的原理和优化思想
灵活运用MapReduce 实现算法
模块七编写MapReduce高级程序
使用 Hadoop MapReduce Streaming 编程
MapReduce流程     
剖析一个MapReduce程序 
基本MapReduceAPI概念 
驱动代码 Mapper、Reducer
Hadoop流 
API 使用Eclipse进行快速开发        
新MapReduce API 
MapReduce的优化
MapReduce的任务调度
MapReduce编程实战
如何利用其他Hadoop相关技术,包括Apache Hive, Apache Pig,Sqoop和Oozie等 
满足解决实际数据分析问题的高级Hadoop API 
模块八集成Hadoop到现有工作流 
及Hadoop API深入探讨存储系统 
利用Sqoop从关系型数据库系统中导入数据到Hadoop 
利用Flume导入实时数据到Hadoop 
ToolRunner介绍、使用MRUnit进行测试 
使用Configure和Close方法来进行Map/Reduce设置和关闭 
模块九使用Hive和Pig开发及技巧
Hive和Pig基础       
Hive的作用和原理说明
Hadoop仓库和传统数据仓库的协作关系
Hadoop/Hive仓库数据数据流
Hive 部署和安装
Hive Cli 的基本用法
HQL基本语法
运用Pig 过滤用户数据 
模块十Hbase安装和使用
Hbase 安装部署      
Hbase原理和结构
Hbase 运维和管理
模块十一Hadoop2.0 集群探索
Hadoop2.0 HDFS 原理
Hadoop2.0 Yarn 原理
Hadoop2.0 生态系统
模块十二Hadoop企业级别案例解析
Hadoop 结构化数据案例
Hadoop 非结构化案例
Hbase 数据库案例
Hadoop 视频分析案例
Spark模块
模块一Spark生态介绍 
Mapreduce、storm和spark模型的比较和使用场景介绍 
Spark产生背景 
Spark(内存计算框架) 
SparkSteaming(流式计算框架) 
Spark SQL(ad-hoc) 
Mllib(MachineLearning) 
GraphX(bagel将被代) 
DlinkDB介绍 
SparkR介绍
模块二Spark安装部署 
Spark安装简介 
Spark的源码编译 
Spark Standalone安装 
Spark应用程序部署工具spark-submit 
Spark的高可用性部署
模块三Spark运行架构和解析 
Spark的运行架构
• 基本术语
• 运行架构
• Spark on Standalone运行过程
• Spark on YARN 运行过程
Spark运行实例解析
• Spark on Standalone实例解析
• Spark on YARN实例解析
• 比较 Standalone与YARN模式下的优缺点
模块四Sparkscala编程
• Scala基本语法与高阶语法
• Scala基本语法
• Scala开发环境搭建
• Scala开发Spark应用程序
• 使用java编程
• 使用scala编程
• 使用python编程
模块五Spark编程模型和解析
Spark的编程模型
• Spark编程模型解析
• RDD的特点、操作、依赖关系
• Spark应用程序的配置
Spark的架构
spark的容错机制
数据的本地性
缓存策略介绍
宽依赖与窄依赖
模块六Spark 数据挖掘 
Mllib的介绍 
graphX核心原理 
table operator和graph operator区别 
vertices、edges和triplets介绍 
构建一个graph 
SparkR原理 
SparkR实战
模块七Spark Streaming原理和实践 
Spark Streaming与Strom的区别 
Kafka的部署 
Kafka与Spark Streaming的整合 
Spark Streaming原理
• Spark流式处理架构
• DStream的特点
• Dstream的操作和RDD的区别
• 带状态的transformation与无状态transformation
• Spark Streaming的优化 
Spark Streaming实例
Streaming的容错机制
streaming在yarn模式下的注意事项
对于需结合第三方存储机制的与流式处理方案
• 文本实例
• 网络数据处理
• Kafka+Spark Streaming实现日志的实时分析案例
模块八Spark的优化 
序列化优化——Kryo 
Spark参数优化实战 
Spark 任务的均匀分布策略 
Partition key倾斜的解决方案 
Spark任务的监控 
GC的优化 
Spark Streaming吞吐量优化 
Spark RDD使用内存的优化策略 
Spark在使用中的感想分享
模块九Spark的数据源 
Spark与HDFS的整合 
HDFS RDD原理和实现 
Spark与Hbase的整合 
Spark与Cassendera整合 
Hbase RDD的分区读取 
Hbase RDD的原理和实现 
Spark parallelism RDD的工作机制
模块十Spark Streaming应用及案例分析 
Spark Streaming产生动机 
Spark Streaming程序设计
(1)创建DStream
(2)基于DStream进行流式处理 
Spark Streaming容错与性能优化
(1)Spark Streaming容错机制
(2)如何对spark Streaming进行优化 
Spark Streaming案例分析
基于Spark Streaming的用户标签系统,内容包括项目背景,项目架构以及实施方法
模块十一典型项目案例实战 
基于spark日志分析 
个性化推荐系统:带你揭开其神秘面纱 
在线投放引擎 
揭开淘宝点击推荐系统的神秘面纱 
淘宝数据服务架构—实时计算平台

课程主讲

    张老师:
    阿里大数据高级专家,国内资深的Spark、Hadoop技术专家、虚拟化专家,对HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生态系统中的技术进行了多年的深入的研究,更主要的是这些技术在大量的实际项目中得到广泛的应用,因此在Hadoop开发和运维方面积累了丰富的项目实施经验。近年主要典型的项目有:某电信集团网络优化、中国移动某省移动公司请账单系统和某省移动详单实时查询系统、中国银联大数据数据票据详单平台、某大型银行大数据记录系统、某大型通信运营商全国用户上网记录、某省交通部门违章系统、某区域医疗大数据应用项目、互联网公共数据大云(DAAS)和构建游戏云(Web Game Daas)平台项目等。

课程对象

各地政府,院校云计算物联网产业相关负责人,各类 IT/软件企业和研发机构的软件架构师、软件设计师、程序员、技术总监、数据挖掘负责人、数据挖掘开发工程师等
备  注
课程费用:6800元/人(含教材、培训费、考证费以及学习用具等费用) 食宿统一安排,费用自理。
关注本课程网友还浏览了大数据分析应用培训专题

推荐课程
项目管理相关课程
相关专题推荐
相关文档下载
相关文章
  • 如何报名参加公开课?
  • 报名流程一:
  • 电话咨询、传真报名表 -> 书面确认并缴费 -> 参加培训 (下载报名表)
  • 报名流程二:
  • 网上填写报名表 -> 书面确认并缴费 -> 参加培训
  • 咨询热线:
  • 深圳 0755-26063246   26063236
  • 上海 021-51879301    北京 18910826048、010-51651498
  • 报名传真:
  • 深圳 0755-61624059    上海 021-51686940    北京 010-58043505
  • 电子邮件:
  • kf#cnbm.net.cn    fy1288#vip.163.com(发邮件时请将#改为@)
课程主题:
Hadoop与Spark大数据开发与案例分析高级工程师实战培训班
课程编号:235256 
*开课计划:
  • 北京 2018-12-25
  • 杭州 2019-01-15
*姓  名:
*性  别:  
*职务:
*部门:
*电话:
*手机:
传真:
*E-Mail:
*参加人数:
其他人员:
   
   
   
   
   
   
   
*单位名称:
通信地址:
备注:
(如多人报名、需代订酒店等补充信息请填写到备注栏)
*验证码:
  看不清?点一下验证码换一组
 
(* 为必填项)
   
暂无评论,快来添加一条!
点击这里提交你的留言