一、培訓(xùn)簡述
通過此次課程培訓(xùn)，可使學(xué)習(xí)者獲得如下收益：
1.深刻理解在“互聯(lián)網(wǎng)+”時代下大數(shù)據(jù)的產(chǎn)生背景、發(fā)展歷程和演化趨勢；
2.了解業(yè)界市場需求和國內(nèi)外最新的大數(shù)據(jù)技術(shù)潮流，洞察大數(shù)據(jù)的潛在價值；
3.理解大數(shù)據(jù)項目解決方案及業(yè)界大數(shù)據(jù)應(yīng)用案例，從而為企業(yè)在大數(shù)據(jù)項目中的技術(shù)選型及技術(shù)架構(gòu)設(shè)計提供決策參考；
4.掌握業(yè)界最流行的Hadoop與Spark大數(shù)據(jù)技術(shù)體系；
5.掌握大數(shù)據(jù)采集技術(shù)；
6.掌握大數(shù)據(jù)分布式存儲技術(shù)；
7.掌握NoSQL與NewSQL分布式數(shù)據(jù)庫技術(shù)；
8.掌握大數(shù)據(jù)倉庫與統(tǒng)計機器學(xué)習(xí)技術(shù)；
9.掌握大數(shù)據(jù)分析挖掘與商業(yè)智能（BI）技術(shù)；
10.掌握大數(shù)據(jù)離線處理技術(shù)；
11.掌握Storm流式大數(shù)據(jù)處理技術(shù)；
12.掌握基于內(nèi)存計算的大數(shù)據(jù)實時處理技術(shù)；
13.掌握大數(shù)據(jù)管理技術(shù)的原理知識和應(yīng)用實戰(zhàn)；
14.深入理解大數(shù)據(jù)平臺技術(shù)架構(gòu)和使用場景；
15.嫻熟運用Hadoop與Spark大數(shù)據(jù)技術(shù)體系規(guī)劃解決方案滿足實際項目需求；
16.熟練地掌握基于Hadoop與Spark大數(shù)據(jù)平臺進行應(yīng)用程序開發(fā)、集群運維管理和性能調(diào)優(yōu)技巧。

二、培訓(xùn)特色
1.課程培訓(xùn)業(yè)界最流行、應(yīng)用最廣泛的Hadoop與Spark大數(shù)據(jù)技術(shù)體系。強化大數(shù)據(jù)平臺的分布式集群架構(gòu)和核心關(guān)鍵技術(shù)實現(xiàn)、大數(shù)據(jù)應(yīng)用項目開發(fā)和大數(shù)據(jù)集群運維實踐、以及Hadoop與Spark大數(shù)據(jù)項目應(yīng)用開發(fā)與調(diào)優(yōu)的全過程沙盤模擬實戰(zhàn)。
2.通過一個完整的大數(shù)據(jù)開發(fā)項目及一組實際項目訓(xùn)練案例，完全覆蓋Hadoop與Spark生態(tài)系統(tǒng)平臺的應(yīng)用開發(fā)與運維實踐。課堂實踐項目以項目小組的形式進行沙盤實操練習(xí)，重點強化理解Hadoop與Spark大數(shù)據(jù)項目各個階段的工作重點，同時掌握作為大數(shù)據(jù)項目管理者的基本技術(shù)與業(yè)務(wù)素養(yǎng)。
3.本課程的授課師資都是有著多年在一線從事Hadoop與Spark大數(shù)據(jù)項目的資深講師，采用原理技術(shù)剖析和實戰(zhàn)案例相結(jié)合的方式開展互動教學(xué)、強化以建立大數(shù)據(jù)項目解決方案為主體的應(yīng)用開發(fā)、技術(shù)討論與交流咨詢，在學(xué)習(xí)的同時促進講師學(xué)員之間的交流，讓每個學(xué)員都能在課程培訓(xùn)過程中學(xué)到實實在在的大數(shù)據(jù)技術(shù)知識體系，以及大數(shù)據(jù)技術(shù)應(yīng)用實戰(zhàn)技能，具備實際大數(shù)據(jù)應(yīng)用項目的動手開發(fā)實踐與運維管理部署能力。授課過程中，根據(jù)學(xué)員需求，增設(shè)交流環(huán)節(jié)，可將具體工作中遇到的實際問題展開討論，講師會根據(jù)學(xué)員的實際情況微調(diào)授課內(nèi)容，由講師帶著全部學(xué)員積極討論，并給出一定的時間讓學(xué)員上臺發(fā)言，現(xiàn)場剖析問題的癥結(jié)，規(guī)劃出可行的解決方案。

三、培訓(xùn)收益
掌握基于大數(shù)據(jù)的體系架構(gòu)、管理、部署，以及相應(yīng)組件的原理和應(yīng)用場景。
讓學(xué)員具備部署基于企業(yè)大數(shù)據(jù)平臺環(huán)境的能力。
四、培訓(xùn)時長
共計5天，每天6課時

五、培訓(xùn)大綱

	培訓(xùn)模塊	培訓(xùn)內(nèi)容
第一單元	大數(shù)據(jù)技術(shù)基礎(chǔ)	大數(shù)據(jù)的產(chǎn)生背景與發(fā)展歷程 大數(shù)據(jù)的4V特征，以及與云計算的關(guān)系 大數(shù)據(jù)應(yīng)用需求以及潛在價值分析 業(yè)界最新的大數(shù)據(jù)技術(shù)發(fā)展態(tài)勢與應(yīng)用趨勢 大數(shù)據(jù)思維的轉(zhuǎn)變 大數(shù)據(jù)項目的系統(tǒng)與技術(shù)選型，及落地實施的挑戰(zhàn) “互聯(lián)網(wǎng)+”時代下的電子商務(wù)、制造業(yè)、交通行業(yè)、電信運營商、銀行金融業(yè)、電子政務(wù)、移動互聯(lián)網(wǎng)、教育信息化等行業(yè)應(yīng)用實踐與應(yīng)用案例介紹
	業(yè)界主流的大數(shù)據(jù)技術(shù)方案	大數(shù)據(jù)軟硬件系統(tǒng)全棧與關(guān)鍵技術(shù)介紹 大數(shù)據(jù)生態(tài)系統(tǒng)全景圖 主流的大數(shù)據(jù)解決方案介紹 Apache大數(shù)據(jù)平臺方案剖析 CDH大數(shù)據(jù)平臺方案剖析 HDP大數(shù)據(jù)平臺方案剖析 基于云的大數(shù)據(jù)平臺方案剖析 大數(shù)據(jù)解決方案與傳統(tǒng)數(shù)據(jù)庫方案比較 國內(nèi)外大數(shù)據(jù)平臺方案與廠商對比
	大數(shù)據(jù)計算模型（一）——批處理MapReduce	MapReduce產(chǎn)生背景與適用場景 MapReduce計算模型的基本原理 MapReduce作業(yè)執(zhí)行流程 MapReduce基本組件，JobTracker和TaskTracker MapReduce高級編程應(yīng)用，Combiner和Partitioner MapReduce性能優(yōu)化技巧 MapReduce案例分析與開發(fā)實踐操作
第二單元	大數(shù)據(jù)存儲系統(tǒng)與應(yīng)用實踐	分布式文件系統(tǒng)HDFS產(chǎn)生背景與適用場景 HDFS master-slave系統(tǒng)架構(gòu)與讀寫工作原理 HDFS核心組件技術(shù)講解，NameNode與fsimage、editslog，DataNode與數(shù)據(jù)塊 HDFS Federation機制，viewfs機制，使用場景講解 HDFS高可用保證機制，SecondaryNameNode，NFS冷備份，基于zookeeper的HA方案
	大數(shù)據(jù)實戰(zhàn)練習(xí)一	1. Hadoop平臺搭建、部署與應(yīng)用實踐，包含HDFS分布式文件系統(tǒng)，YARN資源管理軟件，MapReduce計算框架軟件 2. HDFS shell命令操作 3. MapReduce程序在YARN上運行
第三單元	Hadoop框架與生態(tài)發(fā)展，以及應(yīng)用實踐操作	Hadoop的發(fā)展歷程 Hadoop 1.0的核心組件JobTracker，TaskTracker，以及適用范圍 Hadoop 2.0的核心組件YARN工作原理，以及與Hadoop 1.0的聯(lián)系與區(qū)別 Hadoop YARN的資源管理與作業(yè)調(diào)度機制 Hadoop 常用性能優(yōu)化技術(shù)
	大數(shù)據(jù)計算模型（二）——實時處理/內(nèi)存計算 Spark	MapReduce計算模型的瓶頸 Spark產(chǎn)生動機、基本概念與適用場景 Spark編程模型與RDD彈性分布式數(shù)據(jù)集的工作原理與機制 Spark實時處理平臺運行架構(gòu)與核心組件 Spark寬、窄依賴關(guān)系與DAG圖分析 Spark容錯機制 Spark作業(yè)調(diào)度機制 Spark standardalone，Spark on YARN運行模式 Scala開發(fā)介紹與Spark常用Transformation函數(shù)介紹
第四單元	大數(shù)據(jù)倉庫查詢技術(shù)Hive、SparkSQL、Impala，以及應(yīng)用實踐	基于MapReduce的大型分布式數(shù)據(jù)倉庫Hive基礎(chǔ)知識與應(yīng)用場景 Hive數(shù)據(jù)倉庫的平臺架構(gòu)與核心技術(shù)剖析 Hive metastore的工作機制與應(yīng)用 Hive 分區(qū)、分桶機制，Hive行、列存儲格式 基于Spark的大型分布式數(shù)據(jù)倉庫SparkSQL基礎(chǔ)知識與應(yīng)用場景 Spark SQL實時數(shù)據(jù)倉庫的實現(xiàn)原理與工作機制 SparkSQL程序開發(fā)與DataFrame機制介紹 基于MPP的大型分布式數(shù)據(jù)倉庫Impala基礎(chǔ)知識與應(yīng)用場景 Impala實時查詢系統(tǒng)平臺架構(gòu)、關(guān)鍵技術(shù)介紹，以及與Hive，SparkSQL的對比
	Hadoop集群運維監(jiān)控工具	1.Hadoop運維管理監(jiān)控系統(tǒng)Ambari工具介紹 2.第三方運維系統(tǒng)與工具Ganglia, Nagios
	大數(shù)據(jù)實戰(zhàn)練習(xí)二	1.基于 Hadoop平臺搭建、部署與配置Spark集群，Spark shell環(huán)境實踐，Spark案例程序分析，Spark程序開發(fā)與運行 2. 基于MapReduce的Hive數(shù)據(jù)倉庫實踐，Hive集群安裝部署，基于文件的Hive數(shù)據(jù)倉庫表導(dǎo)入導(dǎo)出與分區(qū)操作，Hive SQL操作，Hive客戶端操作 3. 基于Hive的SparkSQL shell實踐操作
第五單元	大數(shù)據(jù)計算模型（三）——流處理Storm, SparkStreaming	流數(shù)據(jù)處理應(yīng)用場景與流數(shù)據(jù)處理的特點 流數(shù)據(jù)處理工具Storm的平臺架構(gòu)與集群工作原理 Storm關(guān)鍵技術(shù)與并發(fā)機制 Storm編程模型與基本開發(fā)模式 Storm數(shù)據(jù)流分組 Storm可靠性保證與Acker機制 Storm應(yīng)用案例分析 流數(shù)據(jù)處理工具Spark Streaming基本概念與數(shù)據(jù)模型 SparkStreaming工作機制 SparkStreaming程序開發(fā)介紹 Storm與SparkStreaming的對比
第六單元	大數(shù)據(jù)ETL操作工具，與大數(shù)據(jù)分布式采集系統(tǒng)	Hadoop與DBMS之間數(shù)據(jù)交互工具的應(yīng)用 Sqoop導(dǎo)入導(dǎo)出數(shù)據(jù)的工作原理 Flume-NG數(shù)據(jù)采集系統(tǒng)的數(shù)據(jù)流模型與系統(tǒng)架構(gòu) Kafka分布式消息訂閱系統(tǒng)的應(yīng)用介紹與平臺架構(gòu)，及其使用模式
	面向OLTP型應(yīng)用的NoSQL數(shù)據(jù)庫及應(yīng)用實踐	關(guān)系型數(shù)據(jù)庫瓶頸，以及NoSQL數(shù)據(jù)庫的發(fā)展，概念，分類，及其在半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)場景下的適用范圍 列存儲NoSQL數(shù)據(jù)庫HBase簡介與數(shù)據(jù)模型剖析 HBase分布式集群系統(tǒng)架構(gòu)與讀寫機制，ZooKeeper分布式協(xié)調(diào)服務(wù)系統(tǒng)的工作原理與應(yīng)用 HBase表設(shè)計模式與primary key設(shè)計規(guī)范 文檔NoSQL數(shù)據(jù)庫MongoDB簡介與數(shù)據(jù)模型剖析 MongoDB集群模式、讀寫機制與常用API操作 值型NoSQL數(shù)據(jù)庫Redis簡介與數(shù)據(jù)模型剖析 Redis多實例集群架構(gòu)與關(guān)鍵技術(shù) NewSQL數(shù)據(jù)庫技術(shù)簡介及其適用場景
	大數(shù)據(jù)實戰(zhàn)練習(xí)三	1.Sqoop安裝、部署與配置，基于Sqoop、MySQL與Hive操作MySQL數(shù)據(jù)庫與Hive數(shù)據(jù)倉庫數(shù)據(jù)導(dǎo)入導(dǎo)出 2.Kafka安裝、部署與配置，基于Kafka創(chuàng)建和消費topic實踐操作 3.Flume+HDFS+MapReduce/Spark大數(shù)據(jù)采集、存儲與分析實踐操作
	大數(shù)據(jù)項目選型、實施、優(yōu)化等問題交流討論	大數(shù)據(jù)項目的需求分析、應(yīng)用實施、系統(tǒng)優(yōu)化，以及解決方案等咨詢與交流討論 大數(shù)據(jù)在銀行業(yè)方面的應(yīng)用及展望。
學(xué)習(xí)考核與業(yè)內(nèi)經(jīng)驗交流

 
（注：大綱還可根據(jù)需求進行調(diào)整）
 
師資簡介
趙老師
清華大學(xué)計算機雙學(xué)士，大數(shù)據(jù)、數(shù)據(jù)庫、中間件技術(shù)和Java專家。15年IT行業(yè)從業(yè)經(jīng)歷，10年培訓(xùn)授課經(jīng)驗。
 
工作經(jīng)歷：
2007.05 ～現(xiàn)在 BEA系統(tǒng)(中國)有限公司、甲骨文(中國)軟件系統(tǒng)有限公司
擔(dān)任全球支持中心高級技術(shù)顧問
2005.11 ～ 2007.05    北電網(wǎng)絡(luò)(中國)有限公司【北京研發(fā)中心】 高級軟件架構(gòu)師
2004.1 ～ 2005.10 Motorola(中國)有限公司【北京研發(fā)中心】高級軟件工程師
2003.1 ～ 2003.12 億陽增值業(yè)務(wù)通信股份有限公司，售前工程師、軟件工程師
2002.7 ～ 2002.10 IBM CRL （IBM中國研究中心）— 電子商務(wù)組 Intern 
 
培訓(xùn)經(jīng)歷：

• 深圳移動   Hadoop大數(shù)據(jù)管理培訓(xùn)
• 湖北移動   Hadoop大數(shù)據(jù)（CCAH）管理培訓(xùn)
• 成都運達科技股份有限公司  Oracle 11g數(shù)據(jù)庫性能優(yōu)化
• 中石油  Oracle 11g高級管理與性能優(yōu)化
• AutoDesk（上海）有限公司      NoSQL數(shù)據(jù)庫管理與開發(fā)
• 北京市公安局   Oracle 11g數(shù)據(jù)庫開發(fā)SQL與PLSQL
• 中國人壽保險（集團）公司  Oracle 11g數(shù)據(jù)庫開發(fā)與管理
• 中國電信   Hadoop原理與實踐
• 上海中遠國際貨運有限公司      Oracle 11g數(shù)據(jù)庫管理與優(yōu)化
• 中國移動通信集團云南有限公司  Weblogic 11g系統(tǒng)管理
• 山東省教育網(wǎng)   J2EE應(yīng)用開發(fā)技術(shù)框架與實踐
• 北京交通大學(xué)軟件學(xué)院   Hadoop原理與實踐
• 北京交通大學(xué)軟件學(xué)院   Oracle 11g數(shù)據(jù)庫開發(fā)與管理
• 中國鐵道科學(xué)研究院     Weblogic 11g系統(tǒng)管理