
参考尚硅谷Hadoop公开课教程
1 大数据概念
对于“大数据”(Big data)研究机构Gartner给出了定义,“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
大数据技术
的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。换言之,如果把大数据
比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。
从技术上看,大数据与云计算
的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理,必须采用分布式架构
。它的特色在于对海量数据进行分布式数据挖掘,但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。
随着云时代
的来临,大数据(Big data)也吸引了越来越多的关注。《著云台
》的分析师团队认为,大数据(Big data)通常用来形容一个公司创造的大量非结构化数据和半结构化数据,
这些数据在下载到关系型数据库
用于分析时会花费过多时间和金钱。大数据分析
常和云计算联系到一起,因为实时的大型数据集
分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。
大数据需要特殊的技术,以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术,包括大规模并行处理(MPP)数据库、数据挖掘电网、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统
。
最小的基本单位是bit,按顺序给出所有单位:bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB,它们按照进率
1024(2的十次方)来计算:
8bit= 1Byte
1KB= 1,024 Bytes
1MB= 1,024 KB = 1,048,576 Bytes
1GB= 1,024 MB = 1,048,576 KB
1TB= 1,024 GB = 1,048,576 MB
1PB= 1,024 TB = 1,048,576 GB
1EB= 1,024 PB = 1,048,576 TB
1ZB= 1,024 EB = 1,048,576 PB
1YB= 1,024 ZB = 1,048,576 EB
1BB= 1,024 YB = 1,048,576 ZB
1NB= 1,024 BB = 1,048,576 YB
1 DB = 1,024 NB = 1,048,576 BB
2 大数据特点(4V)
印刷材料的数据量是200PB,而历史上全人类总共
说过的话的数据量大约是5EB。当前,典型个人计算机硬盘的容量为TB量级,而一些
大企业的数据量已经接近EB量级。

预计到2020年,全球数据使用量将达到35.2ZB。在如此海量的数据面前,处理数据的效率就是企业的生命。
天猫双十一: 2017年3分01秒,天猫交易额超过100亿。

以数据库/文本为主的结构化数据,非结构化数据越来越多,包括网络日志、音频、视频、图片、地理位置信息等,这些多类型的数据对数据的处理能力提出了更高要求。

如何快速对有价值数据"提纯”成为目前大数据背景下待解决的难题。
1、物流仓储, 大数据分析系统助力商家精西细化运营, 提升销量节约成本。

经典案例,子尿布+啤酒。




4 大数据发展前景
1、党的十八大提出"
实施国家大数据战略”,国务院印发《促进大数据发展行动纲要》,大数据技术和应用处于创新突破期,国内市场需求处于爆发期,我国大数据产业面临重要的发展机遇。
推动互联网、大数据、人工智能和实体经济深度融合"

只有46万,未来3到5年
人才缺口达150万之多。




5 大数据部门业务流程分析

6.大数据部门组织结构(重点)


你我都成为光发热之人,在看在看在看~(疯狂暗示!)




