大数据PPT.ppt

单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,单击此处编辑母版标题样式,大趋势,B,ig,D,ata,*,国内大数据,马云对未来的预测，是建立在对用户行文分析的基础上。,“,2008,年初,阿里巴巴平台上,整个,买家,询盘数急剧下滑,，,欧美对中国采购在下滑。海关是卖了货,出去以后再获得数据,;,而我们提前半年时间从询盘上推断出世界贸易发生变化了,。,”,腾讯在天津投资建立亚洲最大的数据中心；百度也在投资建立大数据处理中心；,*,2012年3月，美国奥巴马政府宣布投资2亿美元启动“大数据研发计划”，旨在提高和改进从海量和复杂数据中获取知识的能力，加速美国在科学和工程领域发明的步伐，增强国家安全。,这是继1993年美国宣布“信息高速公路”计划后的又一次重大科技发展部署，由美国国家科学基金会、能源部等6个联邦部门共同投资。,美国的大数据战略,*,大数据的定义,理解大数据,相关技术与应用,目录,*,facebook,社交网络,淘宝、,ebuy,电子商务,微博、,Apps,移动互联,21,世纪是数据信息大发展的时代，移动互联、社交网络、电子商务等极大拓展了互联网的边界和应用范围，各种数据正在迅速膨胀并变大。,互联网（社交、搜索、电商）、移动互联网（微博）、物联网（传感器，智慧地球）、车联网、,GPS,、医学影像、安全监控、金融（银行、股市、保险）、电信（通话、短信）都在疯狂产生着数据。,“大数据”的诞生：,半个世纪以来，随着计算机技术全面融入社会生活，信息爆炸已经积累到了一个开始引发变革的程度。它不仅使世界充斥着比以往更多的信息，而且其增长速度也在加快。信息爆炸的学科如天文学和基因学，创造出了“大数据”这个概念,*,。如今，这个概念几乎应用到了所有人类智力与发展的领域中。,大数据时代的背景,*,GB,TB,PB,EB,ZB,想驾驭这庞大的数据，我们必须了解大数据的特征。,地球上至今总共的数据量,：,在,2006,年，个人用户才刚刚迈进,TB,时代，全球一共新产生了约,180EB,的数据；,在,2011,年，这个数字达到了,1.8ZB,。,而有市场研究机构预测：,到,2020,年，整个世界的数据总量将会增长,44,倍，达到,35.2ZB,（,1ZB=10,亿,TB,）！,1PB,=250,字节,1EB,=260,字节,1ZB=270,字节,数据大爆炸,*,大数据的,4V,特征,体量,Volume,多样性,Variety,价值密度,Value,速度,Velocity,非结构化数据,的超大规模和增长,总数据量的,8090%,比结构化数据增长快,10,倍到,50,倍,是传统数据仓库的,10,倍到,50,倍,大数据的异构和多样性,很多不同形式（文本、图像、视频、机器数据）,无模式或者模式不明显,不连贯的语法或句义,大量的不相关信息,对未来趋势与模式的可预测分析,深度复杂分析（机器学习、人工智能,Vs,传统商务智能,(,咨询、报告等）,实时分析,而非批量式分析,数据输入、处理与丢弃,立竿见影而非事后见效,*,大数据的定义,理解大数据,相关技术与应用,目录,*,1,、密不可分的大数据与云计算,商业模式驱动,应用需求驱动,云计算本身也是大数据的一种业务模式,大数据是落地的云,云计算的模式是业务模式，本质是数据处理技术。,数据是资产，云为数据资产提供存储、访问和计算。,当前云计算更偏重海量存储和计算，以及提供的云服务，运行云应用，但是缺乏盘活数据资产的能力，挖掘价值性信息和预测性分析，为国家、企业、个人提供决策和服务，是大数据核心议题，也是云计算的最终方向。,*,2,、大数据不仅仅是“大”,多大？,至少,PB,级,比大更重要的是数据的复杂性，有时甚至大数据中的小数据如一条微博就具有颠覆性的价值,*,4,、大数据的应用不仅仅是精准营销,通过用户行为分析实现精准营销是大数据的典型应用，但是大数据在各行各业特别是公共服务领域具有广阔的应用前景,消费行业,金融服务,食品安全,医疗卫生,军事,交通环保,电子商务,气象,*,5,、管理大数据“易”理解大数据“难”,虽然大数据是一个重大问题，真正的问题是让大数据更有意义,目前大数据管理多从架构和并行等方面考虑，解决高并发数据存取的性能要求及数据存储的横向扩展，但对非结构化数据的内容理解仍缺乏实质性的突破和进展，这是实现大数据资源化、知识化、普适化的核心,非结构化海量信息的智能化处理：自然语言理解、多媒体内容理解、机器学习等,*,大数据的定义,理解大数据,相关技术与应用,目录,*,分析技术：,数据处理：自然语言处理技术,统计和分析：,A/B test;top N,排行榜；地域占比；文本情感分析,数据挖掘：关联规则分析；分类；聚类,模型预测：预测模型；机器学习；建模仿真,大数据技术：,数据采集：,ETL,工具,数据存取：关系数据库；,NoSQL,；,SQL,等,基础架构支持：云存储；分布式文件系统等,计算结果展现：云计算；标签云；关系图等,存储,结构化数据：,海量数据的查询、统计、更新等操作效率低,非结构化数据,图片、视频、,word,、,pdf,、,ppt,等文件存储,不利于检索、查询和存储,半结构化数据,转换为结构化存储,按照非结构化存储,解决方案：,Hadoop,（,MapReduce,技术）,流计算（,twitter,的,storm,和,yahoo,！的,S4,）,一些相关技术,*,行业拓展者，打造大数据行业基石：,IBM,：,IBM,大数据提供的服务包括数据分析，文本分析，蓝色云杉（混搭供电合作的网络平台）,;,业务事件处理；,IBM Mashup Center,的计量，监测，和商业化服务（,MMMS,）,IBM,的大数据产品组合中的最新系列产品的,InfoSphere bigInsights,，基于,Apache Hadoop,。,该产品组合包括：,打包的,Apache Hadoop,的软件和服务，代号是,bigInsights,核心，用于开始大数据分析,软件被称为,bigsheet,，软件目的是帮助从大量数据中轻松、简单、直观的提取、批注相关信息,为金融，风险管理，媒体和娱乐等行业量身定做的行业解决方案,微软：,2011,年,1,月与惠普（具体而言是,HP,数据库综合应用部门）合作目标是开发了一系列能够提升生产力和提高决策速度的设备。,EMC,：,EMC,斩获了纽交所和,Nasdaq,；,大数据解决方案已包括,40,多个产品。,Oracle,：,Oracle,大数据机与,Oracle Exalogic,中间件云服务器、,Oracle Exadata,数据库云服务器以及,Oracle Exalytics,商务智能云服务器一起组成了甲骨文最广泛、高度集成化系统产品组合。,大数据的应用,企业在投入,*,政府、金融、电信等行业投资建立大数据的处理分析手段，实现综合治理、业务开拓等目标；应用到制造等更多行业。,更多行业的应用,*,数据的再利用：,由于在信息价值链中的特殊位置，有些公司可能会收集到大量的数据，但他们并不急需使用也不擅长再次利用这些数据。例如，移动电话运营商手机用户的位置信息来传输电话信号，这对以他们来说，数据只有狭窄的技术用途。但当它被一些发布个性化位置广告服务和促销活动的公司再次利用时，则变得更有价值。,大数据价值链的,3,大构成：数据本身、技能与思维,其中三者兼具的又谷歌公司，谷歌在刚开始收集数据的时候就已经有多次使用数据的想法。比方说，它的街景采集车手机全球定位系统数据不光是为了创建谷歌地图，也是为了制成全自动汽车以及谷歌眼镜等与实景交汇的产品。,未来，企业会依靠洞悉数据中的信息更加了解自己，也更加了解客户。,大数据时代,传统行业最终都会转变为大数据行业，无论是金融服务业、医药还是制造业。,大数据的应用,未来，改变一切,具体案例,难点分析,移动用户上网记录集中查询与分析支撑系统,什么是hadoop,开源Apache 项目,灵感来源于Google的,MapReduce白皮书和Google文件系(GFS),Yahoo完成了绝大部分初始设计和开发,Hadoop 核心组件包括:,-分布式文件系统,-Map/Reduce 分布式计算,用Java编写,运行平台:,Linux,Mac OS/X,Solaris,Windows,普通的X86硬件平台,为什么hadoop很重要,非结构化数据暴增:,估计未来5年，企业的数据将增长650%，其中80%,都是非结构化数据,比如FACEBOOK每天收集100TB的数据，Twitter会有,每天产生3500亿的tweets,非结构化的数据同样蕴藏巨大价值,需要新方法利用所有数据进行业务分析,Apache Hadoop作为一个分析存储大量数据的关键,数据平台出现,hadoop与大数据,Hadoop是致力于“大数据”处理的最重要平台之一,能够轻松扩展到PB级别的数据存储，处理规模,带有高度容错能力的并行处理架构,基于普通的X86平台硬件架构，硬件成本低廉,用内置格式存储/处理数据,基于开源项目，拥有当量的代码来源，并且传统厂商也日益重视对其的支持，它已经成为重要的并行处理架构标准之一,英特尔企业级Hadoop堆栈,我现在做的工作Nutch,定义,Nutch 是一个开源的、Java 实现的搜索引擎。它提供了我们运行自己的搜索引擎所需的全部工具。,nutch首页,搜索引擎原理,一、搜索引擎原理,用户,用户,用户,检索入口google,百度,结果排序,网页索引,网页分析,网页抓取,互联网,搜索引擎技术框架图,Nutch,工作原理,谢谢,