大数据平台建设专项方案.doc

大数据平台建设方案（项目需求与技术方案）一、项目背景 “十三五”期间，随着国内当代信息技术蓬勃发展，信息化建设模式发生主线性转变,一场以云计算、大数据、物联网、移动应用等技术为核心“新 IT”浪潮风起云涌，信息化应用进入一种“新常态”。*（某政府部门）为积极应对“互联网+”和大数据时代机遇和挑战，适应全省经济社会发展与改革规定，大数据平台应运而生。大数据平台整合省社会经济发展资源，打造集数据采集、数据解决、监测管理、预测预警、应急指挥、可视化平台于一体大数据平台，以信息化提高数据化管理与服务能力，及时精确掌握社会经济发展状况，做到“用数据说话、用数据管理、用数据决策、用数据创新”，牢牢把握社会经济发展积极权和话语权。二、建设目的大数据平台是顺应当前信息化技术水平发展、服务政府职能改革架构平台。它重要目的是强化经济运营监测分析，实现公司信用社会化监督，建立规范化共建共享投资项目管理体系，推动政务数据共享和业务协同，为决策提供及时、精确、可靠信息根据，提高政务工作前瞻性和针对性，加大宏观调控力度，增进经济持续健康发展。1、 制定统一信息资源管理规范，拓宽数据获取渠道，整合业务信息系统数据、公司单位数据和互联网抓取数据，构建汇聚式一体化数据库，为平台打下坚实稳固数据基本。2、 梳理各有关系统数据资源关联性，编制数据资源目录，建立信息资源互换管理原则体系，在业务可行性基本上，实现数据信息共享，推动信息公开，建立跨部门跨领域经济形势分析制度。3、 在大数据分析监测基本上，为政府把握经济发展趋势、预见经济发展潜在问题、辅助经济决策提供基本支撑。三、建设原则大数据平台以信息资源整合为重点，以大数据应用为核心，坚持“统筹规划、分步实行，整合资源、协同共享，突出重点、注重实效，深化应用、创新驱动”原则，全面提高信息化建设水平，增进全省经济持续健康发展。 1、统筹规划、分步实行。结合我省经济发展与改革领域实际需求，明确总体目的和阶段性任务，科学规划建设项目。先期完毕大数据平台整体架构建设，后期分步完毕业务系统整合及互相间数据共享问题。 2、整合资源、协同共享。对信息资源统一梳理，建立经济发展与改革信息原则资源库和数据规范，逐渐消灭“信息孤岛”，加快推动数据资源整合，建设共享共用大数据中心，实现业务协同。 3、突出重点、注重实效。以顾客为中心，以需求为导向，以服务为目，突出重点，注重实效，加强平台可用性和易用性。 4、深化应用、创新驱动。进一步理解顾客需求，密切跟踪信息技术发展趋势，不断深化应用、拓展新技术在应用中广度和深度，增进跨界融合，丰富管理和服务手段。四、建设方案为了保证项目顺利进行和建设目的可行性，咱们采用如下几种建设方案。 1、数据采集方案。咱们统一信息资源原则规范，建立多维度数据库，拓宽数据来源，通过不同方式汇聚数据，增强分析力度，提高监测预警精确性和时效性。1、 预留接口，支持其他系统各种数据上传导入解决。将现存关于经济运营业务系统中历史数据和时效数据，通过上传数据文献至服务器、分析提取有效数据导入服务器数据库等方式采集起来，在本平台上复用。2、 支持外接数据上传导入解决。可以将公司单位或定点监测机构数据通过同样方式采集起来，在本平台上复用。3、 支持非构造化数据，即搜索引擎数据、社交媒体数据、地理空间数据和音视频数据等等。 2、数据分析方案。大数据之大并不是难点所在，其真正难以对付挑战来自于数据类型多样、规定及时响应和数据不拟定性，而咱们所面临也正是如此。咱们采用批量数据解决系统，借助于深度学习、知识计算和可视化等大数据分析技术，通过对数据批量解决挖掘其中价值来支持决策和发现新洞察。 3、业务整合方案。在对社会发展有关业务子系统充分调研基本上，结合项目需求，可对其进行整合或嵌入解决（本方案整合公共信用信息服务平台、投资项目信息管理平台等）。1、 整合解决。将原有数据通过上传或导入方式进行采集，原有功能模块整合到本平台中，合二为一，完美将数据汇聚起来。缺陷是耗时较长。2、 嵌入解决。以单点登录方式将原有系统链接嵌入到本平台中，作为子系统单独存在。缺陷在于数据共享难以实现。五、建设内容 1、宏观经济监测预测及可视化平台政府信息化最后目的是提高政府决策水平，其中经济决策是核心内容。为了提高宏观调控决策水平，咱们必要从依托老式记录数据向依托互联网非记录数据转变，从监测预测宏观经济总量向监测预测宏观经济先行指标转变，从中长期监测预测向实时监测预测转变。宏观经济监测预测及可视化平台环绕网络搜索、社交媒体、电子商务、终端定位和业务交易等五个方面全面整合互联网有关数据资源，建设以“容量大、形式多、分类细、响应快”为目的宏观经济监测预测数据库，构建基于互联网数据宏观经济非记录指标监测预测应用平台。环绕重点产业活跃度、区域经济关联度、宏观经济走向社会预期、社会消费热点、大宗商品供求及价格走势、全国就业形势、外贸订单变化趋势等方面，构建大数据宏观经济先行指标和现时预测指标库，研究能客观、精确反映我省宏观经济运营状况指标体系，编制“山东指数”。在健全完善监测预警数据库基本上，充分运用大数据技术和理念，加强数据挖掘力度，强化定量分析，建立宏观经济分析系列模型，切实提高预测分析前瞻性、精确性和可靠性。积极拓宽信息发布渠道，建立可视化平台，采用Unity3D引擎，三维界面高度仿真，所见即所得。平台针对多源易构海量数据，通过数据解决、存储管理、可视化交互分析等技术，实现图形化数据查询、可视化关联分析、证据链和情报线索发掘等功能。运用预测信号灯系统，形象地刻画出宏观经济总体运营状况，分析经济波动因素，及时理解各地区经济发展不平衡性，精确判断和测定经济景气循环运营状态，提高宏观经济决策水平。 2、公司信用监测预警服务平台公司信用危机不但给社会带来严重危害，也是关系到公司自身生死存亡重大事件，它是中华人民共和国公司乃至中华人民共和国市场经济发展巨大障碍。因而，建立公司信用危机预警机制和管理机制，对公司信用危机进行有效预警及管理是十分重要。公司信用监测预警服务平台，全面整合社会信用监管信息和社会公众反映信息，通过整顿归类与加工，将这些信用危机信息转化为可以量化指标体系，按照失信行为严重限度和影响范畴划分三个预警级别，分别向公司自身、金融机构、其她政府部门及全社会进行通报。纳入公司信用预警体系公司信息涉及侵犯消费者权益且不履行有关义务信息、消费者投诉未及时解决信息、行政惩罚逾期未执行信息、查无下落公司信息等23种信息。可以动态配备预警信息项目和相应预警级别，增强监测预警全面性和灵活性。公司信用监测预警服务平台以信息技术为支撑，以信用监管为手段，全面提高信用监管信息共享限度，及时预警影响社会交易安全和社会公共安全不良信用信息，遵循“对外警示社会和公司；对内明确重点，积极采用应对办法”原则，强化公司信用监管防范机制，有力推动“信用保税区”建设，加强公司信用监督管理积极性、前瞻性，更好地服务经济发展，减少交易风险，增进公司信用监管到位，实现公司信用社会化监督。 3、投资项目信息管理平台建设投资项目（特别是某些大型项目）具备管理上复杂性特点，重要是建设周期长、参建方多。投资项目信息管理平台建立和应用，可有效解决投资建设项目管理动态过程信息分析、信息构建，达到各参建方信息共享目。投资项目信息管理平台，支持重大项目推介，建立规范项目审批流程和项目信息库，管理项目启动、筹划、执行、监控和收尾整个生命周期，覆盖进度、质量、成本、资源、风险等项目管理各个要素，构建集成项目、流程、知识信息化平台。逐渐实现与有关部门业务系统接入，形成全覆盖投资项目管理统一工作平台，真正做好资源共享，为项目后期评价、领导决策提供支持服务。环绕设计、招标、监理、质量、安全、进度、施工、资金、变更、合同管理“十大环节”，建立起对投资项目进行事前筹划、事中控制、事后评估、全程管理有效管控模式，增进投资项目管理体系发挥全方位、全过程筹划、组织、协调与控制作用。投资项目信息管理平台，以当代项目管理办法论为基本；以项目管理为主线，全面组织、全程贯穿各个业务环节；以项目筹划为根据，科学协调各个部门工作；以成本、进度、质量为最后控制目的；以完整、及时、精确项目信息和科学分析模型为项目管理、决策提供根据；遵循“以筹划为龙头，以合同为中心，以投资控制为目”当代项目管理理念，构建高效、实用项目协同管理综合平台。 4、政务数据共享互换平台政务数据共享互换平台是各个平台中基本性和综合性平台，是解决“信息孤岛”、实现数据互连互通基本设施，有助于提高各类信息资源整合共享，以及信息资源综合运用。建设政务数据共享互换平台首要目的就是要创造一种信息互换、信息共享方式和环境，按照统一原则和规范，建立信息资源整合机制，规范数据采集口径、采集方式，规范数据服务方式，建立统一资源信息整合与互换机制。咱们按照统一、集约、高效数据开发运用理念，通过研究建立多级互换管理体系，形成政务信息资源物理分散、逻辑集中信息共享模式，通过以应用为抓手，进一步打通数据流，满足政府部门多方位、多层次数据需求，为跨地区、跨部门、跨平台不同应用系统、不同数据库之间互连互通提供包括提取、转换、传播和加密等操作数据互换服务。通过度布式布置和集中式管理架构，有效解决各节点间数据及时、高效上传下达，在安全、快捷、以便进行信息互换同步精准保证数据一致性和精确性。政务数据共享互换平台全局目的是建立“一种系统”，解决“两个问题”，支持“三个应用”，面向“四个服务”。建立“一种系统”，即建立一种可扩展、可集成、有统一数据模型、可互换和安全可靠分布式系统，对各类政务资源进行组织和管理。解决“两个问题”，即解决政务信息资源发现与定位问题，解决政务信息资源规划与整顿问题。支持“三个应用”，即支持信息集成整合应用、各业务部门办公应用和政府职能决策应用。面向“四个服务”，即面向政务协作、宏观决策、市场监管和社会管理服务。六、技术支持与平台性能 1、系统架构结合该项目以大数据平台为核心，多业务子系统并存业务需求，以及存在不同种类操作系统、应用软件、系统软件现状，咱们采用面向服务体系构造，即SOA架构。SOA是一种组件模型，它将应用程序不同功能单元（称为服务）通过这些服务之间定义良好接口和契约联系起来。接口是采用中立方式进行定义，它独立于实现服务硬件平台、操作系统和编程语言。这使得构建在这样系统中服务可以以一种统一和通用方式进行交互。它本质是实现服务和技术完全分离，从而最大限度上实现服务集成和重组。SOA实行是以业务服务为导向，业务服务独立于技术之上，技术处在从属地位，采用SOA架构重要优势有：1、 SOA与平台无关，减少了业务应用及业务子系统整合限制。 2、 SOA具备低耦合特点，各个业务子系统对整个业务系统影响较低，在各个系统不断变化状况下，节约费用会越来越多。3、 SOA具备可按模块分阶段进行实行优势。可以成功一步再做下一步，将实行导致冲击减少到最小。SOA服务交互示意图如下： 2、技术支持1、 技术领先J2EE框架。 Java2平台公司版（Java 2 Platform Enterprise Edition， J2EE）是一种运用Java2平台来简化且规范应用系统开发与布置，进而提高可移植性、安全与再用价值。基核心是一组技术规范与指南，其中包括各类组件、服务架构及技术层次，均有共同原则及规格，让各种依循J2EE架构不同平台之间，存在良好兼容性，解决过去公司后端使用信息产品彼此之间无法兼容，公司内部或外部难以互通窘境。 基重要技术规范有JDBC、EJB、JSP、Java Servlet、XML等。JDBC为访问不同数据库提供了统一途径，使对数据库访问具备平台无关性。EJB提供了一种框架来开发和实行分布式商务逻辑，简化了具备可伸缩性和高度复杂公司级应用程序开发。JSP页面由HTML代码和嵌入其中Java代码构成，简化了页面输出，保存了脚本语言易于使用长处。Servlet是一种小型Java程序，扩展了Web服务器功能。XML提供了一种描述构造数据格式，简化了网络中数据互换和表达，使得代码、数据和表达分离，作为数据互换原则格式。2、 强大灵活SSM整合框架。SSM框架整合，即整合SpringMVC、Spring和Mybatis框架。其中SpringMVC属于SpringFarmeWork后续产品，它提供了构建Web应用程序全功能MVC模块，分离了控制器、模型对象、过滤器以及解决程序对象角色，这种分离让它们更容易进行定制。Spring是一种轻量级开源框架，它重要特点是以便解耦、简化开发、面向切面（AOP）编程支持和声明式事务支持，其重要长处有低侵入式设计、独立于应用服务器、容许将某些通用任务如日记等进行集中解决。Mybatis是轻量级ORM框架，它消除了几乎所有JDBC代码和参数手工设立以及成果集检索，使用简朴XML或注解用于配备和原始映射，将接口和JavaPOJOs映射成数据库中记录。其框架架构图如下： 相比于老式SSH整合，SpringMVC相比Struts更轻量级，注解使用减少开发消耗，数据库操作层采用Mybatis，统一管理SQL甚是以便。 3、平台性能1、先进性、开放性。基于B/S构造Java应用技术和SOA开放式体系框架，构造化设计，灵活可拆分，具备灵活可扩充接口，易于修改调节、二次开发和扩充，最大限度减少因上游技术升级带来系统实行风险，保证投资有效性和延续性。2、 可扩展性。由于采用了平台化构建思想，整个系统可做到与底层各种硬件环境、操作系统、数据库自由适配，保证系统在软件、硬件环境方面灵活配备以及将来拓展应用。采用基于SOA思想模块化设计，可依照需要进行灵活动态模块扩充，并保证原系统环境不受影响。系统提供开放原则接口，可实现与外围业务系统无缝集成应用，灵活扩展系统业务应用范畴。3、 稳定性、可靠性。系统采用B/S构造应用模式，集中安装布置，客户端零安装，因此系统运营不受任何客户端单点故障影响。技术框架支撑，可以实现数据库持久、稳定连接，保证事务解决持续和完整，保证业务数据精确完全。4、 其她优势。想来生活，从来就不是阳春白雪神话。光阴陌上，总有风自八方来，或许是忧凄，也许是欢喜 ,无论如何，都是岁月最真馈赠。待到老去那一日，偶尔有回忆念及了过往，仍旧还会有初初心动，流转了眉眼。而那一路迤逦而来美好，一步一步写就两个梅花小楷寻常。暖阳小窗，无事此静坐。杯盏光阴，又在指间如风轻过，回眸，依稀还是那年秋，低低一低眉，却已是春光葳蕤。光阴荏苒，而流年从来也不曾缺少错乱和犹疑。与否在这样一种万物复苏季节里，一切纷扰是非，终归会给出一种水落石出答案。轻倚初春门楣，且把盏清风，问心明月，让来者可来，去者可去，宿命里拥有，一一欣喜悦纳。而我也只需以花香绕肩美，步履从容，走过生命里山山水水。若说，那一程走旧时光，已然温暖了我眉眼。那么，在明日那个花满枝桠清晨，我仍旧乐意轻踮了脚尖，重行在与你初见陌上，只待，与你折柳重逢。然后，在你温热耳边，把某些前生来世故事，重复吟唱。只盼，你在莞尔低眉时，与我轻轻相和。所谓素年锦时，或许就是这样一程光阴吧。私心里常想，最佳感觉，莫过于煨一味小众烟火，暖一世红尘时日，对坐心爱之人，行做欢喜之事。虽然偶尔有湿润盈满了眸底，也请相信，我泪里，没有忧伤。懂我你，与否也如我同样，遗忘了所有言语。只是在掌心，一遍遍描摹一种人名，那是切入骨髓念，合着心脉韵律，默默诉说一句话，让咱们在这无边春色里，相爱一场！