ImageVerifierCode 换一换
格式:DOCX , 页数:30 ,大小:31.04KB ,
资源ID:9272657      下载积分:12 金币
快捷注册下载
登录下载
邮箱/手机:
温馨提示:
快捷下载时,用户名和密码都是您填写的邮箱或者手机号,方便查询和重复下载(系统自动生成)。 如填写123,账号就是123,密码也是123。
特别说明:
请自助下载,系统不会自动发送文件的哦; 如果您已付费,想二次下载,请登录后访问:我的下载记录
支付方式: 支付宝    微信支付   
验证码:   换一换

开通VIP
 

温馨提示:由于个人手机设置不同,如果发现不能下载,请复制以下地址【https://www.zixin.com.cn/docdown/9272657.html】到电脑端继续下载(重复下载【60天内】不扣币)。

已注册用户请登录:
账号:
密码:
验证码:   换一换
  忘记密码?
三方登录: 微信登录   QQ登录  

开通VIP折扣优惠下载文档

            查看会员权益                  [ 下载后找不到文档?]

填表反馈(24小时):  下载求助     关注领币    退款申请

开具发票请登录PC端进行申请

   平台协调中心        【在线客服】        免费申请共赢上传

权利声明

1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前可先查看【教您几个在下载文档中可以更好的避免被坑】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时联系平台进行协调解决,联系【微信客服】、【QQ客服】,若有其他问题请点击或扫码反馈【服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【版权申诉】”,意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:0574-28810668;投诉电话:18658249818。

注意事项

本文(数据仓库、商业智能相关面试题带答案.docx)为本站上传会员【w****g】主动上传,咨信网仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知咨信网(发送邮件至1219186828@qq.com、拔打电话4009-655-100或【 微信客服】、【 QQ客服】),核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载【60天内】不扣币。 服务填表

数据仓库、商业智能相关面试题带答案.docx

1、数据仓库、商业智能相关面试题带答案 资料仅供参考 1 商务智能 1.1 数据仓库 1.1.1 数据仓库的4大特点(特征)? 面向主题的,集成的,相对稳定的,反映历史变化的。 1.1.2 数据仓库的四个层次体系结构? 1. 数据源 是数据仓库系统的基础,是整个系统的数据源泉。一般包括企业内部信息和外部信息。内部信息包括存放于RDBMS中的各种业务处理数据和各类文档数据。外部信息包括各类法律法规、市场信息和竞争对手的信息等等; 2. 数据的存储与管理 是整个数据仓库系统的核心。数据仓库的真正关键是数据的存储和管理。数据仓库的组织管理方式决定了它有别于传统数据库,同时也决

2、定了其对外部数据的表现形式。要决定采用什么产品和技术来建立数据仓库的核心,则需要从数据仓库的技术特点着手分析。针对现有各业务系统的数据,进行抽取、清理,并有效集成,按照主题进行组织。数据仓库按照数据的覆盖范围能够分为企业级数据仓库和部门级数据仓库(一般称为数据集市) 3. OLAP服务器 对分析需要的数据进行有效集成,按多维模型予以组织,以便进行多角度、多层次的分析,并发现趋势。其具体实现能够分为:ROLAP(关系型在线分析处理)、MOLAP(多维在线分析处理)和HOLAP(混合型线上分析处理)。ROLAP基本数据和聚合数据均存放在RDBMS之中;MOLAP基本数据和聚合数据均存放于多维数

3、据库中;HOLAP 基本数据存放于RDBMS之中,聚合数据存放于多维数据库中。 4. 前端工具 主要包括各种报表工具、查询工具、数据分析工具、数据挖掘工具以数据挖掘及各种基于数据仓库或数据集市的应用开发工具。其中数据分析工具主要针对OLAP 服务器,报表工具、数据挖掘工具主要针对数据仓库。 1.1.3 描述一下联机分析处理OLAP?(维的概念,基本多维操作,层次结构,与OLTP的区别) OLAP(联机分析处理On-Line Analytical Processing)也叫多维DBMS。 OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,而且提供直观易懂的查询结果

4、 OLAP的目标是满足决策支持或者满足在多维环境下特定的查询和报表需求,它的技术核心是"维"这个概念。 “维”是人们观察客观世界的角度,是一种高层次的类型划分。“维”一般包含着层次关系,这种层次关系有时会相当复杂。经过把一个实体的多项重要的属性定义为多个维(dimension),使用户能对不同维上的数据进行比较。因此OLAP也能够说是多维数据分析工具的集合。也叫做多维数据集。一般一个多维数据集能够用一个立方体的方式进行描述。 多维数据集是联机分析处理 (OLAP) 中的主要对象,是一项可对数据仓库中的数据进行快速访问的技术。多维数据集是一个数据集合,一般从数据仓库的子集构造,并组织和汇

5、总成一个由一组维度和度量值定义的多维结构。 每个多维数据集都有一个架构,架构是数据仓库中已联接的各表的集合,多维数据集从数据仓库提取其源数据。架构中的核心表是事实数据表,事实数据表是多维数据集度量值的源。 OLAP的基本多维分析操作有钻取(roll up和drill down)、切片(slice)和切块(dice)、以及旋转(pivot)、drill across、drill through等。·钻取是改变维的层次,变换分析的粒度。它包括向上钻取(roll up)和向下钻取(drill down)。roll up是在某一维上将低层次的细节数据概括到高层次的汇总数据,或者减少维数;而dril

6、l down则相反,它从汇总数据深入到细节数据进行观察或增加新维。·切片和切块是在一部分维上选定值后,关心度量数据在剩余维上的分布。如果剩余的维只有两个,则是切片;如果有三个,则是切块。·旋转是变换维的方向,即在表格中重新安排维的放置(例如行列互换)。 1.1.4 多维数据集为什么显示有些表即是事实表又是维度表? 退化维度。 1.1.5 描述一下粒度?维度?Cube? 粒度反映了数据仓库按照不同的层次组织数据,根据不同的查询需要,存储不同细节的数据。在数据仓库中,粒度越小,数据越细,查询范围就越广泛。相反,粒度级别越高,表示细节程度越低,查询范围越小。 1.1.6 描述一下O

7、DS,统一数据视图 运营数据存储(The operational data store, ODS)或称操作型数据存储是一个面向主题的、集成的、当前的而且是可"挥发"的数据集合,它反映了在某一个时间切片瞬间,经营分析系统和外围系统(BOSS、MIS...)用以相互交换数据的集合,主要用于经营分析系统与外围系统关键数据一致性校验、以及经营分析系统对其它外围系统的决策支持数据的回馈,回馈数据包括以客户扩展属性为主体的详细资料等。运营数据存储扮演的是用于数据稽核与交互的角色。 ODS 的存储结构是以企业范围所有相关业务系统的数据,以全面、统一进行关系型实体来体现的,ODS中的数据是基于分析主题进行

8、组织,而不是基于业务系统的功能进行组织。ODS只是存储了当前的数据且数据是“挥发”性的,因此其数据的刷新是很快,过期的数据将要被挥发掉。因此ODS的存储量取决于业务接口数据的抽取与刷新频率,取决于企业的服务客户的数量。 从ODS的作用和实现来说,ODS将各个孤立的业务系统的运营数据集成起来,现成全企业的统一数据视图,同时可实现ODS的数据共享。 1.1.7 描述一下企业信息工厂 数据仓库领域里,有一种构建数据仓库的架构,叫Corporate Information Factory,中文一般翻译为“企业信息工厂”。企业信息工厂的创始人是数据仓库之父Inmon。 企业信息工厂主要包括集

9、成转换层(I&T)、操作数据存储(ODS)、数据仓库(EDW)、数据集市(DM)、探索仓库(EW)等部件。这些部件有机的结合在一起,为企业提供信息服务。 集成转换层的目的是将来自操作型源系统的数据集成转换到数据仓库中,它一般由一组程序组成,而其它部件如数据仓库和数据集市等则主要由数据组成。 当业务数据来源多,业务复杂时,集成转换层会建立一些临时表,为数据处理提供方便。这时,集成转换层包括程序和数据,也称数据准备区(Data Staging Area)。一般中等规模及以上的数据仓库系统都会建立数据准备区。 操作数据存储(ODS)是建立在数据准备区和数据仓库之间的一个部件。用来满足企业集成的、

10、综合的操作型处理需要。例如,出尽可能实时的集成的操作报表等需求。一般,也称操作数据存储是用来满足企业战术决策的需要。操作数据存储是个可选的部件。 数据仓库是企业信息工厂的核心部件,用来保存整个企业的数据。一般,也称数据仓库是用来满足企业战略决策的需要。数据仓库的数据来自数据准备区和操作数据存储。 数据集市是为了满足企业特定部门的分析需求而专门建立的数据的集合。数据集市的数据来源是数据仓库。企业信息工厂中的数据集市一般来说是非规范化的、定制的和汇总的。而多维体系架构中的数据集市分为两种,分别是原子数据集市和聚集数据集市。一般来说,企业信息工厂中的数据集市相当于多维体系架构中的聚集数据集市。

11、 1.1.8 数据是数据集市? 数据集市中的数据具有数据仓库中数据的特点,只不过数据集市专为某一部门或某个特定商业需求定制,而不是根据数据容量命名。 数据集市面向部门、业务单元或特定应用,因而规模较小,便于快速实现,且成本较低,短期内即可获得明显效果。数据集市的应用不但满足了部门的数据处理需求,而且作为数据仓库的子集有助于构建完整的企业级数据仓库。 1.1.9 元数据的定义,元数据管理,元数据的作用用? 数据仓库的元数据是关于数据仓库中数据的数据。它的作用类似于数据库管理系统的数据字典,保存了逻辑数据结构、文件、地址和索引等信息。广义上讲,在数据仓库中,元数据描述了数据仓库内数据的

12、结构和建立方法的数据。 元数据是数据仓库管理系统的重要组成部分,元数据管理器是企业级数据仓库中的关键组件,贯穿数据仓库构建的整个过程,直接影响着数据仓库的构建、使用和维护。 (1)构建数据仓库的主要步骤之一是ETL。这时元数据将发挥重要的作用,它定义了源数据系统到数据仓库的映射、数据转换的规则、数据仓库的逻辑结构、数据更新的规则、数据导入历史记录以及装载周期等相关内容。数据抽取和转换的专家以及数据仓库管理员正是经过元数据高效地构建数据仓库。 (2)用户在使用数据仓库时,经过元数据访问数据,明确数据项的含义以及定制报表。 (3)数据仓库的规模及其复杂性离不开正确的元数据管理,包括增加或移

13、除外部数据源,改变数据清洗方法,控制出错的查询以及安排备份等。 元数据可分为技术元数据和业务元数据。技术元数据为开发和管理数据仓库的IT 人员使用,它描述了与数据仓库开发、管理和维护相关的数据,包括数据源信息、数据转换描述、数据仓库模型、数据清洗与更新规则、数据映射和访问权限等。而业务元数据为管理层和业务分析人员服务,从业务角度描述数据,包括商务术语、数据仓库中有什么数据、数据的位置和数据的可用性等,帮助业务人员更好地理解数据仓库中哪些数据是可用的以及如何使用。 在数据仓库中,元数据的主要作用如下。 (1)描述哪些数据在数据仓库中,帮助决策分析者对数据仓库的内容定位。 (2)定义数据进

14、入数据仓库的方式,作为数据汇总、映射和清洗的指南。 (3)记录业务事件发生而随之进行的数据抽取工作时间安排。 (4)记录并检测系统数据一致性的要求和执行情况。 (5)评估数据质量。 1.1.10 什么是主数据,主数据管理?和元数据有什么区别?主数据管理和传统数据仓库的区别? 主数据是指在整个企业范围内各个系统(操作/事务型应用系统以及分析型系统)间要共享的数据, 比如,能够是与客户(customers), 供应商(suppliers), 帐户(accounts)以及组织单位(organizational units)相关的数据。主数据一般需要在整个企业范围内保持一致性(con

15、sistent)、完整性(complete)、可控性(controlled),为了达成这一目标,就需要进行主数据管理(Master Data Management ,MDM)。主数据不是企业内所有的业务数据,只是有必要在各个系统间共享的数据才是主数据,比如大部分的交易数据、帐单数据等都不是主数据,而像描述核心业务实体的数据,而像客户、供应商、帐户、组织单位、员工、合作伙伴、位置信息等都是主数据。主数据是企业内能够跨业务重复使用的高价值的数据。 主数据管理(Master Data Management ,MDM)是指一组约束和方法用来保证一个企业内主题域和系统内相关数据和跨主题域和系统的相关数

16、据的实时性、含义和质量。这是从深层次来说来说明主数据管理(MDM)的深度和复杂性,简单的说,主数据管理(MDM)保证你的系统协调和重用通用、正确的业务数据(主数据)。一般,我们会把主数据管理作为应用流程的补充,经过从各个操作/事务型应用以及分析型应用中分离出主要的信息,使其成为一个集中的、独立于企业中各种其它应用核心资源,从而使得企业的核心信息得以重用并确保各个操作/事务型应用以及分析型应用间的核心数据的一致性。经过主数据管理,改变企业数据利用的现状,从而更好地为企业信息集成做好铺垫。 主数据管理(MDM)能够帮助我们创立并维护整个企业内主数据的单一视图(Single View),保证单一视

17、图的准确性、一致性以及完整性,从而提供数据质量,统一商业实体的定义,简化改进商业流程并提供业务的响应速度。从变化的频率来看,主数据和日常交易数据不一样,变化相对缓慢,另外,主数据由于跨各个系统,因此对数据的一致性、实时性以及版本控制要求很高。 主数据(Master Data)和元数据(Meta Data)是两个完全不同的概念。元数据是指表示数据的相关信息,比如数据定义等,而主数据是指实例数据,比如产品目录信息等。 主数据管理和传统数据仓库解决方案不是一个概念,数据仓库会将各个业务系统的数据集中在一起在进行业务的分析,而主数据管理系统不会把所有数据都管理起来,只是把需要在各个系统间共享的主数

18、据进行采集和发布。相对于传统数据仓库解决方案的单向集成,主数据管理正注重将主数据的变化同步发布到各个关联的业务系统中(主数据管理数据是双向的)。 1.1.11 描述一下ETL过程中需要处理的内容 三个简单的字母,E-T-L,很容易忽视38个ETL子系统在数据仓库建设中的重要性。 抽取-转换-加载(ETL)系统,或者非正式的称为“后台系统”,在建立整个数据仓库系统中占据了70的工作量和时间。可是这还不足以说明ETL系统的复杂性。每个人都理解这三个字母的含义,E,从源系统中将数据取出来;T,对这些数据做处理;L,加载到最终用户访问的表中。 1.抽取系统(Extract System)

19、 主要功能包括源数据的适配器,推/拖/搬运数据的工作调度,对源数据的过滤和排序功能,数据格式的转换,迁移到ETL环境后的数据暂存功能。 2.变化数据捕获系统(Change Data Capture System) 主要功能包括对源数据日志文件的阅读功能,源数据日期和序列号的过滤功能,基于CRC算法的记录比较功能。 3.数据概况分析系统(Data Profiling System) 主要功能包括字段属性分析,如参照域的分析;结构分析,如主外键关系分析;数据规则分析;值规则分析等。 4.数据清洗系统(Data Cleansing System) 主要功能包括一个典型的数据字典驱动的系统

20、用于解析个体和组织的名称、地址等信息,也用来解析产品、场所等内容;一个“De-duplication”系统,用于鉴别和移除个体和组织信息,也用于产品和场所;一个“Surviving”系统,使用特定的数据合并逻辑,用来保存特定数据源的指定字段,这个特定数据源的数据将成为数据仓库的最终版本;为所有的数据源维护后台数据的对应关系,如自然键和代理键对应关系等内容。 5.数据一致性处理系统(Data Conformer System) 主要功能包括标识和生成专用的一致性维度属性、一致性事实的度量属性,这两组属性作为数据整合工作的基础,用来支持跨多个数据源的数据集成工作。 6.审计维度生成系统(A

21、udit Dimension Assembler System) 主要功能是将与事实表相关的元数据内容加载到一张审计维度表中,这样最终用户能够像查看普通维度一样查看与事实表相关的元数据。 7.数据质量过滤系统(Quality Screen Handler System) 主要功能是在ETL的处理过程中自动的检测所有的数据质量问题。检测的结果将进入错误事件处理系统(详见子系统8)。 8.错误事件处理系统(Error Event Hander System) 主要功能是全面的记录和报告在ETL处理中的所有的错误事件。包括各类错误的分枝处理逻辑,还包括对ETL处理中数据质量的实时监控。

22、9.代理键生成系统(Surrogate Key Create System) 主要功能是以一种鲁棒的机制生成流水的代理键,生成规则不依赖与任何维度,也不依赖与任何数据库实例,能够支持分布式系统。 10.缓慢变化维处理系统(Slowly Changing Dimension Processor,SCD) 主要功能是处理维度表的属性随时间变化的情况,处理方式为:类型1(直接覆盖),类型2(生成新行),类型3(添加新列)。 11.迟到维度处理系统(Late Arriving Dimension Handler) 主要功能是当维度数据的变化情况到达数据准备区的时间晚于对应的事实数据时,对维

23、度数据的插入和更新策略。 12.固定层级结构生成系统(Fixed Hierarchy Dimension Builder) 主要功能是对维度表中各类多对一关系的层级结构进行数据有效性检查和维护。 13.可变层级结构生成系统(Variable Hierarchy Dimension Builder) 主要功能是对维度表中所有的层深可变的层级结构的的数据有效性检查和维度,例如组织的层级结构,零件的层级结构等。 14.多值维度桥接表生成系统(Multivalued Dimension Bridge Table Builder) 主要功能是建立和维护桥接表,用来描述维度间的多对多关系。

24、15.杂项维度生成系统(Junk Dimension Builder) 主要功能是将来自多个数据源的多个低基数的标志字段、状态字段等小型维度建立成一个杂项维度,并对之进行维护。 16.交易粒度事实表加载系统(Transaction grain fact table loader) 主要功能是更新交易粒度事实表,包括对数据、索引和分区的处理。一般是用来处理增量数据,即最新的数据。需要使用代理键替换管道系统(详见子系统19)。 17.周期快照事实表加载系统(Periodic snapshot grain fact table loader) 主要功能是更新周期快照事实表,包括对数据、

25、索引和分区的处理。包括对当期数据的增量更新策略。需要使用代理键替换管道系统(详见子系统19)。 18.累计快照事实表加载系统(Accumulating snapshot grain fact table loader) 主要功能是更新累积快照事实表,包括对数据、索引和分区的处理,同时更新维度外键和累积事实。需要使用代理键替换管道系统(详见子系统19)。 19.代理键替换管道系统(Surrogate key pipeline) 主要功能是使用多线程技术将来到数据仓库数据的自然键替换为代理键。 20.迟到事实处理系统(Late arriving fact handler) 主要功能是

26、处理对迟到事实记录的插入和更新策略。 21. 聚合生成系统(Aggregate builder) 主要功能是创立和维护数据库物理结构,比如说聚合表,用于和 query-rewrite 技术配合使用,以提高数据库查询性能。也包括独立的聚合表和物化表。 22. 多维cube生成系统(Multidimensional cube builder) 主要功能是创立和维护星型架构用于装载多维cube,包括cube技术的一些专有工作,比如维度层次结构的维护。 23. 实时分区生成系统(Real-time partition builder) 三种事实表类型(参照子系统16,17,18)的特殊逻辑

27、在内存中维护着一个“热分区”,它只包含最近一次已经统计到数据仓库表中以后的部分增量数据。 24. 维度管理子系统(Dimension manager system) 顾名思义,它是一个管理维度表的系统。它负责从集中存放维度表和事实表之间的维度一致性,请参照子系统25. 25.事实管理系统(Fact table provider system) 对应于维度表管理系统,它是一个事实表的管理系统,它接收从维度管理系统发过来的一致性维度。包括本地键替换,维度版本检查,和聚合表等维护系列工作。 26.任务调度系统(Job scheduler) 它负责ETL任务的安排和启动。它能够等待各种系统

28、条件包括对优先级高的任务完成的依赖。能够针对异常情况发送警告。 27.工作流程监视系统(Workflow monitor) 它的主要功能是有控制台和报表系统用以监控ETL任务被任务调度系统启动以后的执行状况。包括处理的记录条数,错误摘要,和执行的活动。 28.恢复和重做系统(Recovery and restart system) 当任务执行过程中任务暂停后的重新启动,或者是恢复到任务执行前的状态重新执行。这个子系统严重依赖于备份子系统(参考子系统38) 29.并行处理和管道处理系统(Parallelizing/pipelining system) 它的主要功能是利用多处理器,网格

29、计算资源以提高性能,和实现数据流处理。当不是写硬盘操作或者是执行过程中等待一个条件的发生的ETL的情况,是有必要采用并行化和管道化的。 30.异常放大系统(Problem escalation system) 它的主要功能是负责在一定的条件下提高错误的级别以跟踪和解决问题。包括简单错误日志记录,操作者通知,管理员通知和系统开发人员通知。 31.版本控制系统(Version control system) 使得元数据的归档能够有坚固的快照功能,能够查阅某一时刻改变前后的状态。能够迁入和迁出所有ETL模块和任务。源代码对比功能以快速展示改变前后的不同。 32.版本移植系统(Version

30、 migration system) 让程序能够在开发环境,测试环境,正式环境快速切换。版本控制系统的用于恢复移植的一个接口,也是配置完整数据库连接信息的一个接口。使得代理键生成不依赖于数据库的位置。 33.体系和依赖分析系统(Lineage and dependency analyzer) 对任何选中的数据组件,都要展示它的物理数据源和所有的后来的转换,不论是选中ETL管道中间的组件,或者是选中最终的数据结果,都一样展示。对任何选中的数据组件,都要展示它的下游的数据组件和可能会造成改变的最终数据结果的字段结构,不论是选中ETL管道中间的组件,或者是选中数据源,都一样展示。 34.符合

31、规定报告系统(Compliance reporter) 符合规定的规则以证明系统报告的可信度。证明数据和转换没有改变。展示谁访问过或者改变过任何数据。 35.安全控制系统(Security system) 在ETL的管道中,实现对所有数据和元数据基于角色的权限控制。证明模块的版本没有改变。展示谁做过任何更改。 36.备份系统(Backup system) 对数据和元数据的备份,用于以后的数据的恢复,重启,安全,和符合规定的要求。 37.元数据管理系统(Metadata repository manager) 用于捕获和维护所有ETL的元数据的系统,包括所有转换逻辑。包括处理元数据

32、技术元数据和业务逻辑元数据。 38.项目管理系统(Project management system) 对所有ETL任务进行开发的跟踪系统。 1.1.12 数据库及数据仓库模型设计的三个主要步骤? 1. 概念数据模型(conceptual data model) 概念数据模型设计与逻辑数据模型设计、物理数据模型设计是数据库及数据仓库模型设计的三个主要步骤。 概念数据模型是最终用户对数据存储的看法,反映了最终用户综合性的信息需求,它以数据类的方式描述企业级的数据需求,数据类代表了在业务环境中自然聚集成的几个主要类别数据。 概念数据模型的内容包括重要的实体及实体之间的关系。

33、在概念数据模型中不包括实体的属性,也不用定义实体的主键。这是概念数据模型和逻辑数据模型的主要区别。 概念数据模型的目标是统一业务概念,作为业务人员和技术人员之间沟通的桥梁,确定不同实体之间的最高层次的关系。 在有些数据模型的设计过程中,概念数据模型是和逻辑数据模型合在一起进行设计的。 2. 逻辑数据模型(logical data model) 逻辑数据模型反映的是系统分析设计人员对数据存储的观点,是对概念数据模型进一步的分解和细化。逻辑数据模型是根据业务规则确定的,关于业务对象、业务对象的数据项及业务对象之间关系的基本蓝图。 逻辑数据模型的内容包括所有的实体和关系,确定每个

34、实体的属性,定义每个实体的主键,指定实体的外键,需要进行范式化处理。 逻辑数据模型的目标是尽可能详细的描述数据,但并不考虑数据在物理上如何来实现。 逻辑数据建模不但会影响数据库设计的方向,还间接影响最终数据库的性能和管理。如果在实现逻辑数据模型时投入得足够多,那么在物理数据模型设计时就能够有许多可供选择的方法。 3. 物理数据模型(physical data model) 物理数据模型设计与概念数据模型设计、逻辑数据模型设计是数据库及数据仓库模型设计的三个主要步骤。 物理数据模型是在逻辑数据模型的基础上,考虑各种具体的技术实现因素,进行数据库体系结构设计,真正实现数据在数据

35、库中的存放。 物理数据模型的内容包括确定所有的表和列,定义外键用于确定表之间的关系,基于用户的需求可能进行发范式化等内容。在物理实现上的考虑,可能会导致物理数据模型和逻辑数据模型有较大的不同。 物理数据模型的目标是指定如何用数据库模式来实现逻辑数据模型,以及真正的保存数据。 1.1.13 什么是多值维度,怎么处理多值维度? 在维度建模的数据仓库中,有一种维度表叫多值维度(multivalue dimension)。 多值维度有两种情况,第一种情况是指维度表中的某个属性字段同时有多个值,第二种情况是事实表在某个维度表中有多条对应记录。 处理多值维度最好的办法是降低事实表的粒度

36、可是有些时候,事实表的粒度是不能降低的,多值维度的出现是无法避免的。这时,能够采用桥接表技术进行处理。在维度表属性间建立桥接表。这个桥接表能够解决维度属性之间的多对多关系,也解决掉的维度表的多值维度问题。 总之,多值维度是应该尽量避免的,它给数据处理带来了很大的麻烦。如果多值维度不能避免的话,应该建立桥接表来进行处理。 1.1.14 什么是缓慢变化维?怎么处理缓慢变化维? 缓慢变化维(Slowly Changing Dimensions、SCD)。缓慢变化维的提出是因为在现实世界中,维度的属性并不是静态的,它会随着时间的流失发生缓慢的变化。这种随时间发生变化的维度我们一般称之为缓慢

37、变化维,而且把处理维度表的历史变化信息的问题称为处理缓慢变化维的问题,有时也简称为处理SCD的问题。 处理缓慢变化维的方法一般分为三种方式。 第一种方式是直接覆盖原值。这样处理,最容易实现,可是没有保留历史数据,无法分析历史变化信息。 第二种方式是添加维度行。这样处理,需要代理键的支持。实现方式是当有维度属性发生变化时,生成一条新的维度记录,主键是新分配的代理键,经过自然键能够和原维度记录保持关联。 第三种方式是添加属性列。这种处理的实现方式是对于需要分析历史信息的属性添加一列,来记录该属性变化前的值,而本属性字段使用TYPE 1来直接覆盖。这种方式的优点是能够同时分析当前及前一次变化

38、的属性值,缺点是只保留了最后一次变化信息。 在实际建模中,我们能够联合使用三种方式,也能够对一个维度表中的不同属性使用不同的方式,这些,都需要根据实际情况来决定,但目的都是一样的,就是能够支持方便的分析历史变化情况。 1.1.15 当前有两种比较通用的数据仓库建模方式 一种是维度建模,另一种是三范式建模。 1.1.16 数据仓库的两种架构和各自特点 星形架构(聚合速度快,占有存储空间小) 雪花型架构的特点(节省存储空间,一定程序上的范式,聚合速度慢) 1.1.17 如何处理海量数据的处理 选用优秀的数据库工具 编写优良的程序代码 分区操作 建立广泛的索引 建立缓

39、存机制 加大虚拟内存 对数据进行分批次操作 使用临时表和中间表 优化SQL查询语句 使用文本格式进行处理 定制强大 的清洗规则和出错处理机制 建立视力或者物化视图 避免使用32位机 考虑操作系统问题 使用数据仓库和多维数据库存储 使用采样数据进行数据挖掘 1.1.18 Cube的几种存储方式? MOLAP,ROLAP,HOLAP 1.2 数据分析 1.3 数据挖掘 1.3.1 举例几种挖掘算法? 决策树,聚类,时间序列,贝叶斯,逻辑回归,神经网络,关联,线性回归,序列聚类 1.3.2 挖掘结构,挖掘模型,DMX?

移动网页_全站_页脚广告1

关于我们      便捷服务       自信AI       AI导航        抽奖活动

©2010-2026 宁波自信网络信息技术有限公司  版权所有

客服电话:0574-28810668  投诉电话:18658249818

gongan.png浙公网安备33021202000488号   

icp.png浙ICP备2021020529号-1  |  浙B2-20240490  

关注我们 :微信公众号    抖音    微博    LOFTER 

客服