知识大全数据抽取、清洗与转换及BI项目中ETL设计[2]

Posted 2022-07-16 知

篇首语：要须心地收汗马，孔孟行世目杲杲。本文由小常识网(cha138.com)小编为大家整理，主要介绍了知识大全数据抽取、清洗与转换及BI项目中ETL设计[2]相关的知识，希望对你有一定的参考价值。

数据抽取、清洗与转换及BI项目中ETL设计[2] 以下文字资料是由(全榜网网www.cha138.com)小编为大家搜集整理后发布的内容，让我们赶快一起来看一下吧！

　　与存放DW的数据库系统相同的数据源处理方法

　　这一类数源在设计比较容易一般情况下 DBMS(包括SQLServer Oracle)都会提供数据库链接功能在DW数据库服务器和原业务系统之间建立直接的链接关系就可以写Select 语句直接访问

　　与DW数据库系统不同的数据源的处理方法

　　这一类数据源一般情况下也可以通过ODBC的方式建立数据库链接如SQL Server和Oracle之间如果不能建立数据库链接可以有两种方式完成一种是通过工具将源数据导出成 txt或者是 xls文件然后再将这些源系统文件导入到ODS中另外一种方法通过程序接口来完成

　　对于文件类型数据源( txt xls) 可以培训业务人员利用数据库工具将这些数据导入到指定的数据库然后从指定的数据库抽取或者可以借助工具实现如SQL SERVER 的SSIS服务的平面数据源和平面目标等组件导入ODS中去

　　增量更新问题

　　对于数据量大的系统必须考虑增量抽取一般情况业务系统会记录业务发生的时间可以用作增量的标志每次抽取之前首先判断ODS中记录最大的时间然后根据这个时间去业务系统取大于这个时间的所有记录利用业务系统的时间戳一般情况下业务系统没有或者部分有时间戳

　　数据的清洗转换

　　一般情况下数据仓库分为ODS DW两部分通常的做法是从业务系统到ODS做清洗将脏数据和不完整数据过滤掉再从ODS到DW的过程中转换进行一些业务规则的计算和聚合

cha138/Article/program/SQL/201311/16284

知识大全 数据抽取、清洗与转换及BI项目中ETL设计[2]