ODS数据质量检查脚本开发
ODS数据质量检查脚本开发一、目的ODS层数据加载期间,限于源系统数据质量,会对数据进行一定程度的清洗。在洗洗过程中未知问题可能会造成数据的失真,导致后期数据加工会出错,所以需要实 现ODS层数据加载
ODS 数据质量检查脚本开发 一、目的 ODS 层数据加载期间,限于源系统数据质量,会对数据进行一定程度的清洗。 在洗洗过程中未知问题可能会造成数据的失真,导致后期数据加工会出错,所以需要实现 ODSODS 层数据加载后,层对数据质量的进行一次检核。 二、数据现状 ODS 数据按照层表命名规则,存放在相应的表里。 三、实现 234567SQL 基于计划中前置条件、、、、、产生的查数脚本(即检核规则),编制相应 SHELLODS 的脚本,来判断数据加工结果准确与否,并将核对结果入监控系统表。 相关表结构设计如下: ods_quality_check_list 字段类型 是否主键 备注 字段名 字段英文名 NULL 分行号 char(2) 1 0 proc_no recorddt 会计日期 char(8) 1 0 check_id 检查项编号 char(4) 1 0 checkname 检查项 char(255) 0 0 char(1) 0 0 1 是, 检查结果 check_result 0 否 check_time 检查时间 Char(20) 1 0 ods_quality_check_help 字段类型 是否主键 备注 字段名 字段英文名 NULL checkid 检查项编号 Char(4) 1 0 检查项 check_name Char(255) 0 0 checkhelp 帮助 Char(500) 0 0 ods_quality_check_help 表数据 检查项 帮助(相应出错处理指导,待定) 检查项编号 check_help check_id check_name PDS: 分户帐的核对 1 2 PDS: 明细信息的核对 3 PDS: 产品与账号对应关系 4 PDS: 存款利息 5 CMP: 企业客户信息与账户信息核对 CMP: 交易明细的核对 6 CMP: 分户的核对 7

