猪小花1号

个人签名

282篇博客

oracle goldengate的两种用法

猪小花1号2018-11-28 15:27

此文已由作者赵欣授权网易云社区发布。

欢迎访问网易云社区,了解更多网易技术产品运营经验。


  自从oracle收购来了goldengate这款产品并以后对它做了一系列改进后,有非常多的用户使用它做数据迁移、etl抽取、复制容灾等等场景。

这里还有两个goldengate的另类用法,也是非常实用。

1.通过dataguard的备库+goldengate直接格式化输出操作的sql
大多数时候我们要检查某些表数据的变化是怎么产生的、何时产生的,在没有打开详细审计监控的时候一般都会使用logminer来操作。
但如果只想提取修改部分表的操作sql而不是要做集体回滚操作、或者不想通过logminer做整体的挖掘审计时logminer操作起来稍显麻烦
在很多oracle场景里都会有dataguard+goldengate使用,那么我们其实可以很简单的利用dataguard的adg+goldengate快速抽取归档,格式化输出我们感兴趣表的相关sql

以下是我们的测试步骤,环境为oracle11.2.2.8+goldengate11.2.1.20:
主库创建测试用户
create user oggtest identified by oracle;
grant connect,resource to oggtest;
打开force logging和最小附加日志
select supplemental_log_data_min from v$database;
alter database add supplemental log data;
select force_logging from v$database;
Alter database force logging;
开启表级补全日志,这里我们使用全库打开补全
alter database add supplemental log data (primary key,unique,foreign key) columns;
创建goldengate需要的用户
create user goldengate identified by oracle;
grant resource, connect, dba to goldengate;
备库上
export LD_LIBRARY_PATH=$ORACLE_HOME/lib
解压缩ogg安装包,创建目录
mkdir trails
./ggsci
CREATE SUBDIRS
创建mgr配置文件
edit param mgr
Port 7809
userid goldengate , password oracle
DYNAMICPORTLIST 9101-9356
在standby备库上只需要配置alo模式的抽取,因为只测试抽取进程,也不需要设置任何检查点
ADD EXTRACT t1,TRANLOG, EXTSEQNO 746, EXTRBA 0
edit param t1
extract t1
USERID goldengate, PASSWORD oracle
DISCARDFILE t1dsc,APPEND,MEGABYTES 50
TRANLOGOPTIONS altarchivelogdest /home/oracle/arch
TRANLOGOPTIONS ARCHIVEDLOGONLY
TRANLOGOPTIONS NOCOMPLETEARCHIVEDLOGONLY
FORMATSQL
EXTTRAIL ./trails/t1
TABLE oggtest.*;

ADD EXTTRAIL ./trails/t1 EXTRACT T1
这里的EXTSEQNO 746是我们测试环境里的归档日志号
都配置完成后start相应进程
主库上测试做insert和update操作
create table oggtest.ogg(a int constraint key1 primary key,b varchar2(100),c varchar2(100),d date default sysdate);
insert into oggtest.ogg(a,b,c,d) values(1,1,1,sysdate);
insert into oggtest.ogg(a,b,c,d) values(2,2,2,sysdate);
insert into oggtest.ogg(a,b,c,d) values(3,3,3,sysdate);
commit;
insert into oggtest.ogg(a,b,c,d) values(4,4,4,sysdate);
insert into oggtest.ogg(a,b,c,d) values(5,5,5,sysdate);
commit;
update oggtest.ogg set b=2 where a=5;
commit;
然后我们在备库./trails/t1000000文件里就可以看到
B,2015-02-24:14:53:05.000000,1424760785,749,
INSERT INTO OGGTEST.OGG (A,B,C,D) VALUES ('1','1','1','2015-02-24:14:53:05');
INSERT INTO OGGTEST.OGG (A,B,C,D) VALUES ('2','2','2','2015-02-24:14:53:05');
INSERT INTO OGGTEST.OGG (A,B,C,D) VALUES ('3','3','3','2015-02-24:14:53:05');
C,
B,2015-02-24:14:53:06.000000,1424760786,749,
INSERT INTO OGGTEST.OGG (A,B,C,D) VALUES ('4','4','4','2015-02-24:14:53:05');
INSERT INTO OGGTEST.OGG (A,B,C,D) VALUES ('5','5','5','2015-02-24:14:53:05');
C,
B,2015-02-24:14:53:49.000000,1424760829,750,
UPDATE OGGTEST.OGG SET B='2' WHERE A='5';
C,
什么时间点,对各个表做了哪些操作就可以很容易的显示出来,
平时这个在备库上的ogg可以不使用,在特定时候可以手工配置需要检查抽取的归档
手工调整新的归档日志去抽取
alter EXTRACT t1,TRANLOG, EXTSEQNO 754, EXTRBA 0
ADD EXTTRAIL ./trails/t1  EXTRACT T1
然后start t1让其运行再去日志记录里检查,如果有新增其他用户下的表要监控修改参数文件即可
比如增加一个表ogg2.test2015的抽取
在t1的参数文件最后增加一行
TABLE ogg2.test2015;
然后输出日志里就可以看到
B,2015-02-24:15:04:45.000000,1424761485,755,
INSERT INTO OGG2.TEST2015 (A,B,C,D) VALUES ('1','1','1','2015-02-24:15:04:45');
C,
B,2015-02-24:15:04:46.000000,1424761486,755,
UPDATE OGG2.TEST2015 SET B='2' WHERE A='1';
这样可以快速定位做操作的sql用来做很多事情。

2.通过goldengate生成平面文件用于数据交换
很多时候我们在不同系统或者db之间交换数据都会用到ETL,比如银行的总行和下面支行之间是用etl抽取出当日数据变化然后输出文本文件压缩后下发,支行再利用etl工具做数据导入。oracle的数据导入hadoop则可以选择sqoop这样的产品。
但是我们知道etl做增量抽取往往都是使用时间戳,包括sqoop也是如此,这样可能会对原始表有一定的修改要求。
而基于oracle日志抽取的goldengate可以很方便的做平面文件输出到HDFS,甚至是直接使用java输出到hive里。
这里我们介绍一下goldengate生产平面文件。


整个结构图如上所示,环境为oracle11.2.2.8+goldengate11.2.1.20+GOLDENGATE ADAPTERS V11.2.1.0.1:
和普通的goldengate部署源和目标都是goldengate不同,源端部署goldengate,目标端部署的是GOLDENGATE ADAPTERS
整个配置过程大家可以参考一下官方手册,主要注意以下几点:
1.defgen文件需要在源端生成然后拷贝到目标端,每次表变化需要重新生成def文件
2.需要通过配置参数文件控制平面文件的生成和分离
3.如果需求是生成表里所有数据的平面文件,需要单独对表所有列做trandata,例如add trandata oggtest.ogg, cols(b,c,d)  这里主键之外的列是b、c、d ,这样的话如果列太多可能会是问题(对早期版本的OGG来说)
4.每个平面文件的大小需要通过内部参数和外部shell做整合,特别是放到hadoop里的时候,因为过多的小平面文件会浪费hadoop的namenode的内存,对性能上也没用好处
具体的配置大家可以参考官方文档,我们简要说明一下实现的效果:
源库上增加
create table oggtest.ogg2(a int constraint key2 primary key,b varchar2(100),c varchar2(100),d date default sysdate);
源库OGG里执行
dblogin userid goldengate, password oracle
add trandata oggtest.ogg2, cols(b,c,d)
在源库上更新表
insert into  oggtest.ogg2(a,b,c,d) values(8,8,8,sysdate);
insert into oggtest.ogg2(a,b,c,d) values(9,9,9,sysdate);
insert into oggtest.ogg(a,b,c,d) values(1,1,1,sysdate);
commit;
update oggtest.ogg2 set b=9 where a=8;
commit;
目标库上可以看到
[oracle@oel5 dirout]$ more pump_OGGTEST_OGG2_2015-02-24_21-41-25_00000_data.dsv.temp
I|8|8|8|2015-02-24:21:41:19
I|9|9|9|2015-02-24:21:41:19
U|8|9|8|2015-02-24:21:41:19
[oracle@oel5 dirout]$ more pump_OGGTEST_OGG_2015-02-24_21-41-25_00001_data.dsv.temp
I|1|1|1|2015-02-24:21:41:19
可以看到OGG自动将平面文件打出来,I表示Insert,U表示update,甚至可以设置delete
不同的表OGG也可以自动分离到不同的文件
通过goldengate我们可以按照各自需求来生成不同的平面文件,比如生成带insert和update的文件用于异构数据库导入操作或者不同oracle之间交换数据
生成只包含行数据的平面文件直接用于hadoop处理,或者oracle做merge导入等等,甚至还可以配置包含update前后值的文件。
最后还需要说一点这个操作同样适用于处理其他数据库比如db2,mysql,sybase。

免费领取验证码、内容安全、短信发送、直播点播体验包及云服务器等套餐

更多网易技术、产品、运营经验分享请点击