1. 首页 > Oracle教程 > 正文

Oracle教程FG247-Oracle GoldenGate数据泵配置实战

本文档风哥主要介绍Oracle GoldenGate数据泵(Data Pump)配置的实战操作,包括Oracle GoldenGate数据泵的概念、类型、架构原理、参数配置、创建管理等内容,由风哥教程参考Oracle官方文档GoldenGate文档,适合DBA人员在学习和测试中使用,如果要应用于生产环境则需要自行确认。

Part01-基础概念与理论知识

1.1 Oracle GoldenGate数据泵概念

Oracle GoldenGate数据泵(Data Pump)是一种特殊的Extract进程,用于在源端和目标端之间传输Trail文件。数据泵的主要作用是将本地Trail文件通过网络传输到远程目标端,实现数据的跨网络复制。更多视频教程www.fgedu.net.cn

Oracle GoldenGate数据泵的主要功能:

  • 读取本地Trail文件中的变更数据
  • 通过网络将数据传输到远程目标端
  • 在目标端生成远程Trail文件
  • 提供数据过滤和转换功能
  • 支持加密和压缩传输
  • 实现存储和网络的解耦

1.2 Oracle GoldenGate数据泵类型

Oracle GoldenGate数据泵主要有以下几种类型:

  • 本地数据泵(Local Data Pump):在同一台服务器上读取和写入Trail文件
  • 远程数据泵(Remote Data Pump):将Trail文件传输到远程服务器
  • 级联数据泵(Cascading Data Pump):实现多级数据复制

1.3 Oracle GoldenGate数据泵架构原理

Oracle GoldenGate数据泵架构工作原理:

  • 读取本地Trail:数据泵读取Extract进程生成的本地Trail文件
  • 数据缓冲:将数据缓存在内存中,提高传输效率
  • 网络传输:通过TCP/IP网络将数据传输到目标端
  • 写入远程Trail:在目标端生成远程Trail文件
  • 检查点管理:记录传输位置,支持断点续传
风哥提示:数据泵是GoldenGate架构中的重要组件,特别是在跨机房或跨地域复制场景中。使用数据泵可以实现存储和网络的解耦,提高复制架构的灵活性和可靠性。学习交流加群风哥微信: itpux-com

Part02-生产环境规划与建议

2.1 Oracle GoldenGate数据泵规划

Oracle GoldenGate数据泵规划要点:

# 数据泵命名规范
– 数据泵:DP开头,如DP01、DP02
– 本地数据泵:LDP开头,如LDP01
– 远程数据泵:RDP开头,如RDP01

# 数据泵数量规划
– 小型系统:1个数据泵
– 中型系统:1-2个数据泵
– 大型系统:按业务模块分组,每组1个数据泵

# Trail文件规划
– 本地Trail:存储在源端服务器
– 远程Trail:存储在目标端服务器
– 文件大小:默认100MB,可调整为500MB-1GB

# 网络规划
– 带宽要求:根据数据量评估网络带宽
– 延迟要求:根据业务需求确定可接受延迟
– 安全要求:考虑使用加密传输

2.2 Oracle GoldenGate数据泵参数配置建议

Oracle GoldenGate数据泵参数配置建议:

# 关键参数配置建议
EXTRACT dp01
SETENV (NLS_LANG=”AMERICAN_AMERICA.AL32UTF8″)

PASSTHRU

RMTHOST 192.168.1.100, MGRPORT 7809
RMTTRAIL /oracle/goldengate/dirdat/rt

# 性能参数
FLUSHSECS 1
FLUSHCSECS 100
TCPBUFSIZE 1000000
TCPFLUSHBYTES 1000000

# 压缩参数
COMPRESS
COMPRESSTHRESHOLD 1000

# 加密参数
ENCRYPT AES192
KEYNAME fgedu_key

# 表映射
TABLE fgedu.*;

2.3 Oracle GoldenGate数据泵最佳实践

Oracle GoldenGate数据泵最佳实践:

  • 使用PASSTHRU模式:提高数据传输效率,不进行数据解析
  • 启用压缩:减少网络带宽占用,特别是在广域网环境中
  • 启用加密:确保数据传输安全
  • 调整TCP参数:根据网络环境调整TCP缓冲区大小
  • 监控网络延迟:定期检查网络延迟,确保复制性能
生产环境建议:数据泵配置要考虑网络带宽、延迟、安全性等因素。在跨机房或跨地域复制场景中,建议启用压缩和加密功能。学习交流加群风哥QQ113257174

Part03-生产环境项目实施方案

3.1 Oracle GoldenGate创建数据泵进程

3.1.1 登录源端GoldenGate管理控制台

# 切换到GoldenGate用户
$ su – oracle

# 进入GoldenGate安装目录
$ cd /oracle/goldengate

# 启动GoldenGate命令行界面
$ ./ggsci

Oracle GoldenGate Command Interpreter for Oracle
Version 19.1.0.0.4 OGGCORE_19.1.0.0.0_PLATFORMS_191017.1054_FBO
Linux, x64, 64bit (optimized), Oracle 19c on Oct 18 2019 03:14:54
Operating system character set identified as UTF-8.

Copyright (C) 1995, 2019, Oracle and/or its affiliates. All rights reserved.

GGSCI (fgedu.net.cn) 1>

3.1.2 创建数据泵进程

# 查看当前进程列表
GGSCI (fgedu.net.cn) 2> info all

Program Status Group Lag at Chkpt Time Since Chkpt

MANAGER RUNNING
EXTRACT RUNNING EXT01 00:00:00 00:00:05

# 创建数据泵进程
GGSCI (fgedu.net.cn) 3> add extract dp01, exttrailsource /oracle/goldengate/dirdat/et
Extract DP01 added.

# 添加远程Trail文件
GGSCI (fgedu.net.cn) 4> add rmttrail /oracle/goldengate/dirdat/rt, extract dp01, megabytes 500
RMTTRAIL added.

# 验证数据泵进程创建
GGSCI (fgedu.net.cn) 5> info all

Program Status Group Lag at Chkpt Time Since Chkpt

MANAGER RUNNING
EXTRACT RUNNING EXT01 00:00:00 00:00:05
EXTRACT STOPPED DP01 00:00:00 00:00:00

3.2 Oracle GoldenGate配置数据泵参数

3.2.1 编辑数据泵参数文件

# 编辑数据泵参数文件
GGSCI (fgedu.net.cn) 6> edit params dp01

# 输入以下内容
EXTRACT dp01
SETENV (NLS_LANG=”AMERICAN_AMERICA.AL32UTF8″)

# 使用PASSTHRU模式,提高传输效率
PASSTHRU

# 目标端信息
RMTHOST 192.168.1.100, MGRPORT 7809
RMTTRAIL /oracle/goldengate/dirdat/rt

# 性能参数
FLUSHSECS 1
FLUSHCSECS 100
TCPBUFSIZE 1000000
TCPFLUSHBYTES 1000000

# 压缩参数
COMPRESS
COMPRESSTHRESHOLD 1000

# 表映射
TABLE fgedu.fgedu_orders;
TABLE fgedu.fgedu_customers;
TABLE fgedu.fgedu_products;

# 保存并退出
# 按Esc键,输入:wq保存

3.2.2 验证参数配置

# 查看数据泵参数文件
GGSCI (fgedu.net.cn) 7> view params dp01

EXTRACT dp01
SETENV (NLS_LANG=”AMERICAN_AMERICA.AL32UTF8″)

PASSTHRU

RMTHOST 192.168.1.100, MGRPORT 7809
RMTTRAIL /oracle/goldengate/dirdat/rt

FLUSHSECS 1
FLUSHCSECS 100
TCPBUFSIZE 1000000
TCPFLUSHBYTES 1000000

COMPRESS
COMPRESSTHRESHOLD 1000

TABLE fgedu.fgedu_orders;
TABLE fgedu.fgedu_customers;
TABLE fgedu.fgedu_products;

# 检查参数语法
GGSCI (fgedu.net.cn) 8> checkprm dp01

Parameter file check successful.
No errors found in parameter file.

3.3 Oracle GoldenGate启动和管理数据泵

3.3.1 启动数据泵进程

# 启动数据泵进程
GGSCI (fgedu.net.cn) 9> start extract dp01

Sending START request to MANAGER …
EXTRACT DP01 starting

# 验证数据泵进程状态
GGSCI (fgedu.net.cn) 10> info all

Program Status Group Lag at Chkpt Time Since Chkpt

MANAGER RUNNING
EXTRACT RUNNING EXT01 00:00:00 00:00:05
EXTRACT RUNNING DP01 00:00:00 00:00:03

# 查看数据泵详细信息
GGSCI (fgedu.net.cn) 11> info extract dp01, detail

EXTRACT DP01 Last Started 2026-04-03 13:00:00 Status RUNNING
Checkpoint Lag 00:00:00 (updated 00:00:03 ago)
Process ID 34567
Log Read Checkpoint File /oracle/goldengate/dirdat/et000000
2026-04-03 13:00:00 RBA 345678

Target Extract Trails:

Remote Trail Name Seqno RBA Max MB
/oracle/goldengate/dirdat/rt 0 345678 500

Remote Server Information:
Host: 192.168.1.100
Port: 7809
Status: Connected

3.3.2 监控数据泵进程

# 查看数据泵统计信息
GGSCI (fgedu.net.cn) 12> stats extract dp01

Sending STATS request to EXTRACT DP01 …

Start of Statistics at 2026-04-03 13:05:00.

Extracting from FGEDU.FGEDU_ORDERS to FGEDU.FGEDU_ORDERS:

*** Total statistics since 2026-04-03 13:00:00 ***
Total inserts 150.00
Total updates 80.00
Total deletes 20.00
Total discards 0.00
Total operations 250.00
Total bytes 125000.00
Compression ratio 3.50:1

Extracting from FGEDU.FGEDU_CUSTOMERS to FGEDU.FGEDU_CUSTOMERS:
Total inserts 100.00
Total updates 50.00
Total deletes 10.00
Total discards 0.00
Total operations 160.00
Total bytes 80000.00
Compression ratio 3.20:1

End of Statistics.

# 查看网络传输统计
GGSCI (fgedu.net.cn) 13> send extract dp01, report

Sending REPORT request to EXTRACT DP01 …

Report written to /oracle/goldengate/dirrpt/DP01.rpt

GGSCI (fgedu.net.cn) 14> shell cat /oracle/goldengate/dirrpt/DP01.rpt

Network statistics:
Bytes sent: 205000
Bytes compressed: 58571
Compression ratio: 3.50:1
Network latency: 2ms
Average throughput: 1000 KB/s

风哥提示:数据泵进程启动后,要密切关注其网络传输统计信息。如果压缩比过低或网络延迟过高,可能需要调整参数或优化网络环境。更多学习教程公众号风哥教程itpux_com

Part04-生产案例与实战讲解

4.1 Oracle GoldenGate本地数据泵配置案例

以下是一个本地数据泵配置的完整案例:

# 场景:在同一台服务器上使用数据泵传输Trail文件

# 1. 创建数据泵进程
GGSCI (fgedu.net.cn) 15> add extract dp_local, exttrailsource /oracle/goldengate/dirdat/et
Extract DP_LOCAL added.

GGSCI (fgedu.net.cn) 16> add rmttrail /oracle/goldengate/dirdat/rt, extract dp_local, megabytes 500
RMTTRAIL added.

# 2. 配置参数文件
GGSCI (fgedu.net.cn) 17> edit params dp_local

EXTRACT dp_local
SETENV (NLS_LANG=”AMERICAN_AMERICA.AL32UTF8″)

# 使用PASSTHRU模式
PASSTHRU

# 本地传输(使用localhost)
RMTHOST localhost, MGRPORT 7809
RMTTRAIL /oracle/goldengate/dirdat/rt

# 性能参数
FLUSHSECS 1
FLUSHCSECS 100

# 表映射
TABLE fgedu.fgedu_orders;
TABLE fgedu.fgedu_customers;

# 3. 启动数据泵
GGSCI (fgedu.net.cn) 18> start extract dp_local

Sending START request to MANAGER …
EXTRACT DP_LOCAL starting

# 4. 验证状态
GGSCI (fgedu.net.cn) 19> info extract dp_local

EXTRACT DP_LOCAL Last Started 2026-04-03 13:15:00 Status RUNNING
Checkpoint Lag 00:00:00 (updated 00:00:02 ago)
Log Read Checkpoint File /oracle/goldengate/dirdat/et000000
2026-04-03 13:15:00 RBA 456789

# 5. 查看统计信息
GGSCI (fgedu.net.cn) 20> stats extract dp_local

Sending STATS request to EXTRACT DP_LOCAL …

Start of Statistics at 2026-04-03 13:20:00.

Extracting from FGEDU.FGEDU_ORDERS to FGEDU.FGEDU_ORDERS:
Total inserts 200.00
Total updates 100.00
Total deletes 25.00
Total operations 325.00

Extracting from FGEDU.FGEDU_CUSTOMERS to FGEDU.FGEDU_CUSTOMERS:
Total inserts 150.00
Total updates 75.00
Total deletes 15.00
Total operations 240.00

End of Statistics.

4.2 Oracle GoldenGate远程数据泵配置案例

以下是一个远程数据泵配置的完整案例,包含加密和压缩:

# 场景:跨机房复制,启用加密和压缩

# 1. 配置钱包(用于加密)
GGSCI (fgedu.net.cn) 21> create wallet
Created wallet at /oracle/goldengate/wallet.

GGSCI (fgedu.net.cn) 22> open wallet
Wallet opened.

GGSCI (fgedu.net.cn) 23> add masterkey
Master key added.

GGSCI (fgedu.net.cn) 24> add keyname fgedu_key
Keyname FGEDU_KEY added.

# 2. 创建数据泵进程
GGSCI (fgedu.net.cn) 25> add extract dp_remote, exttrailsource /oracle/goldengate/dirdat/et
Extract DP_REMOTE added.

GGSCI (fgedu.net.cn) 26> add rmttrail /oracle/goldengate/dirdat/rt, extract dp_remote, megabytes 1000
RMTTRAIL added.

# 3. 配置参数文件
GGSCI (fgedu.net.cn) 27> edit params dp_remote

EXTRACT dp_remote
SETENV (NLS_LANG=”AMERICAN_AMERICA.AL32UTF8″)

# 使用PASSTHRU模式
PASSTHRU

# 远程目标端信息
RMTHOST 192.168.2.100, MGRPORT 7809
RMTTRAIL /oracle/goldengate/dirdat/rt

# 性能参数
FLUSHSECS 1
FLUSHCSECS 100
TCPBUFSIZE 2000000
TCPFLUSHBYTES 2000000

# 压缩参数
COMPRESS
COMPRESSTHRESHOLD 1000

# 加密参数
ENCRYPT AES192
KEYNAME fgedu_key

# 表映射
TABLE fgedu.fgedu_orders;
TABLE fgedu.fgedu_customers;
TABLE fgedu.fgedu_products;
TABLE fgedu.fgedu_order_items;

# 4. 启动数据泵
GGSCI (fgedu.net.cn) 28> start extract dp_remote

Sending START request to MANAGER …
EXTRACT DP_REMOTE starting

# 5. 验证状态
GGSCI (fgedu.net.cn) 29> info extract dp_remote

EXTRACT DP_REMOTE Last Started 2026-04-03 13:30:00 Status RUNNING
Checkpoint Lag 00:00:00 (updated 00:00:03 ago)
Log Read Checkpoint File /oracle/goldengate/dirdat/et000000
2026-04-03 13:30:00 RBA 567890

# 6. 查看网络统计
GGSCI (fgedu.net.cn) 30> stats extract dp_remote

Sending STATS request to EXTRACT DP_REMOTE …

Start of Statistics at 2026-04-03 13:35:00.

Extracting from FGEDU.FGEDU_ORDERS to FGEDU.FGEDU_ORDERS:
Total inserts 500.00
Total updates 250.00
Total deletes 50.00
Total operations 800.00
Total bytes 400000.00
Compression ratio 4.00:1
Encryption: AES192

End of Statistics.

4.3 Oracle GoldenGate数据泵常见问题处理

4.3.1 数据泵无法连接到目标端

# 问题现象:数据泵无法连接到目标端
GGSCI (fgedu.net.cn) 31> info extract dp01

EXTRACT DP01 Last Started 2026-04-03 13:40:00 Status ABENDED

# 查看错误报告
GGSCI (fgedu.net.cn) 32> view report dp01

2026-04-03 13:40:00 ERROR OGG-01224 Oracle GoldenGate Capture for Oracle, dp01.prm: TCP/IP error 111 (Connection refused).
2026-04-03 13:40:00 ERROR OGG-01668 Oracle GoldenGate Capture for Oracle, dp01.prm: PROCESS ABENDING.

# 分析原因:目标端Manager进程未启动或防火墙阻止

# 解决方案1:检查目标端Manager进程
# 在目标端执行
GGSCI (fgedu-target.net.cn) 1> info manager

# 如果Manager未启动,启动它
GGSCI (fgedu-target.net.cn) 2> start manager

# 解决方案2:检查网络连接
$ ping 192.168.1.100
PING 192.168.1.100 (192.168.1.100) 56(84) bytes of data.
64 bytes from 192.168.1.100: icmp_seq=1 ttl=64 time=0.5 ms

$ telnet 192.168.1.100 7809
Trying 192.168.1.100…
Connected to 192.168.1.100.
Escape character is ‘^]’.

# 解决方案3:检查防火墙设置
# 确保目标端7809端口开放

# 重新启动数据泵
GGSCI (fgedu.net.cn) 33> start extract dp01

4.3.2 数据泵传输延迟过高

# 问题现象:数据泵传输延迟过高
GGSCI (fgedu.net.cn) 34> info extract dp01

EXTRACT DP01 Last Started 2026-04-03 13:50:00 Status RUNNING
Checkpoint Lag 00:45:00 (updated 00:00:05 ago)

# 查看网络统计
GGSCI (fgedu.net.cn) 35> stats extract dp01

Sending STATS request to EXTRACT DP01 …

# 分析原因:网络带宽不足或TCP参数配置不当

# 解决方案1:调整TCP参数
GGSCI (fgedu.net.cn) 36> edit params dp01
# 增加以下参数:
TCPBUFSIZE 4000000
TCPFLUSHBYTES 4000000

# 解决方案2:启用压缩
GGSCI (fgedu.net.cn) 37> edit params dp01
# 确保以下参数存在:
COMPRESS
COMPRESSTHRESHOLD 500

# 解决方案3:优化网络环境
# – 增加网络带宽
# – 使用专线连接
# – 优化路由路径

# 重启数据泵
GGSCI (fgedu.net.cn) 38> stop extract dp01
GGSCI (fgedu.net.cn) 39> start extract dp01

# 监控效果
GGSCI (fgedu.net.cn) 40> info extract dp01

EXTRACT DP01 Last Started 2026-04-03 14:00:00 Status RUNNING
Checkpoint Lag 00:00:05 (updated 00:00:02 ago)

生产环境建议:数据泵问题处理要及时,避免数据积压。建议配置监控告警,当网络连接失败或延迟过高时自动通知DBA。from oracle:www.itpux.com

Part05-风哥经验总结与分享

5.1 Oracle GoldenGate数据泵配置总结

Oracle GoldenGate数据泵配置的关键要点:

  • 进程规划:根据网络环境和业务需求合理规划数据泵配置
  • 参数配置:根据网络带宽和延迟调整TCP参数
  • 安全传输:在跨机房或跨地域复制中启用加密
  • 压缩传输:启用压缩减少网络带宽占用
  • 监控管理:建立完善的监控体系,及时发现和处理问题

5.2 Oracle GoldenGate数据泵检查清单

Oracle GoldenGate数据泵部署检查清单:

# 部署前检查清单
□ 目标端Manager进程是否已启动
□ 网络连接是否正常(ping、telnet测试)
□ 防火墙端口是否已开放
□ 目标端Trail文件路径是否存在且权限正确
□ 加密配置是否正确(如启用加密)

# 部署后检查清单
□ 数据泵进程状态是否为RUNNING
□ 是否能成功连接到目标端
□ 检查点是否正常更新
□ 统计信息是否正常增长
□ 网络延迟是否在可接受范围内
□ 压缩比是否正常

5.3 Oracle GoldenGate数据泵性能优化

Oracle GoldenGate数据泵性能优化建议:

  • 使用PASSTHRU模式:避免不必要的数据解析,提高传输效率
  • 调整TCP参数:根据网络环境调整TCPBUFSIZE和TCPFLUSHBYTES
  • 启用压缩:减少网络带宽占用,特别是在广域网环境中
  • 优化网络环境:使用专线连接,减少网络延迟
  • 监控网络性能:定期检查网络延迟和带宽使用情况
  • 合理设置压缩阈值:根据数据特点设置COMPRESSTHRESHOLD
风哥提示:GoldenGate数据泵是跨网络数据复制的关键组件,配置不当会导致数据延迟或传输失败。建议在生产环境部署前,先在测试环境充分验证配置的正确性和网络性能。更多视频教程www.fgedu.net.cn

本文由风哥教程整理发布,仅用于学习测试使用,转载注明出处:http://www.fgedu.net.cn/10327.html

联系我们

在线咨询:点击这里给我发消息

微信号:itpux-com

工作日:9:30-18:30,节假日休息