ITPub博客

首页 > 大数据 > 数据分析 > 使用ogg将Oracle数据传输到flume刷到kafka(续)之内存设置

使用ogg将Oracle数据传输到flume刷到kafka(续)之内存设置

原创 数据分析 作者:perfect_zq 时间:2019-04-09 20:19:00 1 删除 编辑

flume 环境可以根据不同的需求启动多个进程,并配置多个服务。

内存参数可以修改flume-env.sh 脚本中内存设置:

 export JAVA_OPTS=" -Xms128m -Xmx512m  -Dcom.sun.management.jmxremote"


一般分配如上大小就可以。


对应OGGpump传输段配置内存大小实例如下:

javawriter.bootoptions= -Xmx2048m -Xms256m -XX:-UseGCOverheadLimit -Djava.class.path=/data/ogg_for_bigdata/ggjava/ggjava.jar -Dlog4j.configuration=/data/ogg_for_bigdata/cfg/log4j.properties


可以添加参数  -UseGCOverheadLimit  防止 OOM 出现。

设置好合理的内存后,ogg的pump进程可以正常启动。


info 查看后:

File /data/ogg_for_bigdata/dirdat/ff014656

                     2019-03-22 14:54:59.000996  RBA 126667880


数据实时更新。

查看 stats 进程:

*** Hourly statistics since 2019-04-09 20:00:04 ***

        Total inserts                                    589.00

        Total updates                                    555.00

        Total befores                                    555.00

        Total deletes                                      0.00

        Total discards                                     0.00

        Total operations                                1144.00

进程正常running


内存参数优化是调整进程挂起事务提交失败的一种方式,具体视配置环境而定。

异常报错如下:

Exception received committing transaction: com.goldengate.atg.util.GGException: Unable to commit transaction, STATUS=ABEND

可见内存优化的重要性!!!


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/25174901/viewspace-2640841/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
GoldenGate高级专家、专注Oracle 、Mysql 、Sql server,PGSQL、TIDB等数据库技术咨询顾问;数据迁移、大数据资源整合、NoSQL、NewSQL技术

注册时间:2011-01-01

  • 博文量
    15
  • 访问量
    43693