ITPub博客

首页 > 数据库 > PostgreSQL > Redshift__跨服务器复制表,使用unload和copy命令在S3中实现

Redshift__跨服务器复制表,使用unload和copy命令在S3中实现

原创 PostgreSQL 作者:lusklusklusk 时间:2020-09-10 15:20:28 0 删除 编辑

官方文档
https://docs.aws.amazon.com/zh_cn/redshift/latest/dg/t_Unloading_tables.html
https://docs.aws.amazon.com/zh_cn/redshift/latest/dg/loading-data-files-using-manifest.html

表迁移:利用 RedShift Upload 功能将源服务器的表数据以文件形式导入 S3,再利用 COPY 功能把该文件从 S3 中导入目标服务器的表。如果源服务器和目标服务器不再一个region区域,可以利用S3的跨区复制 S3 bucket Cross-Region Replication把文件从源服务器对应的region区域复制到目标服务器对应的region区域

1、源端执行unload后,源端的表还存在,相当于只是select源端的表,把结果存放到S3的存储桶
2、目标端copy其实是append追加操作,把数据insert到目标表,所以目标端的的表必须存在


源端:
卸载数据,源表lukes_test.univ
unload ('select * from lukes_test.univ')
to 's3://redshift-backtesting-unload-copy/lukes_test.univ'
access_key_id 'XX'
secret_access_key 'YY'


目标端:
复制数据,目标端表lukes_test2.univ
copy lukes_test2.univ
from 's3://redshift-backtesting-unload-copy/lukes_test.univ'
access_key_id 'XX'
secret_access_key 'YY'




源端卸载数据报错
unload ('select * from lukes_test.univ')
to 's3://console.aws.amazon.com/s3/buckets/redshift-backtesting-unload-copy/lukes_test.univ'
access_key_id 'XX'
secret_access_key 'YY'
报错:The S3 bucket addressed by the query is in a different region from this cluster
实际上S3 bucket和redshift集群都在同一个区域,把上面的s3://console.aws.amazon.com/s3/buckets/redshift-backtesting-unload-copy/lukes_test.univ改成s3://redshift-backtesting-unload-copy/lukes_test.univ即可

目标端copy数据报错
copy lukes_test2.univ
from 's3://redshift-backtesting-unload-copy/lukes_test.univ'
报错:Cannot COPY into nonexistent table univ;
目标端的表必须存在才能执行copy动作

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/30126024/viewspace-2718561/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
Welcome to Lukes DB HOME。 Oracle OCM、Mysql OCP, 8年以上DBA工作经验,博客仅记录自己的一个学习过程,不代表完全准确,如有需要,欢迎转载。

注册时间:2015-02-02

  • 博文量
    424
  • 访问量
    726057