如何有效地将Postgres中的数据传输到Amazon Redshift?

2024-04-20 05:28:30 发布

您现在位置:Python中文网/ 问答频道 /正文

我的本地Postgres数据库中有很多数据。 我需要对本地数据库中的数据进行反规范化,并获得一个特定格式的查询集,该查询集可以直接使用Python加载到Redshift表中。你知道吗

我确实有一些查询可以在本地数据库上运行,并以特定格式获取查询集,这些查询集需要直接加载到Redshift。你知道吗

但是有太多的数据,我需要从本地移动到红移。目前,我能想到的唯一更好的方法是将我得到的queryset导出到.csv文件中,该文件将上载到S3 bucket中,该bucket将使用Python直接复制到Redshift表中。你知道吗

我只是想知道有没有别的办法。类似于直接从Postgres数据库流到AWS Redshift

请让我知道上传和转储.csv是更好的方法还是有其他有效的方法来实现这一点。你知道吗


Tags: 文件csv数据方法aws数据库redshifts3