用于将Binance智能链区块链数据导出为CSV或JSON的工具
bsc-etl的Python项目详细描述
以太坊ETL
以太坊ETL允许您将区块链数据转换为方便的格式,如CSV和关系数据库。在
是否要立即查询以太坊数据?使用public dataset in BigQuery。
Full documentation available here。在
快速启动
安装以太坊ETL:
pip3 install ethereum-etl^{pr2}$
导出ERC20和ERC721传输(Schema,Reference):
> ethereumetl export_token_transfers --start-block 0 --end-block 500000\ --provider-uri file://$HOME/Library/Ethereum/geth.ipc --output token_transfers.csv
> ethereumetl export_traces --start-block 0 --end-block 500000\ --provider-uri file://$HOME/Library/Ethereum/parity.ipc --output traces.csv
流块、事务、日志、令牌传送到控制台(Reference):
> pip3 install ethereum-etl[streaming] > ethereumetl stream --start-block 500000 -e block,transaction,log,token_transfer --log-file log.txt \ --provider-uri https://mainnet.infura.io/v3/7aef3f0cd1f64408b163814b22cc643c
查找其他命令here。在
要了解最新版本,请查看回购并致电
> pip3 install -e . > python3 ethereumetl.py
有用的链接
- Schema
- Command Reference
- Documentation
- Exporting the Blockchain
- Querying in Amazon Athena
- Querying in Google BigQuery
- Querying in Kaggle
- Airflow DAGs
- Postgres ETL
运行测试
> pip3 install -e .[dev,streaming] > exportETHEREUM_ETL_RUN_SLOW_TESTS=True > pytest -vv
进行毒物测试
> pip3 install tox > tox
在Docker中运行
- 在
安装Dockerhttps://docs.docker.com/install/
在 - 在
构建docker映像
在> docker build -t ethereum-etl:latest . > docker image ls
- 在
从映像中运行容器
在> docker run -v $HOME/output:/ethereum-etl/output ethereum-etl:latest export_all -s 0 -e 5499999 -b 100000 -p https://mainnet.infura.io > docker run -v $HOME/output:/ethereum-etl/output ethereum-etl:latest export_all -s 2018-01-01 -e 2018-01-01 -p https://mainnet.infura.io
- 在
运行流媒体到控制台或发布/订阅
在> docker build -t ethereum-etl:latest -f Dockerfile . > echo "Stream to console" > docker run ethereum-etl:latest stream --start-block 500000 --log-file log.txt > echo "Stream to Pub/Sub" > docker run -v /path_to_credentials_file/:/ethereum-etl/ --env GOOGLE_APPLICATION_CREDENTIALS=/ethereum-etl/credentials_file.json ethereum-etl:latest stream --start-block 500000 --output projects/<your-project>/topics/crypto_ethereum
使用以太坊ETL的项目
- Google-公共BigQuery以太坊数据集
- Nansen by D5-以太坊分析平台
- 项目
标签: