sp中的并行httpapi调用

2024-05-19 23:26:17 发布

您现在位置:Python中文网/ 问答频道 /正文

我正在努力实现以下两个目标。在

a.以每个分区一个API的形式调用多个httpapi

b.将所有分区的结果合并到一个数据帧中,保留序列。在

根据我的研究,我可以做以下步骤:

  1. 创建HTTPAPI url字符串序列,然后在一个数据帧中并行化它们。在
  2. 使用mapPartitions调用进行api调用的方法,根据我的理解,该方法将调用每个分区中的api。在

这是正确的方法吗?我如何确保数据到达 在每个分区合并之前。在


Tags: 数据方法字符串apiurl目标步骤序列