为什么极限函数只取int作为参数?

2024-04-28 23:49:45 发布

您现在位置:Python中文网/ 问答频道 /正文

我正在使用pyspark并希望获取数据帧的前n行。有一个函数叫做limit。但是,它只接受int作为参数。有没有办法用更大的值来称呼它?此代码将导致异常:

import sys

dataframe = spark.createDataFrame([('Alice',), ('Bob',)])
dataframe.limit(sys.maxsize)

错误:

An error occurred while calling o127.limit. Trace:
py4j.Py4JException: Method limit([class java.lang.Long]) does not exist
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:318)
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:326)
    at py4j.Gateway.invoke(Gateway.java:272)
    at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:132)
    at py4j.commands.CallCommand.execute(CallCommand.java:79)
    at py4j.GatewayConnection.run(GatewayConnection.java:214)
    at java.lang.Thread.run(Thread.java:748)

我认为提取long行是有效的要求,不是吗?你知道吗


Tags: dataframelangsysjavagatewayatcommandslimit
1条回答
网友
1楼 · 发布于 2024-04-28 23:49:45

如问题limit中所述,函数只接受int作为输入。但是sys.maxsize返回long,它显示在exception(limit([class java.lang.Long]))中。为了毫无例外地运行它,您需要将它type cast转换为int。你知道吗

这里是转换的代码段:-你知道吗

import sys

dataframe = spark.createDataFrame([('Alice',), ('Bob',)])
dataframe.limit(int(sys.maxsize))

相关问题 更多 >