在python中,小的数字被舍入

2024-04-19 20:18:07 发布

您现在位置:Python中文网/ 问答频道 /正文

我想计算纳秒的时间尺度。你知道吗

>>> N=10
>>> A=10
>>> t = np.linspace(0,A*1e-9,N)
array([0.        , 0.        , 0.        , 0.        , 0.        ,
   0.00000001, 0.00000001, 0.00000001, 0.00000001, 0.00000001])

但是数组正在四舍五入,如何保持所需的精度

A*1e-9/N

Tags: np精度数组array时间尺度linspace
1条回答
网友
1楼 · 发布于 2024-04-19 20:18:07

在我的机器上运行代码时,我得到:

[0.00000000e+00 1.11111111e-09 2.22222222e-09 3.33333333e-09
 4.44444444e-09 5.55555556e-09 6.66666667e-09 7.77777778e-09
 8.88888889e-09 1.00000000e-08]

问题是你的打印选项,似乎没有使用科学记数法。请参阅手册中的this page以了解如何更改。你知道吗

简而言之,您的代码很好,numpy数组的打印可能不适合您的用例。你知道吗

相关问题 更多 >