如何在PYTHON中使用长十进制数

2024-04-26 23:06:26 发布

您现在位置:Python中文网/ 问答频道 /正文

我是python的新手。我试着用Sellmeier方程来计算折射率。这个方程的系数是大量sig图的小数 ( i.e B1 = 1.03961212, B2 = 0.231792344, C1 = 6.00069867×10−3 ... and so on) 在塞尔迈耶公式中有许多分数,这些数字的乘法和平方运算。我最初把它们说成浮点数。然而,这样的过程显然不能用这样的floats来完成。你知道吗

我该怎么办?你知道吗

请帮忙!你知道吗


Tags: andsoonb2分数b1公式sig
1条回答
网友
1楼 · 发布于 2024-04-26 23:06:26

可以使用float64双精度浮点:符号位、11位指数、52位尾数。 但为此,您必须安装64位numpy和

import numpy as np

您可以使用: 第64页你知道吗

相关问题 更多 >