2024-05-12 18:11:47 发布
网友
我正在设法找出舍入误差。我们有一个黑匣子,我们把数字作为浮点数传递给它,然后把它们存储在黑盒子里的内存中以备将来使用。每当我们读出它们时,它们总是不同的。我们被告知它们要么被存储为16位或12位值。我希望编写一个快速的python脚本,它将执行16位和12位值的转换,然后再返回,这样我们就可以比较我们输入的内容和现成的结果。我不知道从哪里开始,所以任何帮助将不胜感激。在
NumPy有16-bit floats。对于12位浮点数没有标准。在
>>> import numpy >>> numpy.float16(1.234567890123456789) 1.2344
NumPy有16-bit floats。对于12位浮点数没有标准。在
相关问题 更多 >
编程相关推荐