Python浮点到16,12,位值

2024-05-12 18:11:47 发布

您现在位置:Python中文网/ 问答频道 /正文

我正在设法找出舍入误差。我们有一个黑匣子,我们把数字作为浮点数传递给它,然后把它们存储在黑盒子里的内存中以备将来使用。每当我们读出它们时,它们总是不同的。我们被告知它们要么被存储为16位或12位值。我希望编写一个快速的python脚本,它将执行16位和12位值的转换,然后再返回,这样我们就可以比较我们输入的内容和现成的结果。我不知道从哪里开始,所以任何帮助将不胜感激。在


Tags: 内存脚本内容数字误差浮点数位值设法