当精度类型改变时,数字的“真”值也会改变。?

2024-04-25 17:41:11 发布

您现在位置:Python中文网/ 问答频道 /正文

将数据集更改为float32float16,是否会更改数据的“真”值

例如,我有一个值3.6,当我在float64中使用python阅读时,它仍然是3.6,但根据IEEE 754,更改为float32时,它变成3.599999046325684。将数据直接转换为某种浮点,这不是在改变真实的数据库吗


Tags: 数据数据库浮点ieeefloat64float32float16