通过使用下面的代码运行一些玩具示例,我可以得到一些非常奇怪的观察结果
#include <iostream>
#include <iomanip>
#include <string>
#include <cfenv>
#include <cmath>
void test_c(const bool rounding_up, const float x)
{
#pragma STDC FENV_ACCESS ON
float y = 1e-6;
if (rounding_up){
std::fesetround(FE_UPWARD);
std::cout << std::setprecision(10) << "x_up_python " << x << "\n";
std::cout << std::setprecision(10) << "y_up_c++ " << y << "\n";
}
else{
std::fesetround(FE_DOWNWARD);
std::cout << std::setprecision(10) << "x_down_python " << x << "\n";
std::cout << std::setprecision(10) << "y_down_c++ " << y << "\n";
}
}
extern "C" {
void test(const bool rounding_up, const float x){
test_c(rounding_up, x);
}
}
import os
import numpy as np
from numpy.ctypeslib import ndpointer
import ctypes
from ctypes import cdll
from ctypes import *
os.system('g++ -c -fPIC post_processing.cpp -o post_processing.o')
os.system('g++ -shared -Wl,-soname,lib_rounding.so -o lib_rounding.so post_processing.o')
lib = cdll.LoadLibrary('./lib_rounding.so')
def test(x, rounding_up=True):
lib.test.restype = None
lib.test.argtypes = [ctypes.c_bool, ctypes.c_float]
lib.test(rounding_up, x)
if __name__ == '__main__':
x = 1e-6
test(x, True)
test(x, False)
首先,让我们看一下y
。如果舍入模式设置为FE_UPWARD
,则结果值为9.999999975e-07
。相比之下,如果舍入模式设置为FE_DOWNWARD
,则结果值为9.999999974e-07
其次,如果我在python
脚本中定义x=1e-6
,然后使用ctype
将x
传递给这个C函数。结果是相反的,即FE_UPWARD
返回9.999999975e-07
和FE_DOWNWARD
返回1.000000111e-06
所以,我总共有两个问题:
对于第一个观察,为什么它们都小于1e-6
至于第二个观察,为什么这两个值的关系是相反的
多谢各位
对于第一个问题,浮点二进制中的1e-6是一个重复分数,因此精度会丢失。单精度浮点为尾数保留23位,其余的被舍入,最低有效位被舍入,因此当以更高的精度写入时,数字可能会显得更小或更大。23位转换为大约7位十进制精度
对于第二个问题,更改舍入模式是粘性的,在调用C++函数后不会恢复。它还影响Python通过ctypes将Python浮点转换为C浮点。将代码更改为以下内容以保存和恢复原始模式,您将获得一致性:调试器中
x
浮点的IEEE十六进制转储在一种模式下显示0x358637BD
,在另一种模式下显示0x358637BE
,因此在Python浮点(在CPython内部为C double)到C浮点转换期间尾数(最后23位)的舍入方式不同。y
浮点数始终为0x358637BD
相关问题 更多 >
编程相关推荐