[c++]float浮点数精度问题
遇到一个问题,AI无论如何都走不到距离自己0.0315cm处的一个点。最后跟踪下来是浮点数精度的问题。因为此时AI的坐标是(123548.758,-214606.125,3982.34863),进行垂直射线往下打的时候,获取的位置是(123548.758,-214606.094, 3982.34863),按理说垂直射线不会产生水平面偏移,最后发现是精度问题。 因为IEEE 754单精度标准,符号位一位,指数位8位,尾数位23位。尾数位表示的最大精度为2^-23^次方,既 1.19X10^(-7)^...