今天下一个测试程序,遇到下面这个问题:
本意是通过下面获得int64的最大值:
int64(math.Exp2(float64(64-1))-1)
但是,数值的结果却是-9223372036854775808。
请大佬赐教一下。
谢谢!
更多评论
已找到一种方式,就是通过63bit的uint64转成int64,但是不清楚为什么 int64(math.Exp2(float64(64-1))-1) 这样不行?是Exp2内置行数的bug么?
#1
搞清楚几个问题就好
1,math.Exp2返回的值是什么类型的
2,float64二进制下是怎么表示的?float64是不是有精度考虑,精度到多少
#3