作者:uai_128366833952 | 来源:互联网 | 2023-10-11 13:17
首先,我假设您知道6.2f *
10
由于浮点舍入而不是62(实际上是61.99999809265137的值,用a表示double
),并且您的问题只是关于为什么两个看似相同的计算导致错误的值。
答案是,对于(int)(6.2f * 10)
,您将double
取值61.99999809265137并将其截断为整数,得到61。
对于float f = 6.2f * 10
,您将采用双精度值61.99999809265137并 四舍五入
到最接近的float
值62,然后将其截断float
为整数,结果为62。
练习:解释以下操作序列的结果。
double d = 6.2f * 10;
int tmp2 = (int)d;
// evaluate tmp2
更新:由于在评论所指出的,表达6.2f *
10
是一个正式的float
,因为第二参数具有一个隐式转换到float
其更好比隐式转换double
。
实际的问题是允许(但不是必需)编译器使用比正式类型(第11.2.2节)更高精度的中间件。这就是为什么您在不同的系统上看到不同的行为的原因:在表达式中(int)(6.2f *
10)
,编译器可以选择6.2f * 10
在转换为之前将值保持为高精度中间形式int
。如果是,则结果为61。如果不是,则结果为62。
在第二个示例中,显式赋值float
强制四舍五入发生在转换为整数之前。