栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

C#Float表达式:将结果float转换为int时的奇怪行为

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

C#Float表达式:将结果float转换为int时的奇怪行为

首先,我假设您知道

6.2f *10
由于浮点舍入而不是62(实际上是61.99999809265137的值,用a表示
double
),并且您的问题只是关于为什么两个看似相同的计算导致错误的值。

答案是,对于

(int)(6.2f * 10)
,您将
double
取值61.99999809265137并将其截断为整数,得到61。

对于

float f = 6.2f * 10
,您将采用双精度值61.99999809265137并 四舍五入
到最接近的
float
值62,然后将其截断
float
为整数,结果为62。

练习:解释以下操作序列的结果。

double d = 6.2f * 10;int tmp2 = (int)d;// evaluate tmp2

更新:由于在评论所指出的,表达

6.2f *10
是一个正式的
float
,因为第二参数具有一个隐式转换到
float
其更好比隐式转换
double

实际的问题是允许(但不是必需)编译器使用比正式类型(第11.2.2节)更高精度的中间件。这就是为什么您在不同的系统上看到不同的行为的原因:在表达式中

(int)(6.2f *10)
,编译器可以选择
6.2f * 10
在转换为之前将值保持为高精度中间形式
int
。如果是,则结果为61。如果不是,则结果为62。

在第二个示例中,显式赋值

float
强制四舍五入发生在转换为整数之前。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/470710.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号