栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > .Net

Vb.net/Uipath double类型运算

.Net 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Vb.net/Uipath double类型运算

发现两个double类型(两个数值是一样的)相减,所得出的值不是0:

 

Now的值:

 

 

Before的值:

 

两个一样的值相减:

 

结果是-4.33680868994202E-19

 

因为cdbl是采用二进制的形式表示的,我们尝试用tostring(“E”)表示:

 

 

 

所以二进制的形式其实是减不尽的,当进行double类型运算这边有两个解决方案:

方案一(不推荐):

采用Math.Round,但是要知道保留多少位数,我这边用

Math.Round((dt_MTDRegion_NI.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y(0).ToString = "SCN" Andy(2).ToString = "M&A").

Sum(Function(y)CDbl(y(5).ToString)) / 1000) -

dtDateRange.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y("ADV-Southern NI M&A").ToString<> "").

Sum(Function(y)CDbl(y("ADV-Southern NI M&A").ToString)),5)

 

保留5位小数

 

方案二(推荐):

使用decimal.parse()转换double类型运算:

 

dt_MTDRegion_NI.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y(0).ToString = "SCN" Andy(2).ToString = "M&A").

Sum(Function(y)Decimal.Parse(y(5).ToString)) / 1000 -

dtDateRange.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y("ADV-Southern NIM&A").ToString <> "").

Sum(Function(y)Decimal.Parse(y("ADV-Southern NI M&A").ToString))

 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/910700.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号