发现两个double类型(两个数值是一样的)相减,所得出的值不是0:
Now的值:
Before的值:
两个一样的值相减:
结果是-4.33680868994202E-19
因为cdbl是采用二进制的形式表示的,我们尝试用tostring(“E”)表示:
所以二进制的形式其实是减不尽的,当进行double类型运算这边有两个解决方案:
方案一(不推荐):
采用Math.Round,但是要知道保留多少位数,我这边用
Math.Round((dt_MTDRegion_NI.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y(0).ToString = "SCN" Andy(2).ToString = "M&A").
Sum(Function(y)CDbl(y(5).ToString)) / 1000) -
dtDateRange.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y("ADV-Southern NI M&A").ToString<> "").
Sum(Function(y)CDbl(y("ADV-Southern NI M&A").ToString)),5)
保留5位小数
方案二(推荐):
使用decimal.parse()转换double类型运算:
dt_MTDRegion_NI.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y(0).ToString = "SCN" Andy(2).ToString = "M&A").
Sum(Function(y)Decimal.Parse(y(5).ToString)) / 1000 -
dtDateRange.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y("ADV-Southern NIM&A").ToString <> "").
Sum(Function(y)Decimal.Parse(y("ADV-Southern NI M&A").ToString))



