原始问题:
Golang中的楼层号不正确
将Math.Floor与float变量一起使用时出现问题(向下舍入/截断精度部分)。我该怎么做呢?
package mainimport ( "fmt" "math")func main() { var st float64 = 1980 var salePrice1 = st * 0.1 / 1.1 fmt.Printf("%T:%vn", salePrice1, salePrice1) var salePrice2 = math.Floor(st * 0.1 / 1.1) fmt.Printf("%T:%vn", salePrice2, salePrice2)}我预计1980 * 0.1 / 1.1的输出为180,但实际输出为179。”
操场:
输出:
float64:179.99999999999997float64:179
XY问题是在询问您尝试的解决方案,而不是实际问题:XY问题。
显然,这是的货币计算
salePrice1。货币计算使用精确的十进制计算,而不是不精确的二进制浮点计算。
对于货币计算,请使用整数。例如,
package mainimport "fmt"func main() { var st int64 = 198000 // $1980.00 as cents fmt.Printf("%[1]T:%[1]vn", st) fmt.Printf("$%d.%02dn", st/100, st%100) var n, d int64 = 1, 11 fmt.Printf("%d, %dn", n, d) var salePrice1 int64 = (st * n) / d // round down fmt.Printf("%[1]T:%[1]vn", salePrice1) fmt.Printf("$%d.%02dn", salePrice1/100, salePrice1%100) var salePrice2 int64 = ((st*n)*10/d + 5) / 10 // round half up fmt.Printf("%[1]T:%[1]vn", salePrice2) fmt.Printf("$%d.%02dn", salePrice2/100, salePrice2%100) var salePrice3 int64 = (st*n + (d - 1)) / d // round up fmt.Printf("%[1]T:%[1]vn", salePrice1) fmt.Printf("$%d.%02dn", salePrice3/100, salePrice3%100)}游乐场:https :
//play.golang.org/p/HbqVJUXXR-N
输出:
int64:198000$1980.001, 11int64:18000$180.00int64:18000$180.00int64:18000$180.00
参考文献:
每个计算机科学家都应了解的浮点运算法则
通用十进制算术



