数值精度保留

panlei

2019-08-02 89c72c2e4865dbb1825345b619da12044180bf82

数值精度保留

 ruleserver/readyDataForRule.go

@@ -85,13 +85,8 @@

// 保留四位小数
func Retain(f float32) (float64) {
    s := strconv.FormatFloat(float64(f), 'f', 4, 64)
    v, err := strconv.ParseFloat(s, 64)
    if err != nil {
        logger.Error("保留四位小数转换错误")
    }
    // float32与float64互转会有位数保留不准的问题
    return v
    value1, _ := strconv.ParseFloat(fmt.Sprintf("%.2f", float64(f)), 64)
    return value1
}
func Decimal(value float32) float64 {
    value1, _ := strconv.ParseFloat(fmt.Sprintf("%.2f", float64(value)), 64)