数值精度保留

panlei

2019-08-02 89c72c2e4865dbb1825345b619da12044180bf82

 ruleserver/readyDataForRule.go

@@ -85,13 +85,8 @@

// 保留四位小数
func Retain(f float32) (float64) {
   s := strconv.FormatFloat(float64(f), 'f', 4, 64)
   v, err := strconv.ParseFloat(s, 64)
   if err != nil {
      logger.Error("保留四位小数转换错误")
   }
   // float32与float64互转会有位数保留不准的问题
   return v
   value1, _ := strconv.ParseFloat(fmt.Sprintf("%.2f", float64(f)), 64)
   return value1
}
func Decimal(value float32) float64 {
   value1, _ := strconv.ParseFloat(fmt.Sprintf("%.2f", float64(value)), 64)