douyin2962 2014-07-20 16:03
浏览 147
已采纳

如何计算浮点数的小数位?

I want to check if a float32 has two decimal places or not. My javascript way to do this would look like:

step  := 0.01
value := 9.99

if int(value/step) % 1 == 0 {
    printf("has two decimal places!")
}

The above example also works. However it will not work when step is incorrect as go then cannot properly cast from float64 to int.

Example:

step  := 0.1
value := 9.99

if int(value/step) % 1 == 0 {
    printf("has two decimal places!")
}

Compiler Error: constant 9.99 truncated to integer

When we use dynamic values it will just return true for every case.

So what is the appropriate way to count decimal places?

  • 写回答

3条回答 默认 最新

  • dreinuqm992401 2014-07-20 16:16
    关注

    int value % 1 is always zero!

    I suggest an alternative way:

    value := float32(9.99)
    valuef := value*100
    extra := valuef - float32(int(valuef))
    if extra < 1e-5 {
        fmt.Println("has two decimal places!");
    }
    

    http://play.golang.org/p/LQQ8T6SIY2

    Update

    package main
    
    import (
        "math"
    )
    
    func main() {
        value := float32(9.9990001)
    
        println(checkDecimalPlaces(3, value))
    }
    
    func checkDecimalPlaces(i int, value float32) bool {
        valuef := value * float32(math.Pow(10.0, float64(i)))
        println(valuef)
        extra := valuef - float32(int(valuef))
    
        return extra == 0
    }
    

    http://play.golang.org/p/jXRhHsCYL-

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(2条)

报告相同问题?

悬赏问题

  • ¥15 做个有关计算的小程序
  • ¥15 MPI读取tif文件无法正常给各进程分配路径
  • ¥15 如何用MATLAB实现以下三个公式(有相互嵌套)
  • ¥30 关于#算法#的问题:运用EViews第九版本进行一系列计量经济学的时间数列数据回归分析预测问题 求各位帮我解答一下
  • ¥15 setInterval 页面闪烁,怎么解决
  • ¥15 如何让企业微信机器人实现消息汇总整合
  • ¥50 关于#ui#的问题:做yolov8的ui界面出现的问题
  • ¥15 如何用Python爬取各高校教师公开的教育和工作经历
  • ¥15 TLE9879QXA40 电机驱动
  • ¥20 对于工程问题的非线性数学模型进行线性化