zxcx1996 2021-11-03 15:33 采纳率: 100%
浏览 107
已结题

C# 浮点数和整数乘法问题

C#
int a = 1;
int b = (int)(a * 100 * 0.01f);
打印出来b=0
如果直接使用
int b = (int)(1 * 100 * 0.01f);
打印出来b=1

  • 写回答

2条回答 默认 最新

  • 於黾 2021-11-03 15:41
    关注

    实测,两种写法b都是0.如果把100改1000,答案是9.
    我不知道你拿什么编译的,为什么会不一样。
    你把0.01f改为0.01d,答案就对了。float精度问题。
    或者你不要用(int)来强制转换,而是用round去四舍五入

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 11月11日
  • 已采纳回答 11月3日
  • 创建了问题 11月3日

悬赏问题

  • ¥15 想用@vueuse 把项目动态改成深色主题,localStorge里面的vueuse-color-scheme一开始就给我改成了dark,不知道什么原因(相关搜索:背景颜色)
  • ¥20 OPENVPN连接问题
  • ¥15 flask实现搜索框访问数据库
  • ¥15 mrk3399刷完安卓11后投屏调试只能显示一个设备
  • ¥20 白日门传奇少一个启动区服和启动服务器的快捷键,东西都是全的 , 他们说套一个出来就行了 但我就是弄不好,谁看看,
  • ¥100 如何用js写一个游戏云存档
  • ¥15 ansys fluent计算闪退
  • ¥15 有关wireshark抓包的问题
  • ¥15 需要写计算过程,不要写代码,求解答,数据都在图上
  • ¥15 向数据表用newid方式插入GUID问题