zxcx1996 2021-11-03 15:33 采纳率: 100%
浏览 97
已结题

C# 浮点数和整数乘法问题

C#
int a = 1;
int b = (int)(a * 100 * 0.01f);
打印出来b=0
如果直接使用
int b = (int)(1 * 100 * 0.01f);
打印出来b=1

  • 写回答

2条回答 默认 最新

  • 於黾 2021-11-03 15:41
    关注

    实测,两种写法b都是0.如果把100改1000,答案是9.
    我不知道你拿什么编译的,为什么会不一样。
    你把0.01f改为0.01d,答案就对了。float精度问题。
    或者你不要用(int)来强制转换,而是用round去四舍五入

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 11月11日
  • 已采纳回答 11月3日
  • 创建了问题 11月3日

悬赏问题

  • ¥15 使用C#,asp.net读取Excel文件并保存到Oracle数据库
  • ¥15 C# datagridview 单元格显示进度及值
  • ¥15 thinkphp6配合social login单点登录问题
  • ¥15 HFSS 中的 H 场图与 MATLAB 中绘制的 B1 场 部分对应不上
  • ¥15 如何在scanpy上做差异基因和通路富集?
  • ¥20 关于#硬件工程#的问题,请各位专家解答!
  • ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错,维度不匹配