三文小説_ 2021-11-15 18:14 采纳率: 50%
浏览 52
已结题

float强制转int结果出现异常

img

img


因为处理的是大数的幂运算,用了pow函数,所以用了float型作为返回值,后续强制转换为int后出错,怎么改正呢?

  • 写回答

2条回答 默认 最新

  • CSDN专家-sinJack 2021-11-15 18:17
    关注

    浮点型数据太大了,整数部分超过了int类型所存储的最大范围。整型怎么可能存储的下大数的幂次方。
    这跟你使用pow方法无关。你用循环相乘,最后结果超出了int范围后就是不准确的值了。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 11月23日
  • 已采纳回答 11月15日
  • 创建了问题 11月15日