数值强制转换精度丢失问题

http://paste.ubuntu.com/26026112/
在做HDUOJ时发现的，输入153 153 计算时5的立方值int类型转换之后值为124，求问为什么在这会发生精度丢失，而我单独写一个pow（5,3）却不会？

写回答
好问题 0 提建议
追加酬金
关注问题
分享
邀请回答
编辑收藏删除结题
收藏举报

5条回答默认最新

关注

码龄粉丝数原力等级 --

被采纳

被点赞

采纳率
龙跃十二博客专家认证 2017-11-24 13:28
关注
32位平台下，int只有4个字节，能表示范围为（-2^31 ~2^31 - 1），看你计算的数是否有溢出
pow函数默认为double类型 8个字节，表示范围很大。

解决无用
评论打赏
分享
举报

评论

按下Enter换行，Ctrl+Enter发表内容

报告相同问题？

关注问题

python数值问题以及转换 python
2022-04-20 13:32

回答 1 已采纳 val_dic = { 'key1':[['time1','value1'],['time2','value2']], 'key2':[['time1','value3'],['time2','val
python数值转换问题 python 有问必答
2021-06-27 18:03

回答 1 已采纳第二个函数，message是个str字符串，应该转换成bites类型，直接用bites函数如图，a就是message
指针地址的问题，数值的转换问题 c语言
2023-02-23 20:48

回答 3 已采纳 int 型 4个字节， p 如果输出十六进制为 194 ，那 p + 9 , 相当于 194 + 4 + 4 + 4 + 4 + 4 + 4 + 4 + 4 + 4 ，按照十六进制，每 16
PHP 解决数值类型转换精度丢失问题
2018-08-02 11:47

shinebxy的博客可以看出原本结果应该是1633的，但是使用了函数intval() 和 (int) 之后结果居然变为了1632了，这是由于浮点类型的数字不能在不丢失一点儿精度的情况下通过内部二进制转换得到结果的，换句话说就是浮点...
matlab画图时，代码报错说数据必须为可转换为双精度的数值 matlab
2022-11-19 13:36

回答 1 已采纳注意到你的m中有两个未知量，一个m0，一个t，需要将这两个未知量都替换为实值才能画图
关于前端数值转换的问题，该如何实现？ javascript 前端有问必答
2021-11-10 13:41

回答 5 已采纳这个结构需要提取数字格式化后再替换，注意js代码用现在最新的，其他的不要增加 <span class="number">10000人阅读</span><br />
前后端数值不一致问题 java vue.js
2022-08-02 12:18

回答 3 已采纳前端 network里就已经不一致了吗？确保后端转换成功了。可以试试返回一个数组 ["3558943447475997550"] 这样看看一致吗？不一致那就说明后端代码有问题。
数值类型的转换与强制转换-Java
2019-04-06 01:34

ClearlightY的博客目录数值类型之间的转换强制类型转换语法格式Math.Round() 数值类型之间的转换 charintbyteshortlongfloatdouble 6个实心箭头箭头表示无信息丢失的转换; 3个虚箭头表示可能有精度损失的转换. 当使用上面两个数值...
matlab 将元胞数组转换为数值数组 matlab 有问必答
2021-12-20 19:50

回答 2 已采纳同学你好，如果你需要转换成1行512列的向量，只需要用cell2mat函数 Data2 = cell2mat(Data2); 如果你需要128行4列，那么 Data2 = cell2mat(Data
JS判断Input数值问题 javascript
2022-07-09 03:19

回答 1 已采纳设置type属性为number的input，这样可以保证输入的为数字。在按钮上绑定点击事件。获取input数据进行类型转换。判断数值大小，弹窗显示结果。 <!DOCTYPE html>
python数值运算问题 python
2022-10-08 15:23

回答 3 已采纳题目呢，公式呢，你不放正确的公式，让我们从你这个鬼代码里猜公式吗
浮点数精度丢失问题
2019-12-05 17:16

starfoxin的博客原则：计算机内部所有的运算都是二进制运算，... 的原则进行转换。但是，大多数情况下，小数部分不能全部被消除，如： 0.15*2 = 0.3 0.3*2 = 0.6 0.6*2 = 1.2 1.2*2 = 2.4 2.4*2 = 4.8 4...
数据必须为可转换为双精度值的数值、日期时间、持续时间或数组。 matlab
2021-10-07 22:31

回答 1 已采纳你好，可以先解出U，然后画图，U有四个解，但是U的平方只有两个解，故可以画两幅图 syms O2 Q U eq = O2 - (4*U.^2*(1-2*Q.^2)+U.*sqrt(16-64*U.^2
JavaScript的精度丢失和隐式类型转换
2018-08-21 20:17

随风丶逆风的博客 +[]，所以输出就变成了+[]的结果，这里+符号会强制转换，执行toNumber()操作，空数组返回数字0。如果在外面加上括号，即({}+[])，那么{}就会被解释为对象，最后返回“[object Object]”。 7、true+true+true === 3 ...
mysql 精度丢失_mysql 字符串数值计算精度丢失
2021-01-19 02:05

泷小渊的博客 truncate(abs('414')/100,2)truncate('414'/100,2)truncate('4.14',2)truncate('4.1400',2)都有精度丢失。TRUNCATE(cast(ABS(字符串)/100 as decimal(15,4)) ,2)上述方法，ABS(字符串)/100得到的应该是double类型,...
没有解决我的问题, 去提问

悬赏问题

¥15 kafka 分区副本增加会导致消息丢失或者不可用吗？
¥15 微信公众号自制会员卡没有收款渠道啊
¥15 stable diffusion
¥100 Jenkins自动化部署—悬赏100元
¥15 关于#python#的问题：求帮写python代码
¥20 MATLAB画图图形出现上下震荡的线条
¥15 关于#windows#的问题：怎么用WIN 11系统的电脑克隆WIN NT3.51-4.0系统的硬盘
¥15 perl MISA分析p3_in脚本出错
¥15 k8s部署jupyterlab，jupyterlab保存不了文件
¥15 ubuntu虚拟机打包apk错误

数值强制转换精度丢失问题

5条回答 默认 最新

悬赏问题

5条回答默认最新