2 namedajipai namedajipai 于 2016.03.06 11:54 提问

想问下,VB整除为什么会少了1,是浮点数的误差么?
vb

Dim x& = -11\5
MsgBox x

2个回答

caozhy
caozhy   Ds   Rxr 2016.03.06 12:16
已采纳

没错,负数取整是绝对值-1

WinsenJiansbomber
WinsenJiansbomber   2016.03.06 13:39

-11\5=-3?多年不用VB,最先学的也是VB,最不喜欢的可能也是VB

Csdn user default icon
上传中...
上传图片
插入图片
准确详细的回答,更有利于被提问者采纳,从而获得C币。复制、灌水、广告等回答会被删除,是时候展现真正的技术了!
其他相关推荐
为什么浮点数一定是有误差的
前提: 学习过信号处理,了解到在信号处理中,我们能够处理的都是数字信号,绝对不是模拟信号。数字信号是离散信号,模拟信号是连续信号。在这一思想基础下,思考了为什么会存在浮点数误差问题。为什么不讨论int整型会不会有误差而浮点数一定要考虑误差问题呢?就是因为,本质上我们面对int整型时候,想要处理的数据就是整数,而整数本身就是离散的数据,…… -2,-1,0,1,2 …… ,计算机提供就是完全正确的所有
浮点运算结果为什么会出现误差
在实际编程中,经常会用到浮点运算,大家可能会发现其结果出现误差,与实际期待值不一样。如下C#代码:   float a = 0.65f;   float b = 0.6f;   float c = a - b;   此时c为多少?   0.05?错误!   此时c为0.0499999523!   为什么?   其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数
计算时使用浮点数产生误差的原因分析
今天有人说使用java中的double型进行计算会产生误差其实,这种误差又关java什么事呢?在这一点上,他真的很冤,我们看看用2进制来表示时进制的0.1吧0.1第一次乘20.2    2进制表示为0.0第二次乘20.4    2进制表示为0.00第三次乘20.8   2进制表示为0.000第四次乘20.6   2进制表示为0.0001第五次乘20.
Float和Double表示0.1的误差问题
对于任何一个float类型的浮点数,float类型的包装类Float提供了一个静态方法floatToIntBit(float f)用于获取 与f对应的32位二进制数据流转换为int类型的数据,然后返回这个int类型的数据 float f=0.1F; System.out.println(Float.floatToIntBit(f));//打印1036831949 把得到的数除以2求余数
Java Float类型 减法运算时精度丢失问题
转载地址子:http://www.blogjava.net/jelver/articles/340038.html 原文: package test1; public class Test2 { /** * @param args */ public static void main(String[] args) {    Float xx = 2.0f;
VB运算整除
1)整除就是用来对两个数作除法并返回一个整数,和/(普通除法)不同的是,整除返回的是整数,把后面的小数舍弃(不是四舍五入,是舍弃),所以,x=3,那么5\x就是5\3,结果自然就是1了,如果是5/3,那么结果就是1.666667了,整除把后面的小数部分去掉就是1啊,明白了吗?
浮点数float累加误差分析与解决
一.  浮点数IEEE 754表示方法
浮点数float累加误差解决方式总结
首先是float累加产生误差的原因,该部分转自:http://blog.csdn.net/zhrh0096/article/details/38589067 1.  浮点数IEEE 754表示方法 要搞清楚float累加为什么会产生误差,必须先大致理解float在机器里怎么存储的,具体的表示参考[1] 和 [2], 这里只介绍一下组成 由上图可知(摘在[2]), 浮点数由:
PHP浮点运算结果出现误差原因分析及解决方案
如下: Php代码   float a = 0.65f;   float b = 0.6f;   float c = a - b;     此时c为多少?   0.05?错误!   此时c为0.0499999523!   为什么?   其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数
关于浮点数的误差理解
拜读了Cleve Moler写的博客《Bank Format and Metric Socket Wrenches》,对浮点数又有了进一步的理解。原文的链接地址为 http://blogs.mathworks.com/cleve/2017/04/10/bank-format-and-metric-socket-wrenches/ 本文的内容是对这篇文章部分翻译以及自己的一些理解,让大家能够更加容