使用vb的字符串出现除不尽的小数，就没有办法判断浮点数的精度了

使用vb的字符串出现除不尽的小数，就没有办法判断浮点数的精度了，怎么让浮点数的转换必须除尽？

写回答
好问题 0 提建议
追加酬金
关注问题
分享
邀请回答
编辑收藏删除结题
收藏举报

3条回答默认最新

关注

码龄粉丝数原力等级 --

被采纳

被点赞

采纳率
threenewbee 2016-10-10 09:41
关注
可以对结果进行判断，如果尾数小于一个很小的数，就去掉它。

本回答被题主选为最佳回答 , 对您是否有帮助呢?

解决无用
评论打赏
分享
举报

评论

按下Enter换行，Ctrl+Enter发表内容

查看更多回答(2条)

报告相同问题？

关注问题

使用vb的字符串出现除不尽的小数，就没有办法判断浮点数的精度了
2016-10-10 08:47

回答 3 已采纳可以对结果进行判断，如果尾数小于一个很小的数，就去掉它。
把字符串s转化成相应的双精度浮点数 java
2021-09-23 18:58

回答 1 已采纳参考 java 实现atof函数_SmellyKitty-CSDN博客 atof函数将字符串转换为浮点数,此函数规则如下: 它会扫描参数st
Python 判断某字符串能否转化为浮点数 python
2021-10-23 13:28

回答 1 已采纳 # 判断浮点数 def isfloat(s:str): return isinstance(eval(s), float) s=input() print(isfloat(s)) 有帮助请
vb mysql 字符串转日期_VB常用函数表
2021-02-11 14:04

chao wang的博客 ASP纯ASPVBscript常用函数：1....判断数值正负hex(num): 返回十六进制值直接表示：&Hxx 最大8位oct(num): 返回八进制值直接表示：&Oxx 最大8位sqr(num): 返回平方根 num>0int(num): 取整 ...
如何去判断字符串能否转换为浮点数 python
2022-10-03 16:56

回答 1 已采纳 import re # 方法1 _float_regexp = re.compile(r"^[-+]?(?:\b[0-9]+(?:\.[0-9]*)?|\.[0-9]+\b)(?:[eE][-+]?
python浮点数转化为字符串精度损失 python
2019-06-15 21:48

回答 3 已采纳两个办法，使用字符串，缺点是不方便计算，如果计算，需要手工编写程序模拟10进制运算法则，比较慢，但是好处是精度和长度任意。使用定点数。定点数的原理实际上很简单，就是将一个数字乘以10的n次方，成为
字符串能不能转换成浮点数？ python
2019-07-07 23:43

回答 1 已采纳直接float（x）就可以了，你float（int（x））是什么意思？？
浮点数转字符串
2022-07-07 16:13

taojy的博客 浮点数转字符串
Java语言怎么判断一个浮点数是不是一个整数呢?怎么判断浮点数的小数是0 开发语言
2020-05-09 14:07

回答 2 已采纳可以直接用 Integer.parseInt （String.valueOf(num)）看看能不能转成 int 类型。
val函数转换浮点数给字符串赋值，出现多余的小数怎么办？
2016-10-09 05:46

回答 1 已采纳是浮点数精度有问题导致的，和val没关系，调用toFixed指定浮点数精度 ``` $('#xxx').val(xxxxxx.toFixed(2));//保留2位精度 ``` [
从键盘输入一个字符串，编写程序，找出其中的整数和浮点数并输出。 python
2023-03-11 19:01

回答 3 已采纳我的思路是：遍历整个字符串，判断是数字或者是.的话就暂时存到一个变量temp中，直到遇到下一个非以上两种类型的数据，就将temp添加到结果列表num_list中，这样遍历完成后num_list存储的就
如何判断一个字符串是浮点数还是整数
2020-03-09 17:02

风萧萧成往的博客想要判断一个字符串是浮点数还是小数，可以应用int()或者float即可了。 def isfloat(str_number): try: int(str_number)//如果是浮点数，那么就是报错，原因是这里str_number为字符串 return False except ...
C语言，如何将字符串中的数字单独转为浮点数? c++ c语言
2021-06-26 19:40

回答 3 已采纳参考代码如下，将你的字符串输入到窗口即可输出： #include <cstdlib> #include <math.h> #include <stdio.h>
IEEE754相互转换.bas IEEE754.bas，ModbusRTU协议中浮点数转换VB6源代码
2019-09-28 23:50

Public Function MODBUSLongtoFloat32(input1 As String) As Double ‘输入格式16进制：33 46 5E 3F字符串格式 '如果是10进制数可以调用 hex(dex1) & " " & hex(dex2) & " " & hex(dex3) & " " & hex(dex4) Public ...
plc字符串怎么计算字节数_如何进行PLC字符与数据之间转换的详细资料概述
2020-12-24 09:53

Levana Dong的博客但是很多人往往不是太了解ASCII字符及字符与数据之间如何转换，本文就着重介绍字符与数据之间如何进行转换。有些设备在通信过程中发送的报文是ASCII形式，那么就需要将其转换成数据。一、名词认识1. ASCII字符字符是...
没有解决我的问题, 去提问

悬赏问题

¥15 基于卷积神经网络的声纹识别
¥15 Python中的request，如何使用ssr节点，通过代理requests网页。本人在泰国，需要用大陆ip才能玩网页游戏，合法合规。
¥100 为什么这个恒流源电路不能恒流？
¥15 有偿求跨组件数据流路径图
¥15 写一个方法checkPerson，入参实体类Person，出参布尔值
¥15 我想咨询一下路面纹理三维点云数据处理的一些问题，上传的坐标文件里是怎么对无序点进行编号的，以及xy坐标在处理的时候是进行整体模型分片处理的吗
¥15 CSAPPattacklab
¥15 一直显示正在等待HID—ISP
¥15 Python turtle 画图
¥15 stm32开发clion时遇到的编译问题

使用vb的字符串出现除不尽的小数，就没有办法判断浮点数的精度了

3条回答 默认 最新

悬赏问题

3条回答默认最新