零碎梦颜 2016-06-19 03:13 采纳率: 100%
浏览 1811
已采纳

double和float精确度问题

我控制台输出(10000.0/3.0)结果为3333.333333333335共18个字符但是double精度是15位啊，我将它转化为float结果为3333.3333但是float的精度是6-7位为什么会这样，新手求解

  • 写回答

2条回答

  • ZSGG_ACM 2016-06-19 03:17
    关注

    精度没问题，是你的输出函数默认以几位输出。比如printf函数。你可以给定精度输出的。比如printf("%.6f")就是输出小数点后6位，希望对你有帮助，希望采纳(⊙o⊙)哦

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题？

  • Java double和float精确度问题 java
    2016-06-19 03:17
    回答 3 已采纳 double的精度和输出的10进制方式的精度没有任何关系。这里说的double float的精度是指它的有效精度。以你的程序为例，它输出 3333.333333333335，很明显最后一位5已经不是
  • double和float精确度问题 java
    2016-06-19 03:13
    回答 2 已采纳 精度没问题，是你的输出函数默认以几位输出。比如printf函数。你可以给定精度输出的。比如printf("%.6f")就是输出小数点后6位，希望对你有帮助，希望采纳(⊙o⊙)哦
  • 对java中关于double和float的相关问题求解答 java 有问必答
    2022-03-03 11:09
    回答 4 已采纳 因为你后面做的是整数除法,返回的是整数不是因为精度损失,而是你在两次计算的时候所用的除法不同,导致结果的不同将后面代码中的除法也改为(a+b+c)/3.0;即可有帮助望采纳~
  • Java double和float精度损失问题
    2021-11-10 14:48
    卡了个卡的博客 一般，我们会用float和double来存储有小数的数据，可能还会用两个浮点型数据进行计算，在某些情况下，float和double会出现精度损失，导致存储的数据或者计算结果出现误差。 举个例子 public class Test { public ...
  • Java基础，float转double java 有问必答 问答团队
    2022-03-17 23:29
    回答 5 已采纳 因为是浮点型，容易出现精度丢失。计算机中计算是转为二进制数进行运算的。而十进制的小数，二进制表示有时不够精确。浮点数值没办法用十进制来精确表示的原因要归咎于CPU表示浮点数的方法。
  • c语言 float 和double的问题 c语言
    2021-10-01 18:23
    回答 2 已采纳 标准输入输出 double a=2.01233; printf("The result is %f.\n",a); printf("The result is %.3f.\n",a); double
  • float和double四舍五入问题 c语言
    2021-09-28 07:25
    回答 3 已采纳 这个四舍五入的结果不一样，不知道和内部二进制表示有没有关系，参考下面： #pragma warning(disable:4996) #define _CRT_SECURE_NO_WARNINGS #
  • java float的精度_java中float和double精度问题
    2021-03-04 01:28
    十一爱吃瓜的博客 背景在java中float赋值给double，会产生精度问题。float a = 2.1f;double b = 3.3;b = a;System.out.println(b);输出为2.0999999046325684。小数的二进制表示问题首先我们要搞清楚下面两个问题：十进制整数如何转化...
  • Java double类型相加问题 java
    2022-10-05 16:02
    回答 4 已采纳 我测试了下，没发现你说的是问题，你这边可以把输入逻辑和运行的错误结果发下没我帮你看下呀 public static void main(String[] args) { Sca
  • java里的二进制小数类型也是double 或者float吗 java
    2021-09-30 09:01
    回答 2 已采纳 java里提供了各种进制数之间的转换。当你在定义一个数的时候，需要告诉编译器这个数是什么进制的（比如声明一个十六进制形式的整数，就要写成 int a = 0x2ABC这样以0x开头），编译器在计算的时
  • java编程问题，主要是Double用法问题 java
    2022-01-05 09:50
    回答 4 已采纳 1.main方法名字写错了，是main，不是mian2.第9号的pareeDouble写错了，是parse，不是paree3.最后的结果想保留2位小数的话，可以写成 System.out.print
  • java中double和float精度丢失问题以及BigDecimal详解
    2022-08-25 16:58
    ycblog.top的博客 java中double和float精度丢失问题以及BigDecimal详解
  • java中两个数据类型float和double的问题
    2016-08-08 15:05
    回答 5 已采纳 float： 1bit（符号位） 8bits（指数位） 23bits（尾数位） double： 1bit（符号位） 11bits（指数位） 52bits（尾数位） 8bits（指数位）意味
  • java float的精度_java中的float和double的精度问题
    2021-02-12 13:59
    网易《了不起的中国制造》的博客 此文解释了为何float的范围比int大(同样4字节)，但有些int是float无法正确表达的(精度丢失)java中的float和double的精度问题1、背景知识在java中没有细讲，只是讲了float占32位(bit)，double占 64位。对于计算机来说...
  • java double float 精度_精确计算java中float和double的精度
    2021-02-27 19:09
    约什的博客 Java中double类型的格式是遵循IEEE 754标准的。尽管数学意义上的小数是连续的，但double仅仅能表示其中的一些离散点，把这些离散点组成的集合记为S，S的大小还是有限的。...IEEE 754中float和double的表...
  • 没有解决我的问题, 去提问

悬赏问题

  • ¥15 oracle集群安装出bug
  • ¥15 关于#python#的问题：自动化测试
  • ¥20 问题请教！vue项目关于Nginx配置nonce安全策略的问题
  • ¥15 教务系统账号被盗号如何追溯设备
  • ¥20 delta降尺度方法，未来数据怎么降尺度
  • ¥15 c# 使用NPOI快速将datatable数据导入excel中指定sheet，要求快速高效
  • ¥15 再不同版本的系统上，TCP传输速度不一致
  • ¥15 高德地图点聚合中Marker的位置无法实时更新
  • ¥15 DIFY API Endpoint 问题。
  • ¥20 sub地址DHCP问题