深度学习loss下降,精度不提高,怎么解? 5C

深度学习
RNN+FC
loss下降,精度不提高,怎么解?
model.fit(x_train,y_train,batch_size=64,epochs=10)
Epoch 1/10
50000/50000 [==============================] - 13s 251us/step - loss: 0.4816 - acc: 0.0011
Epoch 2/10
50000/50000 [==============================] - 11s 222us/step - loss: 0.3131 - acc: 0.0016
Epoch 3/10
50000/50000 [==============================] - 11s 221us/step - loss: 0.1625 - acc: 0.0025
Epoch 4/10
50000/50000 [==============================] - 11s 211us/step - loss: 0.0714 - acc: 0.0029
Epoch 5/10
50000/50000 [==============================] - 10s 208us/step - loss: 0.0303 - acc: 0.0031
Epoch 6/10
50000/50000 [==============================] - 11s 219us/step - loss: 0.0127 - acc: 0.0031
Epoch 7/10
50000/50000 [==============================] - 11s 213us/step - loss: 0.0059 - acc: 0.0031
Epoch 8/10
50000/50000 [==============================] - 11s 211us/step - loss: 0.0031 - acc: 0.0031
Epoch 9/10
50000/50000 [==============================] - 11s 213us/step - loss: 0.0018 - acc: 0.0031
Epoch 10/10
50000/50000 [==============================] - 11s 215us/step - loss: 0.0013 - acc: 0.0031

qq_41199755
fade冰 楼主解决了吗?
6 个月之前 回复
weixin_38439238
weixin_38439238 请问问题解决了吗,可以扣扣讨论下吗,我的扣扣是1349440594,谢谢
7 个月之前 回复

2个回答

遇到同样的问题,我把学习率调小之后可以了,但是你的acc是不是太低了一些,可能还有别的原因

精度似乎已经很准了呢,是不是梯度下降时步长选的不合适呢?

qq_40760112
qq_40760112 精度已经很准了,你是想笑死我吧?
5 个月之前 回复
Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
[深度学习] loss不下降的解决方法
链接:https://blog.ailemon.me/2019/02/26/solution-to-loss-doesnt-drop-in-nn-train/ 当我们训练一个神经网络模型的时候,我们经常会遇到这样的一个头疼的问题,那就是,神经网络模型的loss值不下降,以致我们无法训练,或者无法得到一个效果较好的模型。导致训练时loss不下降的原因有很多,而且,更普遍的来说,loss不下降一...
深度学习,提高分类精度
利用深度学习网络训练出模型后,如果用模型测试,准确率低于训练集上的准确率,那么一般是存在过拟合的。可以尝试用bagging或者boosting或者stacking的方式提升准确率。我自己用过bagging的方式,其实就是训练3个/5个模型,然后做多数投票,一般会有1~2个点的提升...
训练loss不下降原因集合
https://blog.csdn.net/jacke121/article/details/79874555
GPU训练loss不下降,CPU正常
数据并行机制相关
Caffe训练时Loss不下降问题
文章作者:Tyan 博客:noahsnail.com  |  CSDN  |  简书 1. 问题描述 今天使用Caffe进行分类模型训练时,迭代到一定次数后loss突然增大到某个固定值,然后保持不变。日志如下: I0705 14:57:14.980687 320 solver.cpp:218] Iteration 44 (2.60643 ...
深度学习 loss
-
深度学习入门----triplet loss
最近看到triplet loss小有收获 简写为L=max(0,Δ+D(s,+)-D(s,-)  ) 要最小化L,min(L)=0。也就是要 1.  min( Δ+D(s,+)-D(s,-)  ) 2.  Δ+D(s,+)-D(s,-)>=0. 即Δ+D(s,+)-D(s,-)=0. 在这种情况下s到负样本的距离比到正样本的距离大Δ(Δ为手工定义的阈值) 这里为什么要加2.的...
[深度学习] loss=inf
原因一:data underflow 原因: 在使用log函数时出现 data underflow 解决方法:增加一个bias # original g_wh = (matched[:, 2:] - matched[:, :2]) / priors[:, 2:] g_wh = torch.log(g_wh) / variances[1] # current eps = 1e-5 g_wh...
使用Pytorch训练过程中loss不下降的一种可能原因
在使用Pytorch进行神经网络训练时,有时会遇到训练学习率不下降的问题。出现这种问题的可能原因有很多,包括学习率过小,数据没有进行Normalization等。不过除了这些常规的原因,还有一种难以发现的原因:在计算loss时数据维数不匹配。下面是我的代码: loss_function = torch.nn.MSE_loss() optimizer.zero_grad() output = mod...
运行网络时,loss始终不下降,MAE保持在0.5
网络问题 数据问题 经过排查,发现使用next_batch()函数取出的数据有问题,因为输入数据大小不一致,所以我使用 list() 来保存数据,因此读取出来的数据形式是list,导致上述问题 ...
pytorch训练神经网络loss刚开始下降后来停止下降的原因
问题提出:用pytorch训练VGG16分类,loss从0.69下降到0.24就开始小幅度震荡,不管如何调整batch_size和learning_rate都无法解决。 原因:没有加载预训练模型 那么问题来了,官方给出的是1000类的ImageNet预训练模型    https://download.pytorch.org/models/vgg16-397923af.pth,而我要做的是20类...
keras做CNN的训练误差loss的下降
采用二值判断如果确认是噪声,用该点上面一个灰度进行替换。 噪声点处理:对原点周围的八个点进行扫描,比较。当该点像素值与周围8个点的值小于N时,此点为噪点 。 处理后的文件大小只有原文件小的三分之一,前后的图片内容肉眼几乎无法察觉。 但是这样处理后图片放入CNN中在其他条件不变的情况下,模型loss无法下降,二分类图片,loss一直在8-9之间。准确率维持在0.5,同时,测试集的训练误差持续下...
提高超声波测距精度的设计
提高超生波测距的精度,主要是通过温度补偿来减小其误差!!!!
GPS精度提高方案
各位英雄:rn 小弟目前的嵌入式终端直接采用GPS模块,通过串口通信的方式与CPU连接,由此获得定位信息。但这种方式具有明显的局限性,就是定位精度完全受限于GPS模块的精度,加上一些外部原因,实际的精度变得更差!rnrn 是否有一种OEM板卡,可以方便在其上进行二次开发,通过一些外部电路以及采用一些滤波等手段,然后再连接CPU?不知道有没有其他可行的提高GPS定位精度的方案?网上有采用GP4020实现GPS终端,但这种方式的精度却不是很高!rnrn 恳请英雄指教!
c语言编程提高除法运算的精度
计算机由于受存储因素限制,不能实现精准的除法运算,要求编程实现高精度的除法运算(精确到小数点之后任意位数)。下面是代码:代码块代码块语法遵循标准markdown代码,例如:#include<stdio.h> int main(void) { int a,b,c,n,i; //a是除数,b是被除数,n是需要精确的位数 scanf("%d%d%d",&a,&b,&n);
STM32提高ADC精度
STM32F0系列单片机ADC原理,用法,参考。F0系列产品的技术培训,功能框架,自校准特性以及各寄存器详细说明和介绍
如何提高TIMER的精度?
MFC的timer精度不知道怎么去设定?如果要做到像秒表一样的效果应该怎么去实现?
提高光刻精度的方法
摘要 在过去的二十年,伴随着微电子技术的发展,以Intel、Nvidia、三星电子和比特大陆为代表的芯片巨头风光无两。芯片性能的突飞猛进离不开光刻精度一次又一次地突破技术极限。借助于光学近似修正、亚分辨率辅助特征增强和移相掩膜技术,光刻线宽迈入亚微米领域。离轴照明和先进光刻工艺的组合使得光刻精度接近瑞利衍射极限。同时,通过技巧把低分辨率设备进行改进远远比直接安装高分辨率设备要省钱和迅速。对光刻过程...
提高coreseek的搜索精度
由于coreseek带的mmseg默认词库只有1w多个字词,搜索出来的结果准确度不是很理想。花了半天找了下搜索引擎相关的资料,现在记录下一些提高搜索精度的方法和步骤:1. 基础词库要足够丰富,因为只有基础词库丰富了,才能谈权重设置。2. 增加相关业务领域的词汇,进一步提升词库量,如果不是做综合搜索,一般都只需要提高自身业务领域的词汇。3. 记录与收集用户搜索,把搜索记录高的作为新增词汇加入到词库中...
怎样提高随机数的精度?
有一程序要用到随机数,且要求较高。
AD转换精度提高方法
在高精度AD转换中,对电源的要求往往很大,若有多路AD转换,则可通过自动数字调零的方式来降低电源波动带来的误差。 先将1通道接地,将2通道接参考电源VCC,3通道接需要测量的值,转换开始时,先测1通道,得N0,测2通道得NR,待测信号通道3为NR 则实际电压VX=VR(NX-N0)/(NR-N0),结果与测量系统的零偏和漂移无关,且与基准电压精度也无关,可减小系统的测量误差
如何提高float的精度
void main()rnrn float a;rn cin>>a;rn cout<
深度学习: smooth L1 loss 计算
RPN的目标函数是分类和回归损失的和,分类采用 交叉熵,回归采用稳定的 Smooth L1, SmoothL1公式 为: 整体损失函数 具体为: [1] Faster R-CNN原理介绍 [2] 深度网络中softmax_loss、Smooth L1 loss计算以及反向传播推导...
提高AD精度
在某些单片机应用中,由于单片机的AD位数限制,决定了采样精度,该文说明了怎样利用软件,提高AD的采样精度
Coursera吴恩达《优化深度神经网络》课程笔记(2)-- 优化算法
我的CSDN博客地址:红色石头的专栏 我的知乎主页:红色石头 我的微博:RedstoneWill的微博 我的GitHub:RedstoneWill的GitHub 我的微信公众号:红色石头的机器学习之路(ID:redstonewill) 欢迎大家关注我!共同学习,共同进步! 上节课我们主要介绍了如何建立一个实用的深度学习神经网络。包括Train/Dev/Tes...
最长不下降子序列
问题描述:在序列A中,选出子序列B,使B [ i ]&gt;=B [ i-1 ],即不下降子序列,然后输出序列A中所有的不下降子序列中最长的长度。 数据范围:80%的数据 序列A的长度&lt;=1000。A[ i ]&lt;=100000。 100%的数据 序列A的长度&lt;=100000...
高水位线为什么不下降
高水位线为什么不下降会影响全表扫描的性能,为什么删除数据时高水位线不自动下降呢?
最长不下降序列
这里是举一反三(划掉)两种方法的花样集合
最长不下降子序列问题
DP最大不下降子序列前几天看了关于动态规划的内容,基本上讲的都是最大不下降序列,所以第一次博客 就写这个东西了。 最基本模板给出一系列的数,给出一个整数,即最长不下降子序列(code vs 1567) 题解:先另创一个数组,用来记录某一个数到目前为止的最大长度,用for语句将所有元素遍历 一遍就可以确定最长不下降子序列的长度了。 比如给出:21 22 63 15 从63开始(15不需要,
FIR定点提高精度的trick_02
作者:桂。 时间:2018-02-0519:36:08 链接:http://www.cnblogs.com/xingshansi/p/8419182.html 一、概述   本文简要记录FIR的小trick,主要参考: Shen, Zhi. “Improving FIR Filter Coefficient Precision [DSP Tips &amp; Tricks]...
提高单片机定时器精度的算法
定时器误差产生的主要原因:定时器产生溢出中断时,CPU正在执行指令,从溢出中断出现到CPU响应成为中断响应时间。 定时器工作方式:定时/计数器有方式0~方式3共4种工作方式。常用的为定时方式1,若定时/计数值计满溢出后,则定时/计数器的初值将被置零,并继续从 THx=0x00, TLx=0x00 开始计数。由于定时初值不会被重新装入,所以需要利用程序重新对 THx、 TLx 赋值。但赋值操作需要占用
用卡尔曼滤波提高GPS精度。
最近有个提高GPS精度的课题。单片机是51的。GPS是GAM3206。这个GPS本身的精度是5米的。然后想提高其精度。最近找到种叫卡尔曼滤波的算法。但是相应的在51单片机上的例子很少,大家有没有相关资料的,谢谢了。
怎样提高lucence搜索精度?
请教大峡怎样提高lucence搜索精度?
stm32 提高AD精度文档
stm32 提高AD精度文档说明,ST官方文档说明,中文版
插值算法以提高图片的精度
用了插值的算法,目的在于提高图片的精度,使得精度提高。
图一不对齐怎么解
[img=https://img-bbs.csdn.net/upload/201805/18/1526619288_301619.jpg][/img][img=https://img-bbs.csdn.net/upload/201805/18/1526619304_413337.png][/img]
深度学习(一)—— 损失函数(loss function)的前因后果
         这是自己更细的第一个原创作品,经过这么久的深度学习,到现在自己可以做一些小的项目,有一一些发自内心的感慨。基础知识掌握情况决定研究的高度,我们刚开始接触深度学习时,一般都是看到别人的概括,这个方法很好能让我们快速上手,但是也有一个很大的缺点, 知识理解的不透彻,导致我们对算法优化时一头雾水。我也是抱着知识总结的思想开始自己的深度学习知识精髓的探索,也希望能从中帮助到更多人。文章中...
相关热词 c# 线程结束时执行 c# kb mb 图片 c# 替换第几位字符 c#项目决定成败 c# 与matlab c# xml缩进 c#传感器基础 c#操作wps c# md5使用方法 c# 引用父窗口的组件