tensorflow训练过程权重不更新,loss不下降,输出保持不变,只有bias在非常缓慢地变化?

模型里没有参数被初始化为0 ,学习率从10的-5次方试到了0.1,输入数据都已经被归一化为了0-1之间,模型是改过的vgg16,有四个输出,使用了vgg16的预训练模型来初始化参数,输出中间结果也没有nan或者inf值。是不是不能自定义损失函数呢?但输出中间梯度发现并不是0,非常奇怪。

train.py的部分代码

def train():
    x = tf.placeholder(tf.float32, [None, 182, 182, 2], name = 'image_input')
    y_ = tf.placeholder(tf.float32, [None, 8], name='label_input')  
    global_step = tf.Variable(0, trainable=False)  
    learning_rate = tf.train.exponential_decay(learning_rate=0.0001,decay_rate=0.9, global_step=TRAINING_STEPS, decay_steps=50,staircase=True)

    # 读取图片数据,pos是标签为1的图,neg是标签为0的图
    pos, neg = get_data.get_image(img_path)
    #输入标签固定,输入数据每个batch前4张放pos,后4张放neg
    label_batch = np.reshape(np.array([1.0, 1.0, 1.0, 1.0,  0.0, 0.0, 0.0, 0.0]),[1, 8])

    vgg = vgg16.Vgg16()
    vgg.build(x)

    #loss函数的定义在后面
    loss = vgg.side_loss( y_,vgg.output1, vgg.output2, vgg.output3, vgg.output4)

    train_step = tf.train.AdamOptimizer(learning_rate).minimize(loss, global_step=global_step)
    init_op = tf.global_variables_initializer()

    saver = tf.train.Saver()

    with tf.device('/gpu:0'):
        with tf.Session() as sess:
            sess.run(init_op)

            for i in range(TRAINING_STEPS):

                                #在train.py的其他部分定义了batch_size= 4
                start = i * batch_size
                end = start + batch_size 

                #制作输入数据,前4个是标签为1的图,后4个是标签为0的图
                image_list = []
                image_list.append(pos[start:end])
                image_list.append(neg[start:end])
                image_batch = np.reshape(np.array(image_list),[-1,182,182,2])

                _,loss_val,step = sess.run([train_step,loss,global_step], feed_dict={x: image_batch,y_:label_batch})

                if i % 50 == 0:
                    print("the step is %d,loss is %f" % (step, loss_val))
                    if loss_val < min_loss:
                        min_loss = loss_val
                        saver.save(sess, 'ckpt/vgg.ckpt', global_step=2000)

Loss 函数的定义

**loss函数的定义(写在了Vgg16类里)** 

class Vgg16:

#a,b,c,d都是vgg模型里的输出,是多输出模型
def side_loss(self,yi,a,b,c,d):
    self.loss1 = self.f_indicator(yi, a)
    self.loss2 = self.f_indicator(yi, b)
    self.loss3 = self.f_indicator(yi, c)
    self.loss_fuse = self.f_indicator(yi, d)
    self.loss_side = self.loss1 + self.loss2 + self.loss3 + self.loss_fuse
    res_loss = tf.reduce_sum(self.loss_side)

    return res_loss

#损失函数的定义,标签为0时为log(1-yj),标签为1时为log(yj)
def f_indicator(self,yi,yj):
    b = tf.where(yj>=1,yj*50,tf.abs(tf.log(tf.abs(1 - yj))))
    res=tf.where(tf.equal(yi , 0.0), b,tf.abs(tf.log(tf.clip_by_value(yj, 1e-8, float("inf")))))

    return res
weixin_44180590
Detect-er 回复方舟后裔: 最笨的方法 把中间每一步的结果都设成一个变量 print出来看
19 天之前 回复
Leucalypt
方舟后裔 请问怎么检查:输出中间结果有没有nan或者inf值,小白一个,我的是两分类问题,损失一直在ln(2)=0.6931472处徘徊,有时候直接等于ln(2)跳不出来
22 天之前 回复
weixin_44180590
Detect-er 回复qq_37943633: 我解决了 我是因为输入的原始图像预处理出现了问题, 你把你每一步的数据矩阵输出成图像看看对不对,找找错
大约一个月之前 回复
qq_37943633
qq_37943633 想问一下楼主解决了吗,我也遇到类似问题,也是vgg
2 个月之前 回复

1个回答

请问怎么检查:输出中间结果有没有nan或者inf值,小白一个,我的是两分类问题,损失一直在ln(2)=0.6931472处徘徊,有时候直接等于ln(2)跳不出来

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
为何用tensorflow对权重进行训练后将权重的值打印出来发现每次训练后权重的值没有发生变化?
-
tensorflow如何在训练一定迭代次数后停止对某个参数的训练,而继续对其他参数进行训练?
-
神经网络按梯度下降训练,不应该用同一个样本迭代直到得到loss最小值?然后再继续下一个样本吗?
-
TensorFlow如何在训练过程中获取权重值
-
TensorFlow初始化一个权重矩阵时报了这个错误,想请教一下大家是怎么回事
-
神经网络 能否让训练时权重之和始终保持1,从而得到最佳比例?
-
用tensorflow做机器翻译时训练代码有问题
-
python如何自定义权重损失函数?
-
请大神指点,VGG-16训练时权重不更新,怎么回事??
-
tensorflow如何在每一次训练后都重置部分权重的值?
-
请问RBM的作用是什么?
-
tensorflow 中怎么查看训练好的模型的参数呢?
-
如何在知道LSTM中偏置和权重情况下,使用tensorflow或者MATLAB中的工具箱来建立LSTM网络
-
邻接表双向BFS算法数组越界问题
-
卷积神经网路每次循环结果都不一样,怎样使每次是同一个结果
-
请问python调取数组某一位时出现list indices must be integers or slices, not str如何处理?
-
文本已清洗和分词,词语带权重,如何用python做自定义形状词云图呢?
-
利用echarts绘制关系图,如何根据边的权重设置边的粗细?
-
keras中如何对网络的某一层参数进行修改?
-
程序员实用工具网站
目录 1、搜索引擎 2、PPT 3、图片操作 4、文件共享 5、应届生招聘 6、程序员面试题库 7、办公、开发软件 8、高清图片、视频素材网站 9、项目开源 10、在线工具宝典大全 程序员开发需要具备良好的信息检索能力,为了备忘(收藏夹真是满了),将开发过程中常用的网站进行整理。 1、搜索引擎 1.1、秘迹搜索 一款无敌有良心、无敌安全的搜索引擎,不会收集私人信息,保...
程序员真是太太太太太有趣了!!!
网络上虽然已经有了很多关于程序员的话题,但大部分人对这个群体还是很陌生。我们在谈论程序员的时候,究竟该聊些什么呢?各位程序员大佬们,请让我听到你们的声音!不管你是前端开发...
1行Python代码制作动态二维码
目录 1、普通二维码 2、艺术二维码 3、动态二维码 在GitHub上发现了一个比较有意思的项目,只需要一行Python代码就可以快捷方便生成普通二维码、艺术二维码(黑白/彩色)和动态GIF二维码。 GitHub网站参见:https://github.com/sylnsfar/qrcode 用法比较简单,直接通过pip安装即可。 pip3 install myqr 安装过程如下所...
全球最厉害的 14 位程序员!
来源 | ITWorld 整理自网络全球最厉害的 14 位程序员是谁?今天就让我们一起来了解一下吧,排名不分先后。01. Jon Skeet个人名望:程序技术问答网站 S...
从入门到精通,Java学习路线导航
引言 最近也有很多人来向我"请教",他们大都是一些刚入门的新手,还不了解这个行业,也不知道从何学起,开始的时候非常迷茫,实在是每天回复很多人也很麻烦,所以在这里统一作个回复吧。 Java学习路线 当然,这里我只是说Java学习路线,因为自己就是学Java的,对Java理当很熟悉,对于其它方面,我也不是很了解。 基础阶段 首先是基础阶段,在基础阶段,我们必须掌握Java基础,Mysql数据库,Ora...
我花了一夜用数据结构给女朋友写个H5走迷宫游戏
起因 又到深夜了,我按照以往在csdn和公众号写着数据结构!这占用了我大量的时间!我的超越妹妹严重缺乏陪伴而 怨气满满! 而女朋友时常埋怨,认为数据结构这么抽象难懂的东西没啥作用,常会问道:天天写这玩意,有啥作用。而我答道:能干事情多了,比如写个迷宫小游戏啥的! 当我码完字准备睡觉时:写不好别睡觉! 分析 如果用数据结构与算法造出东西来呢? ...
别再翻了,面试二叉树看这 11 个就够了~
写在前边 数据结构与算法: 不知道你有没有这种困惑,虽然刷了很多算法题,当我去面试的时候,面试官让你手写一个算法,可能你对此算法很熟悉,知道实现思路,但是总是不知道该在什么地方写,而且很多边界条件想不全面,一紧张,代码写的乱七八糟。如果遇到没有做过的算法题,思路也不知道从何寻找。面试吃了亏之后,我就慢慢的做出总结,开始分类的把数据结构所有的题型和解题思路每周刷题做出的系统性总结写在了 Github...
接班马云的为何是张勇?
上海人、职业经理人、CFO 背景,集齐马云三大不喜欢的张勇怎么就成了阿里接班人? 作者|王琳 本文经授权转载自燃财经(ID:rancaijing) 9月10日,张勇转正了,他由阿里巴巴董事局候任主席正式成为阿里巴巴董事局主席,这也意味着阿里巴巴将正式开启“逍遥子时代”。 从2015年接任CEO开始,张勇已经将阿里巴巴股价拉升了超过200%。但和马云强大的个人光环比,张勇显得尤其...
什么是大公司病(太形象了)
点击蓝色“五分钟学算法”关注我哟加个“星标”,天天中午 12:15,一起学算法作者 | 南之鱼来源 | 芝麻观点(chinamkt)所谓大企业病,一般都具有机构臃肿、多重...
让程序员崩溃的瞬间(非程序员勿入)
今天给大家带来点快乐,程序员才能看懂。 来源:https://zhuanlan.zhihu.com/p/47066521 1. 公司实习生找 Bug 2.在调试时,将断点设置在错误的位置 3.当我有一个很棒的调试想法时 4.偶然间看到自己多年前写的代码 5.当我第一次启动我的单元测试时 ...
离职了
这是我毕业后的第一份工作...面试时,HR小姐姐告诉我... 然鹅...我入职之后才发现:对标阿里的只有加班强度对标华为的只有狼性文化对标百度的,额,没有对...
iPhone 11 引领芯片新革命?
iPhone 11中的U1芯片开启了超宽带革命。 作者|Jason Snell 译者 |弯月,责编 | 郭芮 出品 | CSDN(ID:CSDNnews) 以下为译文: 苹果很喜欢讨论他们为iPhone设计的芯片,却不愿泄露任何尚未发布产品的消息。新的U1芯片正是如此,该芯片随着iPhone 11一起发布,但在近日的iPhone发布会上苹果却对该芯片只字未提。U1中嵌入了新...
如何在Windows中开启"上帝模式"
原文链接 : https://mp.weixin.qq.com/s?__biz=MzIwMjE1MjMyMw==&amp;mid=2650202982&amp;idx=1&amp;sn=2c6c609ce06db1cee81abf2ba797be1b&amp;chksm=8ee1438ab996ca9c2d0cd0f76426e92faa835beef20ae21b537c0867ec2773be...
分享靠写代码赚钱的一些门路
作者 mezod,译者 josephchang10如今,通过自己的代码去赚钱变得越来越简单,不过对很多人来说依然还是很难,因为他们不知道有哪些门路。今天给大家分享一个精彩...
失业42天,我废了
作者:子彧师兄https://www.jianshu.com/p/62590c1339f12019.6.5这天下午,公司以资金困难,亏损较大为理由将我们整个技术部裁掉,我...
技术人员要拿百万年薪,必须要经历这9个段位
很多人都问,技术人员如何成长,每个阶段又是怎样的,如何才能走出当前的迷茫,实现自我的突破。所以我结合我自己10多年的从业经验,总结了技术人员成长的9个段位,希望对大家的职...
8000字干货:那些很厉害的人是怎么构建知识体系的
本文约8000字,正常阅读需要15~20分钟。读完本文可以获得如下收益: 分辨知识和知识体系的差别 理解如何用八大问发现知识的连接点; 掌握致用类知识体系的构建方法; 能够应用甜蜜区模型找到特定领域来构建知识体系。 1. 知识体系?有必要吗? 小张准备通过跑步锻炼身体,可因为之前听说过小腿变粗、膝盖受伤、猝死等等与跑步有关的意外状况,有点担心自己会掉进各种坑里,就在微信上问朋友圈一直晒跑步...
分布式、多线程、高并发都不懂,拿什么去跳槽
当提起这三个词的时候,是不是很多人都认为分布式=高并发=多线程?当面试官问到高并发系统可以采用哪些手段来解决,或者被问到分布式系统如何解决一致性的问题,是不是一脸懵逼?确...
nginx学习,看这一篇就够了:下载、安装。使用:正向代理、反向代理、负载均衡。常用命令和配置文件
文章目录前言一、nginx简介1. 什么是 nginx 和可以做什么事情2.Nginx 作为 web 服务器3. 正向代理4. 反向代理5. 动静分离6.动静分离二、Nginx 的安装三、 Nginx 的常用命令和配置文件四、 Nginx 配置实例 1 反向代理五、 Nginx 配置实例 2 负载均衡六、 Nginx 配置实例 3 动静分离七、 Nginx 的高可用集群 前言 一、nginx简介...
动画:用动画给面试官解释 TCP 三次握手过程
作者 | 小鹿 来源 | 公众号:小鹿动画学编程 写在前边 TCP 三次握手过程对于面试是必考的一个,所以不但要掌握 TCP 整个握手的过程,其中有些小细节也更受到面试官的青睐。 对于这部分掌握以及 TCP 的四次挥手,小鹿将会以动画的形式呈现给每个人,这样将复杂的知识简单化,理解起来也容易了很多,尤其对于一个初学者来说。 学习导图 一、TCP 是什么? TCP(Transmissio...
为什么程序员在学习编程的时候什么都记不住?
在程序员的职业生涯中,记住所有你接触过的代码是一件不可能的事情!那么我们该如何解决这一问题? 作者 |Dylan Mestyanek 译者 | 弯月,责编 | 屠敏 出品 | CSDN(ID:CSDNnews) 以下为译文: 每个人都会在学习编程语言的时候,努力记住所有一切,这也不足为奇。虽然有些人可以过目不忘,直接在脑海里就能想出问题的解决方案,但普通人却不能。特别是那些刚...
相关热词 c# 中文ascii c#电话客服 c#开发管理系统实例 c#三个条件判断 c# mvc过滤器 c# 鼠标缩放图像 c# 空间后方交会 c#串口测试应用程序 c# 匹配 正则表达式 c#防止窗体重绘

相似问题