bert模型，在mac上，环境为py3.8，tensorflow2.13版本
传入超参数
然后运行报错如下
我应该如何修改？
Missing learning rate, please set self.learning_rate at optimizer creation time
我应该如何修改？
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
2条回答 默认 最新
Joe Hall Lee 2023-11-19 17:36关注self._learning_rate = self._build_learning_rate(learning_rate)
解决 无用评论 打赏举报 分享
- 2022-09-19 20:31
做mnist识别时出现错误 AttributeError: module 'keras.api._v2.keras' has no attribute 'train'
keras
tensorflow
神经网络
回答 1 已采纳 现在用的是tf2吧，那应该要这样子写tf.keras.optimizers.Adam - 2019-02-14 07:04回答 2 已采纳 在 `python` 里面，如果没有指明的话，参数赋值顺序是从左到右的吧。 比如这里应该就是 `learning_rate`，然后后面全部使用默认参数。
- 2021-04-28 16:06回答 1 已采纳 batch总的学习率
- 2020-07-29 17:52wuguangbin1230的博客 rate&=\sf (learning\_rate - end\_learning\_rate) * \\&\sf (1 - global\_step / decay\_steps) ^ {power} +end\_learning\_rate\end{aligned}decayed_learning_rate=(learning_rate−end_learning_rate)∗(1−...
- 2023-01-02 06:19回答 6 已采纳 出现 KeyError: 'val_mape' 的原因可能是在代码中没有计算并输出 val_mape 这个指标。 在训练模型时使用了 ModelCheckpoint 回调函数来保存模型权重，并使用了
- 2021-05-03 17:32回答 1 已采纳 我把你的代码拿到本地跑了，首先你的代码的API是TF1.x版本的，我本地用的是tf1.15，所以第一步是把TF切换到1.15(我测试通过了，看你用Anaconda，那么安装就很简单了conda ins
- 2019-11-24 14:39 Tensorflow 2.0 : When using data tensors as input to a model, you should specify the `steps_per_epoch` argument.
tensorflow
人工智能
机器学习
深度学习
神经网络
回答 2 已采纳 There is not only steps_per_epoch but also validation_steps parameter, which you also have to spec
- 2021-07-23 14:07Kaaaakaki的博客 另外，BERT 还有一个至关重要的训练技巧，就是调整学习率。BERT内的参数在 fine-tuning 时，学习率一定要调小，特别时后面还接了别的东西时，一定要按两个学习率走，甚至需要尝试多次反复调，要不然 BERT 很容易就...
- 2020-05-31 21:21回答 1 已采纳 time_step 和input_size的乘积已经和你的一条语句的编码长度相同。 感觉应该是这样处理的，你可以参考一下： 编码后每条数据： [[0,0,0,1,1],[1,0,1,0,0],[
- 2022-06-07 10:28回答 1 已采纳 embeddings为4096，后面的为3Xargs.embedding_size=384？4096无法整除以384，所以是无法reshape的，所以你应该是改了什么参数了，改回去看看
- 2021-08-25 01:57回答 1 已采纳 你的代码应该是1.x版本的，但是你的环境是2.x版本的就这样了，函数名和接口变了，要么去查一下接口名变成什么了，要么就新建个1.x的环境运行
- 2024-03-31 22:25自学AI的鲨鱼儿的博客 transformers：4.39 新版trainer中存在函数self.accelerator.get_state_dict，这个函数可以将ZeRO3切片在其他设备上的参数加载过来，然后使用self._save()保存，具体见下文_save_checkpoint、save_model、_save ...
- 2022-08-01 00:41回答 1 已采纳 Set up your data format vector and pass it into the Model for inference
- 2020-04-05 13:36there2belief的博客 If you are using the high level APIs (tf.keras) there may be little or no action you need to take to make your code fully TensorFlow 2.0 compatible: Check your optimizer's default learning rate....
- 2022-08-30 19:25Wanderer001的博客 where hth_tht is the hidden state at time t, ctc_tct is the cell state at time t, xtx_txt is the input at time t, h(t−1)h_{(t-1)}h(t−1) is the hidden state of the layer at time t-1 or the ...
- 2023-08-30 16:21weixin_43044416的博客 Adding simulation objects using a constructor When adding an object, its constructor can be used to set the values of properties at creation. fdtd.addfdtd(dimension="2D", x=0.0e-9, y=0.0e-9, x_span=...
- 2016-12-12 16:32小凡光光的博客 Training [TOC] This library provides a set of classes and functions that helps train models. ...The Optimizer base class provides methods to compute gradients for a loss and apply gr
- 2021-02-10 16:32
cp14_2_Layers_config_numeric_continuou_Feature Column_boosted tree_n_batches_per_layer_repeat_estimaLIQING LIN的博客 cp14_TF_v1_v2_TensorSpec_rank_trainable_variables_autodiff_keras_Model_API_set_label_coords_custom - 没有解决我的问题, 去提问
问题事件
创建了问题
9月26日
悬赏问题
- ¥15 前台多人编辑时怎么让每个人保存刷新都互不干扰
- ¥20 如何用Python删除单元格内连续出现的重复词？
- ¥15 WangEditor嵌入到geeker-admin中，回车没有办法换行
- ¥30 stm32f103c8t6制作万能红外遥控器
- ¥15 有人会fastcrud写前端页面吗
- ¥15 如何解除Uniaccess管控
- ¥15 微信小程序跳转关联公众号
- ¥15 Java AES 算法 加密采用24位向量报错如何处理？
- ¥15 使用X11可以找到托盘句柄，监控到窗口点击事件但是如何在监听的同时获取托盘中应用的上下文菜单句柄
- ¥45 字符串操作——数组越界问题