bert为什么还需要结合其他特征提取器

bert在文本表示方面效果就很好，为什么nlp领域很多论文许多论文用bert结合其他模型？诸如bert+bigru等等，这里bigru的作用是什么呢？是对bert表示后的文本进行深层次的特征抽取吗？

写回答
好问题 0 提建议
追加酬金
关注问题
分享
邀请回答
编辑收藏删除结题
收藏举报

1条回答默认最新

关注

码龄粉丝数原力等级 --

被采纳

被点赞

采纳率
PythonJavaC++go 2020-10-12 12:43
关注
bert是实体关系抽取比较好的方法。
结合bigru等其它方法，只是做优化改进。bigru可以减少时间

本回答被题主选为最佳回答 , 对您是否有帮助呢?

解决无用
评论打赏
分享
举报

评论

按下Enter换行，Ctrl+Enter发表内容

报告相同问题？

关注问题

bert为什么还需要结合其他特征提取器深度学习神经网络自然语言处理
2020-10-12 11:52

回答 1 已采纳 bert是实体关系抽取比较好的方法。结合bigru等其它方法，只是做优化改进。bigru可以减少时间
bert输出的概率值 bert 人工智能深度学习
2023-04-16 09:38

回答 2 已采纳这个 test_results.tsv 文件中的数据表示了每个输入样本在每个类别上的概率。在你提供的数据中，有两列，因此我猜测你的模型是一个二分类问题。第一列表示属于类别 0 的概率，第二列表示属于类
bert pytorch bert python pytorch
2023-03-12 09:34

回答 8 已采纳该回答引用GPTᴼᴾᴱᴺᴬᴵ根据您提供的错误信息，可能是因为该目录的完整路径中包含中文字符，而torch.save()函数在保存文件时可能会遇到中文字符的编码问题，从而导致无法保存模型。为了解决这个
AI人工智能进阶-BERT/Torch/Huggingface知识集锦
2022-09-07 16:43

thelivedream的博客 人工智能进阶-BERT/Torch/Huggingface知识集锦
BERT问题，无法解决，求帮助？ bert python tensorflow
2021-07-21 10:53

回答 1 已采纳你要打印这个line的值看看，是不是有两个元素能取到[1] 这个索引
BERT文本二分类LOSS变化 bert pytorch 分类
2023-03-24 21:10

回答 1 已采纳对于严重不均衡的数据集，模型容易出现偏差，导致对于少数类的预测效果较差。因此，需要对数据集进行一些处理来平衡数据，以提高模型的预测能力。具体处理方法有以下几种：过采样（Oversampling）：
bert模型请求帮助 bert python 深度学习
2023-03-08 11:19

回答 2 已采纳 “Devil组”引证GPT后的撰写：这个错误提示意味着在运行Google官方的BERT模型时必须指定"max_steps"参数的值大于0。"max_steps"是指训练模型的最大步数，也就是最大训练
BERT详解
2023-02-12 17:37

Hank0317的博客主要介绍了什么是Bert模型，它的优点，输入输出和预训练方法。
目前人工智能写作达到什么水平了？人工智能自然语言处理
2019-11-01 21:24

回答 1 已采纳 google下dcgan做文本生成，还有seq2seq文本序列预测的paper，这几年进步还是很大的。
bert输出概率值probabilities bert python 深度学习
2023-04-15 16:13

回答 2 已采纳该回答通过自己思路及引用到GPTᴼᴾᴱᴺᴬᴵ搜索,得到内容具体如下：在BERT模型中，每个文本序列都会被映射为一个向量，这个向量被称为“[CLS]”向量。这个向量包含了整个文本序列的信息，并被用来进行
Bert二分类结果分析 bert 分类自然语言处理
2023-03-27 22:47

回答 3 已采纳该回答引用自ChatGPT 有几个可能的原因可以导致risk类别的预测f1-score始终为0：数据不平衡问题：尽管您使用了Focal Loss来改善数据不平衡问题，但如果risk类别的训练数据量非
人工智能-基础篇08篇-BERT模型介绍及原理，架构，优缺点分析
2023-10-12 18:16

Freedom3568的博客具体来说，在生成中文文本过程中，解码器会对当前中文单词根据上下文信息来预测下一个中文单词，之后再根据下一个词预测下一个词的下一个词，循环往复，直至生成完整句子，这种做法也体现了序列模型的特性。...
机器学习bert模型pytorch bert pytorch 机器学习
2023-03-09 18:17

回答 1 已采纳文章：pytorch 使用bert的中间某几层隐藏层的结果以及使用pytorch_pretrained_bert 的问题以及解决方法中也许有你想要的答案，请看下吧您还可以看一下唐宇迪老师的深度学习
BERT模型为什么这么强?
2021-08-10 09:37

博文视点的博客如果你是一名自然语言处理从业者，那你一定听说过大名鼎鼎的 BERT 模型。 BERT（Bidirectional Encoder Representations From Transformers）模型的“荣耀时刻”是2018年：称霸机器理解测试...为什么BERT模型这么强
BERT解读
2022-11-16 12:30

Queen_sy的博客 1 、ELMo 使用自左向右编码和自右向左编码的两个 LSTM 网络，分别以 P(wi|w1,⋯,wi−1) 和 P(wi|wi+1,⋯,wn) 为目标函数独立训练，将训练得到的特征向量以拼接的形式实现双向编码，本质上还是单向编码，只不过是两个...
没有解决我的问题, 去提问

悬赏问题

¥15 HFSS 中的 H 场图与 MATLAB 中绘制的 B1 场部分对应不上
¥15 如何在scanpy上做差异基因和通路富集？
¥20 关于#硬件工程#的问题，请各位专家解答！
¥15 关于#matlab#的问题：期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707，使系统具有较小的超调量
¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
¥30 截图中的mathematics程序转换成matlab
¥15 动力学代码报错，维度不匹配
¥15 Power query添加列问题
¥50 Kubernetes&Fission&Eleasticsearch
¥15 報錯：Person is not mapped，如何解決？

bert为什么还需要结合其他特征提取器

1条回答 默认 最新

悬赏问题

1条回答默认最新