橘子1649 2023-04-15 16:13 采纳率: 57.1%
浏览 34
已结题

bert输出概率值probabilities

bert 的tensorflow 版本做 do_predict=TRUE 时 会产生一个文件 test_results.tsv,数据大概是

img


就是每一个句子都产生了一个概率

因为我做的是两个文本的相似度计算,请问为什么会每一个句子都产生一个probabilities,这个值代表着什么呢?

  • 写回答

2条回答 默认 最新

  • Leodong. 2023-04-15 16:23
    关注

    该回答通过自己思路及引用到GPTᴼᴾᴱᴺᴬᴵ搜索,得到内容具体如下:
    在BERT模型中,每个文本序列都会被映射为一个向量,这个向量被称为“[CLS]”向量。这个向量包含了整个文本序列的信息,并被用来进行下游任务的分类、回归等操作。在进行分类任务时,我们通常会在“[CLS]”向量后面连接一个全连接层(或多个全连接层)来得到输出类别的概率分布。

    当您使用BERT进行文本相似度计算时,您可以将两个文本序列连接在一起,用特定的分隔符(如“[SEP]”)将它们分开,然后将整个序列输入到BERT模型中。在这种情况下,每个文本序列的“[CLS]”向量都会产生一个概率分布,代表着这个序列属于每个类别的概率。由于您输入了两个文本序列,因此您会得到两个“[CLS]”向量的概率分布,这就是您看到的每个句子都产生了一个概率的原因。

    在测试过程中,为了方便处理和分析,BERT模型会将每个文本序列的“[CLS]”向量的概率分布输出到一个文件中,这个文件就是您提到的test_results.tsv。该文件中每一行代表一个样本的预测结果,每个样本的预测结果包括每个类别的概率分布。因此,您可以从test_results.tsv中获取每个文本序列的预测概率分布,以及两个文本序列的相似度分数。


    如果以上回答对您有所帮助,点击一下采纳该答案~谢谢

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 4月23日
  • 已采纳回答 4月15日
  • 创建了问题 4月15日

悬赏问题

  • ¥50 wordpress项目注册报失败刷新后其实是成功状态,请求排查原因
  • ¥20 linxu服务器僵尸进程不释放,代码如何修改?
  • ¥15 pycharm激活不成功
  • ¥40 如果update 一个列名为参数的value
  • ¥15 基于51单片机的水位检测系统设计中LCD1602一直不显示
  • ¥15 OCS2安装出现问题,请大家给点意见
  • ¥15 ros小车启动launch文件报错
  • ¥15 vs2015到期想登陆但是登陆不上
  • ¥15 IPQ5018制作烧录固件,boot运行失败(操作系统-linux)(相关搜索:操作系统)(相关搜索:操作系统)
  • ¥20 icefall在librispeech基础上加入个人数据集