关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
今天加油鸭�
2023-02-27 16:13
采纳率: 100%
浏览 19
首页
编程语言
已结题
请问SimCSE中对比学习是用于预训练中还是微调中?
python
怎么看论文说法不一样呢,我蒙了,请教各位大lao,对比学习损失函数用于预训练还是微调呢?
收起
写回答
好问题
0
提建议
关注问题
微信扫一扫
点击复制链接
分享
邀请回答
编辑
收藏
删除
收藏
举报
2
条回答
默认
最新
关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
今天加油鸭�
2023-02-27 16:24
关注
我好像知道了,学了就忘,是加载训练好的模型,利用对比学习对模型上的参数进行微调,谢谢大家!
本回答被题主选为最佳回答
, 对您是否有帮助呢?
本回答被专家选为最佳回答
, 对您是否有帮助呢?
本回答被题主和专家选为最佳回答
, 对您是否有帮助呢?
解决
无用
评论
打赏
微信扫一扫
点击复制链接
分享
举报
评论
按下Enter换行,Ctrl+Enter发表内容
查看更多回答(1条)
向“C知道”追问
报告相同问题?
提交
关注问题
手把手!基于领域
预训练
和
对比学习
SimCSE
的语义检索(附源码)
2021-12-27 11:30
kaiyuan_sjtu的博客
之前看到有同学问,希望看一些偏实践,特别是带源码的那种,安排!今天就手把手带大家完成一个基于领域
预训练
和
对比学习
SimCSE
的语义检索小系统。所谓语义检索(也称基于向量的检索),是指检索系...
基于python的高质量
中
文
预训练
模型
2022-03-20 20:53
3. **机器翻译**:将
预训练
模型
用于
编码器-解码器架构,实现不同语言间的翻译。 4. **问答系统**:通过模型理解问题,检索相关信息,生成答案。 5. **对话生成**:让模型学习如何进行自然、流畅的对话。 6. **文本...
效果提升28个点!基于领域
预训练
和
对比学习
SimCSE
的语义检索
2022-01-12 21:20
飞桨PaddlePaddle的博客
语义检索相比传统基于字面关键词的检索有诸多优势,广泛应
用于
问答、搜索系统
中
。今天小编就手把手带大家完成一个基于领域
预训练
和
对比学习
SimCSE
的语义检索小系统。所谓语义检索(也称基于向量的...
EMNLP 2021
中
预训练
模型最新研究进展
2021-10-10 11:06
kaiyuan_sjtu的博客
© 作者|周昆机构|
中
国人民大学信息学院研究方向|序列表示学习与应用导读EMNLP 2021是人工智能领域自然语言处理( Natural Language Processing,NLP)三...
EMNLP'21
中
预训练
模型最新研究进展
2021-09-30 20:09
zenRRan的博客
每天给你送来NLP技术干货!© 作者|周昆机构|
中
国人民大学信息学院研究方向|序列表示学习与应用来自 |RUC AI Box导读EMNLP 2021是人工智能领域自然语言处理( Natu...
EasyNLP 发布融合语言学和事实知识的
中
文
预训练
模型 CKBERT
2022-11-02 14:41
数据库技术分享者的博客
预训练
语言模型在 NLP 的各个应用
中
都有及其广泛的应用,本⽂简要介绍 CKBERT 的技术解读,以及如何在 EasyNLP 框架、HuggingFace Models 和阿里云机器学习平台PAI 上使⽤ CKBERT 模型。
EasyNLP发布融合语言学和事实知识的
中
文
预训练
模型CKBERT
2022-10-19 10:10
阿里云大数据AI技术的博客
本⽂简要介绍CKBERT的技术解读,以及如何在EasyNLP框架、HuggingFace Models和阿里云机器学习平台PAI上使⽤CKBERT模型。
预训练
技术在美团到店搜索广告
中
的应用
2021-12-05 20:20
智能推荐系统的博客
猜你喜欢 0、2021年轻人性生活调研报告1、如何搭建一套个性化推荐系统?2、从零开始搭建创业公司后台技术栈3、2021年10月份热门报告免费下载4、微博推荐算法实践与机器学习平台演进5、...
【论文阅读笔记2-
用于
代码搜索的大规模对比
预训练
】CodeRetriever: Large-scale Contrastive Pre-training for Code Search
2023-11-05 16:45
QustFmy的博客
在本文
中
,我们提出了CodeRetriever模型,该模型通过大规模的代码——文本对比
预训练
来学习功能级代码语义表示。我们在CodeRetriever
中
采用了两种
对比学习
方案:单峰
对比学习
和双峰
对比学习
。对于单峰
对比学习
,我们...
【LLM大模型】指令
微调
、peft高效参数
微调
2023-05-07 17:28
山顶夕景的博客
LLaMA 是 Meta AI 发布的包含 7B、13B、33B 和 65B 四种参数规模的基础语言模型集合,LLaMA-13B 仅以 1/10 规模的参数在多数的 benchmarks 上性能优于 GPT-3(175B),LLaMA-65B 与业内最好的模型 Chinchilla-70B 和 ...
没有解决我的问题,
去提问
向专家提问
向AI提问
付费问答(悬赏)服务下线公告
◇ 用户帮助中心
◇ 新手如何提问
◇ 奖惩公告
问题事件
关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
系统已结题
3月7日
关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
已采纳回答
2月27日
关注
码龄
粉丝数
原力等级 --
被采纳
被点赞
采纳率
创建了问题
2月27日