单并发，用的WeNetspeech离线大模型以及libtorch1.10，rescore和search都在500ms+，为什么这么慢呢？一般TLG有多大呀？语言模型大小会很影响速度的吧？
单并发，用的WeNetspeech离线大模型以及libtorch1.10，rescore和search都在500ms+，，为什么这么慢呢？一般TLG有多大呀？语言模型大小会很影响速度的吧？
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
1条回答 默认 最新
- 语音之家 2022-08-02 17:51关注
Search很快，rescoring一般100~200ms，WeNetSpeech模型很大，这个时间和机器性能也有关系，语言模型大小不太影响速度。
解决 无用评论 打赏举报 分享
- 2024-06-13 11:02Elastic 中国社区官方博客的博客 在本系列博文中，我们将探讨使用 Elasticsearch 在各种数据集和用例中运行大规模向量搜索的成本和性能。。该数据集包括从集合中的网页中提取的 1.38 亿个段落，使用嵌入到 1024 个维度中。对于这个实验，我们定义了...
- 2024-06-24 10:04我爱学AI的博客 对于语言序列词ω1,ω2,ω3,…,ωn,语言模型就是计算该词序列的概率，即P(ω1,ω2,ω3,…,ωn)。
- 2021-09-26 20:41斗者_2013的博客 重新评分rescore主要用来帮助提高查询精度，通过对第一次查询返回的顶部指定数量的索引记录进行重新打分查询，避免将开销比较大的查询匹配算法应用于索引中的所有文档，从而提高查询效率，保持查询精度。
- 2022-07-22 18:15铭毅天下的博客 1、线上问题如上所示，问题是：“把 green 这个条件放到 query 里面做一个 bool 查询，有什么不一样吗？”2、拿官方样例飞行数据举例这个问题涉及到：filter（过滤器）和 post_filter（后过滤器）的区别，我们拿官方...
- 2022-01-10 12:57铭毅天下的博客 "min_score": 1 } } } 2.5 实现方式三：rescore 再评分实现 POST test-004/_search { "query": { "match_all": {} }, "rescore": { "window_size": 100, "query": { "rescore_query": { "function_score":...
- 2023-08-22 23:14醉鱼Java的博客 es的重新评分，即在检索出来一次结果的基础上在进行检索提升数据排序效果，但是仅对查询或者post_filter阶段返回的前多少条进行二次查询。它可以根据特定的需求和业务规则，对原始查询结果进行二次排序，以提高最...
- 2021-06-02 09:22这是谁的博客？的博客 问 ：rescore有什么特点？ 答 ： 问 ：rescore如何使用？ 答 ： # rescore PUT /rescore_test { "mappings" : { "properties" : { "name" : {"type" : "text"} } } } # 索引 POST /rescore_test/_doc/1 { ...
- 2024-06-28 23:33码到三十五的博客 灵活性：字段聚合+top_hits提供了更多的自定义选项，可以按多个字段进行分组，并控制返回的文档数量和排序。而collapse则更简单直接，只基于一个...在选择使用哪种方法时，应根据具体需求、数据量和性能要求来权衡。
- 2023-04-17 14:20Elastic 中国社区官方博客的博客 Elasticsearch 整合机器学习强化排序, 介绍如何将机器学习预测能力迁移至 ES 内部，增强排序能力, 构建一个高性能，分布式搜排一体系统，并通过落地更多复杂模型特征和更深的计算，为业务带来新的增长点,我们将 LR -...
- 2024-04-22 18:39Elastic 中国社区官方博客的博客 “学习排名 (Learning To Rank)” 功能处于技术预览版，可能会在未来版本中更改或删除。Elastic 将努力解决任何问题，但此功能不受官方 GA 功能的支持 SLA 的约束。：此功能是在版本 8.12.0 中引入的，并且仅适用于...
- 2024-07-16 21:04Elastic 中国社区官方博客的博客 LTR 使用经过训练的机器学习 (ML) 模型为你的搜索引擎构建排名功能。通常，该模型用作第二阶段重新排名器，以提高由更简单的第一阶段检索算法返回的搜索结果的相关性。这篇博文将解释此新功能如何帮助提高文本搜索中...
- 2024-06-10 13:32别团等shy哥发育的博客 工作的阶段是在原始查询打分之后，它支持对打分后Top-N的文档集合执行第二次查询和打分。...在默认情况下，文档的最终得分等于原查询和rescore查询的分数之和。当然，还可以使用参数对这两部分的权重进行控制。
- 2024-06-21 16:45Elastic 中国社区官方博客的博客 此功能处于技术预览阶段，可能会在未来版本中更改或删除。语法可能会在正式发布之前发生变化。Elastic 将努力修复任何问题，但技术预览中的功能不受官方正式发布功能的支持 SLA 约束。倒数排序融合 (reciprocal rank...
- 2024-06-17 16:55苍煜的博客 Field Collapsing（字段折叠）不能与scroll、rescore以及search after 结合使用。 GET wkl_test/_search { "query": { "match_all": {} }, "collapse": { "field": "aa" } } 结果：hits 中total虽然=5，但是只返回...
- 2022-09-24 19:49止步前行的博客 ElasticSearch之索引结构
- 2021-05-26 21:19#rescore 出自电影分级被打破的想法。... rescore会收集用户评论并为您阅读这些评论-在此过程中跟踪不同的因素，情感和演员。 然后，此信息将用于构建简短的表达性摘要。 ＃贡献 货叉→PR→我马上就可以了。
- 2022-06-28 14:09Elastic 中国社区官方博客的博客 当时还不是很明白，为什么有的地方用 filter，而有的地方需要使用到 post filter。在今天的文章中，我来用一个鲜活的例子来进行展示。 总体说来，我们可以使用如下的两个方法来过滤搜索的结果： 使用带有 filter ...
- 2023-06-14 09:47Elastic 中国社区官方博客的博客 倒数排序融合（RRF）是一种将具有不同相关性指标的多个结果集组合成单个结果集的方法。RRF 无需调优，不同的相关性指标也不必相互关联即可获得高质量的结果。...相关分数存在的问题在于不同模型的分数范围差。
- 2021-09-03 10:33祝XX的博客 Elasticsearch 提供的首个近似聚合是 cardinality （注：基数）度量。 它提供一个字段的基数，即该字段的 distinct 或者 unique 值的数目。 类似mysql 查询：SELECT COUNT(DISTINCT name) FROM TABLE elasticsearch...
- 2020-02-25 20:01Elastic 中国社区官方博客的博客 在我的博客几乎涵盖了你想学习的许多方面。在这里，我来讲述一下作为一个菜鸟该如何阅读我的这些博客文章。 我们可以按照如下的步骤来学习： 1)Elasticsearch简介：对Elasticsearch做了一个简单的介绍 2)Elastic...
- 没有解决我的问题, 去提问
问题事件
系统已结题
8月10日
创建了问题
8月2日
悬赏问题
- ¥15 Stata链式中介效应代码修改
- ¥15 latex投稿显示click download
- ¥15 请问读取环境变量文件失败是什么原因？
- ¥15 在若依框架下实现人脸识别
- ¥15 添加组件无法加载页面,某块加载卡住
- ¥15 网络科学导论，网络控制
- ¥15 利用Sentinel-2和Landsat8做一个水库的长时序NDVI的对比，为什么Snetinel-2计算的结果最小值特别小，而Lansat8就很平均
- ¥15 metadata提取的PDF元数据，如何转换为一个Excel
- ¥15 关于arduino编程toCharArray()函数的使用
- ¥100 vc++混合CEF采用CLR方式编译报错