现在各种大模型后训练量化方法,权重长得都不一样,有的是scale,有的是ab,有的是scale和zero,每种量化方法具体推理的时候都需要单独实现算子来加速吗?
1条回答 默认 最新
悬赏问题
- ¥15 高通uboot 打印ubi init err 22
- ¥20 PDF元数据中的XMP媒体管理属性
- ¥15 R语言中lasso回归报错
- ¥15 网站突然不能访问了,上午还好好的
- ¥15 有没有dl可以帮弄”我去图书馆”秒选道具和积分
- ¥15 semrush,SEO,内嵌网站,api
- ¥15 Stata:为什么reghdfe后的因变量没有被发现识别啊
- ¥15 振荡电路,ADS仿真
- ¥15 关于#c语言#的问题,请各位专家解答!
- ¥15 这个如何解决详细步骤