三掌柜666 2024-05-29 17:22 采纳率: 50%
浏览 33
已结题

听说百度的文心5.0明年发,这次会上多模态、超低延时还是大参数?


现在对GPT-5的各种预测已经满天飞了,对标着看一下,我觉得文心5.0也可能在这几个方向发力:
1、多模态。sora出来,全球震动。估计文心这次也会补齐多模态功能,实现文本、图像、视频、音频、代码这些形式的互生转换能力。
2、超低延时。毕竟多模态想要用起来,计算成本和延迟都需要降低,否则功能再花哨,用不起、玩不转就都白扯。成本这个百度一直在降,所以超低延时说不定会成为这次主打的点。一旦AI的响应速度加快,应用领域会进一步扩大,使用体验也会爽翻。
3、超大参数。文心4.0就没有公布参数,5.0看看会不会放个大招。
4、MoE架构。这个感觉是李彦宏今年一直在强调的事情,文心4.0的架构不清楚,但GPT-4就采用了MoE架构,实现了低计算成本支持1.8万亿参数规模,据说GPT-5将继续采用,参数量可以达到GPT-4的10-50倍,赌一把,文心5.0说不定就用上了MoE。

img

 

  • 写回答

6条回答 默认 最新

  • 轻口味 新星创作者: 移动开发技术领域 2024-05-29 17:35
    关注

    多模态现在刚起步,文心肯定会往这个方向赶
    参数规模在下一版肯定会扩大,但10倍可不是小数目,不好说

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(5条)

报告相同问题?

问题事件

  • 系统已结题 9月4日
  • 已采纳回答 8月27日
  • 创建了问题 5月29日