shiter 2022-05-11 17:51 采纳率: 71.4%
浏览 12
已结题

请问都有哪些手段提高在线机器学习模型支持高并发的能力？

  1. 容器本身的优化，最大连接数，文件句柄

  2. k8s 框架性能的榨取

  3. tensorRT 如何搞呢？

  4. sanic 这个框架怎么样

  5. 还是说用go 和c 语言把 web 服务那块重写一下？

有没有什么好的文章资料，分享一下，谢谢

  • 写回答

0条回答 默认 最新

    报告相同问题？

    问题事件

    • 系统已结题 5月19日
    • 创建了问题 5月11日