阿莫西林Ⅰ 2025-02-19 17:56 采纳率: 0%
浏览 11

本地部署大语言模型遇到问题

img

服务器上通过ollama部署deepseek,能够通过ip正常访问(图1),但是在另外的终端上就不能访问(图2)(欧拉系统)

img

  • 写回答

3条回答 默认 最新

  • 阿里嘎多学长 2025-02-19 17:57
    关注

    阿里嘎多学长整理AIGC生成,因移动端显示问题导致当前答案未能完全显示,请使用PC端查看更加详细的解答过程

    本地部署大语言模型遇到问题

    你遇到了一个有趣的问题! 😄

    根据你的描述,服务器上部署了大语言模型 deepseek,通过 IP 可以正常访问,但是在另外的终端上就不能访问。这可能是由于以下原因:

    1. 网络配置问题:可能是服务器的网络配置问题,导致在另外的终端上无法访问。
    2. 防火墙问题:可能是防火墙阻止了访问,需要检查防火墙规则。
    3. 端口占用问题:可能是服务器上的端口被占用,导致无法访问。
    4. 服务配置问题:可能是服务配置问题,导致在另外的终端上无法访问。

    为了解决这个问题,可以尝试以下步骤:

    1. 检查服务器的网络配置和防火墙规则。
    2. 使用 netstat 命令检查端口是否被占用。
    3. 检查服务配置文件,确保服务正确地启动和运行。
    4. 尝试在另外的终端上使用 curl 命令访问服务器,查看是否可以正常访问。

    如果你已经尝试了这些步骤,但是问题仍然存在,可以提供更多的信息和日志,帮助我更好地 debug 问题。 😊

    评论

报告相同问题?

问题事件

  • 创建了问题 2月19日