langchain-chatchat项目运行成功后，不能正常与AI交互

Question

使用langchain-chatchat开源项目，运行成功后，使用LLM（chatglm2-6b-int4）模型，不能正常对话

错误信息：ERROR: RemoteProtocolError: Caught exception: peer closed connection without sending complete message body (incomplete chunked read)

下载到本地资源的model文件已配置
  "llm_model": {
        "chatglm2-6b-int4":"F:\opt\chatglm2\chatglm2-6b-int4",

m3e-base也配置了
   "embed_model": {
               "m3e-base": "F:\opt\m3e\m3e-base",
            }

点击对话没有响应

Anaconda虚拟环境控制台报错

httpx.RemoteProtocolError: peer closed connection without sending complete message body (incomplete chunked read)
2024-02-29 17:46:00,518 - utils.py[line:40] - ERROR: RemoteProtocolError: Caught exception: peer closed connection without sending complete message body (incomplete chunked read)

选择知识库问答，输入筛选项也没有AI交互，只匹配了文件

**
我的目的是，对话模型能正常进行交互，知识库问答，除了匹配知识库文件之外，还要针对输入的文字正常进行AI交互**

Answer 1

【AI】Langchain-Chatchat搭建本地知识库-未完，先记录踩的坑_embedding_path = os.environ.get('embedding_path', -CSDN博客 文章浏览阅读1.5k次，点赞25次，收藏25次。事先说一下，我本地的显卡4070只有12G显存，无法运行本地知识库，我把自己折腾的过程和遇到的坑先记录一下吧，后续如果有算力的话就再跑一遍试试。Langchain-Chatchat曾用名Langchain-ChatGLM，是智谱AI的本地知识库项目，其官方介绍如下：🤖️ 一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。_embedding_path = os.environ.get('embedding_path', 'baai/bge-large-zh-v1.5') https://blog.csdn.net/zhoulizhu/article/details/135173289