python文件代码如下:
from modelscope.utils.constant import Tasks
from modelscope.pipelines import pipeline
from modelscope.models import Model
import time
# 指定本地模型文件路径,替换成你自己的
# 只能是这个不然没有某个json文件
# 但是出现了模型已经注册古过的问题
local_model_path = 'C:\\Users\\11925\\ChatGLM-6B-Int4'
# C:\Users\11925\ChatGLM-6B-Int4
# local_model_path = 'C:\\Users\\11925\\.cache\\modelscope\\modelscope_modules'
# # 加载本地模型
model = Model.from_pretrained(local_model_path)
pipe = pipeline(task=Tasks.chat, model=model)
# 定义一个函数来处理用户输入和模型回复,并计时
def chat_with_model():
while True:
# 获取用户输入
query = input("\n用户:")
if query.strip() == "退出":
break
# 开始计时
start_time = time.time()
# 发送输入到模型
inputs = {'text': query, 'history': []}
result = pipe(inputs)
# 停止计时
end_time = time.time()
# 计算用时
elapsed_time = end_time - start_time
# 打印用时
print(f"\n用时:{elapsed_time:.2f}秒")
# 逐字打印模型回复内容
if 'response' in result and result['response']:
for char in result['response']:
print(char, end='', flush=True)
print() # 打印换行符,以便于下一次输入
else:
print("\nChatGLM:这道题我不会,请尝试其他问题。")
# 启动聊天
chat_with_model()
该大模型是通过git下载的,路径正确但是运行后报错KeyError: KeyError('chatglm6b is already registered in models[chat]')
应该如何解决?具体代码怎么样修改?