LangChain报错KeyError: 'choices'

Question

求助，Langchain调用OpenAI方法经常报错KeyError，有时候又能运行成功。langchain版本0.0.279;openai版本0.27.8。
代码运行如下图：

Answer 1

晚上好🌙🌙🌙
本答案参考通义千问

从你的描述来看，LangChain 报错 KeyError: 'choices' 通常意味着在处理 API 响应时，字典中没有找到 'choices' 这个键。这可能是因为 OpenAI API 的响应结构发生了变化，或者请求没有正确处理。

解决方案

1. 检查API响应结构:

   • 确认当前的 OpenAI API 响应是否仍然包含 'choices' 键。
   • 打印完整的 API 响应以查看其结构。

   response = openai.Completion.create(...)
   
   # 打印完整的响应
   print(response)
   

2. 异常处理:

   • 添加异常处理来捕获 KeyError 并处理这种情况。

   try:
       choices = response['choices']
   except KeyError:
       print("Error: 'choices' key not found in the API response.")
       choices = []
   

3. 更新依赖库:

   • 确保使用的是最新版本的 langchain 和 openai 库，因为旧版本可能存在已知的问题。

   pip install --upgrade langchain openai
   

4. 检查请求参数:

   • 确认请求参数是否正确，包括模型名称、提示文本等。

   response = openai.Completion.create(
       model="text-davinci-003",
       prompt="Sample prompt",
       max_tokens=150
   )
   

5. 调试和日志记录:

   • 添加更多的日志记录来跟踪问题发生的上下文。

   import logging
   
   logging.basicConfig(level=logging.DEBUG)
   
   try:
       response = openai.Completion.create(
           model="text-davinci-003",
           prompt="Sample prompt",
           max_tokens=150
       )
       logging.debug(f"API Response: {response}")
       choices = response['choices']
   except KeyError as e:
       logging.error(f"KeyError: '{e}' not found in the API response.")
       choices = []
   except Exception as e:
       logging.error(f"An error occurred: {e}")
       choices = []
   

6. 确认API密钥和环境配置:

   • 确认你的 API 密钥和环境配置是正确的，并且你有足够的权限访问 OpenAI API。

通过以上步骤，你应该能够更好地理解错误的原因，并采取适当的措施来解决它。如果问题依然存在，建议查看官方文档或寻求社区支持。