llamaindex使用豆包模型只能是自定义吗？

Question

https://docs.llamaindex.ai/en/stable/module_guides/models/llms/modules/

在llamaindex的llm列表中没有找到豆包模型的说明，虽然豆包模型也支持OpenAI接口，但当向OpenAI接口中传豆包模式时会提示：
“ValueError: Unknown model 'ep-20240719040400-7cssk'. Please provide a valid OpenAI model name in: o1, o1-2024-12-17, o1-preview, o1-preview-2024-09-12, o1-mini, o1-mini-2024-09-12, o3-mini, o3-mini-2025-01-31, gpt-4, gpt-4-32k, gpt-4-1106-preview, gpt-4-0125-preview, gpt-4-turbo-preview, gpt-4-vision-preview, gpt-4-1106-vision-preview, gpt-4-turbo-2024-04-09, gpt-4-turbo, gpt-4o, gpt-4o-audio-preview, gpt-4o-audio-preview-2024-12-17, gpt-4o-audio-preview-2024-10-01, gpt-4o-mini-audio-preview, gpt-4o-mini-audio-preview-2024-12-17, gpt-4o-2024-05-13, gpt-4o-2024-08-06, gpt-4o-2024-11-20, chatgpt-4o-latest, gpt-4o-mini, gpt-4o-mini-2024-07-18, gpt-4-0613, gpt-4-32k-0613, gpt-4-0314, gpt-4-32k-0314, gpt-3.5-turbo, gpt-3.5-turbo-16k, gpt-3.5-turbo-0125, gpt-3.5-turbo-1106, gpt-3.5-turbo-0613, gpt-3.5-turbo-16k-0613, gpt-3.5-turbo-0301, text-davinci-003, text-davinci-002, gpt-3.5-turbo-instruct, text-ada-001, text-babbage-001, text-curie-001, ada, babbage, curie, davinci, gpt-35-turbo-16k, gpt-35-turbo, gpt-35-turbo-0125, gpt-35-turbo-1106, gpt-35-turbo-0613, gpt-35-turbo-16k-0613”

所以要在llamaindex中用豆包模型只能是自定义了吗（class OurLLM(CustomLLM):）？

Answer 1

阿里嘎多学长整理AIGC生成，因移动端显示问题导致当前答案未能完全显示，请使用PC端查看更加详细的解答过程

概要

您的问题是：在使用 llamaindex 时，是否只能使用自定义的豆包模型？

回答

根据 llamaindex 的文档，LLM 模型可以是自定义的，也可以是预训练的。豆包模型（Package Model）是 llamaindex 提供的一种预训练模型，可以用于快速部署和使用。

在 llamaindex 的文档中，提供了多种预训练模型的选择，包括 Text-to-Text、Question-Answering、Text-Classification 等。这些模型可以直接使用，不需要自定义。

如果您需要使用自定义的模型，可以使用 llamaindex 的自定义模型功能，创建自己的模型并将其部署到 llamaindex 中。

结论

在使用 llamaindex 时，您可以选择使用预训练的豆包模型，也可以使用自定义的模型。