Chat模型集成

使用 LangChain Python 集成对话模型。

Chat models是使用消息序列消息作为输入并返回消息作为输出 (与传统纯文本LLM不同)。

精选模型

虽然这些 LangChain 类支持所指出的高级功能，但您可能需要查阅特定提供商的文档，了解哪些托管模型或后端支持该功能。

模型	流式输出	工具调用	结构化输出	多模态	下载
AzureChatOpenAI	✅	✅	✅	✅
ChatOpenAI	✅	✅	✅	✅
ChatVertexAI (已弃用)	✅	✅	✅	✅
ChatAnthropic	✅	✅	✅	✅
ChatGoogleGenerativeAI	✅	✅	✅	✅
ChatOllama	✅	✅	✅	✅
ChatGroq	✅	✅	✅	✅
ChatHuggingFace	❌	✅	✅	✅
ChatLiteLLM	✅	✅	✅	✅
ChatMistralAI	✅	✅	✅	❌
ChatXAI	✅	✅	✅	❌
ChatOpenRouter	✅	✅	✅	✅
ChatDeepSeek	✅	✅	✅	❌
ChatCohere
ChatNVIDIA	✅	✅	✅	✅
ChatDatabricks	✅	✅	✅	❌
ChatTogether	✅	✅	✅	✅
ChatAmazonNova	✅	✅	✅

See the full list of chat model integrations below for more options.

路由器与代理

路由器和代理让您通过单一 API 和凭据访问多个提供商的模型。它们可以简化计费、让您在不更换集成的情况下切换模型，并提供自动回退等功能。

Provider	Integration	Description
OpenRouter	ChatOpenRouter	统一访问OpenAI、Anthropic、Google、Meta等模型的接口
LiteLLM	ChatLiteLLMRouter	提供OpenAI、Anthropic、Azure、Hugging Face等模型的统一接口及路由回退

Chat Completions API

某些模型供应商提供与OpenAI Chat Completions API兼容的端点。此时，您可以使用ChatOpenAI配合自定义 base_url 连接到这些端点实现基础聊天功能。

ChatOpenAI仅针对官方OpenAI API规范。第三方供应商的非标准响应字段（如 reasoning_content、reasoning、reasoning_details）不会被提取或保留。如需访问非标准功能，请使用供应商专用包。

例如，OpenRouter有专门的LangChain集成。请参考ChatOpenRouter指南进行配置和使用。

所有对话模型

模型	流式输出	工具调用	结构化输出	多模态	下载
AzureChatOpenAI	✅	✅	✅	✅
ChatOpenAI	✅	✅	✅	✅
vLLM
ChatAnthropicVertex
ChatVertexAI (deprecated)	✅	✅	✅	✅
ChatAnthropic	✅	✅	✅	✅
ChatAnthropicTools
ChatGoogleGenerativeAI	✅	✅	✅	✅
ChatBedrock	✅	✅	✅	✅
ChatOllama	✅	✅	✅	✅
ChatGroq	✅	✅	✅	✅
ChatHuggingFace	❌	✅	✅	✅
ChatLiteLLM	✅	✅	✅	✅
ChatMistralAI	✅	✅	✅	❌
ChatXAI	✅	✅	✅	❌
ChatOpenRouter	✅	✅	✅	✅
ChatDeepSeek	✅	✅	✅	❌
ChatCohere
ChatFireworks	✅	✅	✅	✅
AzureAIChatCompletionsModel	✅	✅	✅	✅
ChatNVIDIA	✅	✅	✅	✅
ChatDatabricks	✅	✅	✅	❌
ChatWatsonx	✅	✅	✅	✅
ChatPerplexity	✅	❌	✅	❌
ChatCerebras	✅	✅	✅	❌
ChatBaseten
ChatTogether	✅	✅	✅	✅
ChatOCIGenerativeAI	✅	✅	✅	✅
ChatOCIModelDeployment	✅
ChatParallel	✅	❌	✅	❌
ChatQwen	✅	✅	✅	✅
ChatQwQ	✅	✅	✅	✅
ChatUpstage
ChatSambaNova	✅	✅	✅	✅
ChatMoonshot	✅	✅	✅	✅
ChatCloudflareWorkersAI	❌	✅	✅	❌
ChatClovaX	✅	✅	✅	✅
Inferrail	✅	✅	✅	❌
ChatNebius	✅	✅	✅	✅
ChatGradient
Donkey Kit (governed ChatOpenAI)	✅	✅
ChatAmazonNova	✅	✅	✅
ChatEmpirioLabs	✅	✅	✅	✅
ChatWriter	✅	✅	✅	❌
ChatTopxAI	✅	✅	✅	✅
ChatAI21	✅	✅	✅	❌
ChatAceDataCloud	✅	✅
ChatCrusoe	✅	✅	✅	❌
ChatFlexAI	✅	✅	✅	✅
ChatRouter	✅	✅	✅
ChatPredictionGuard
ChatDiffbot	✅	❌	❌	❌
ChatAimlapi	✅	✅	✅	✅
RecallMiddleware
ChatObscurify	✅	✅	✅
ChatContextual	❌	❌	❌	❌
ChatHeabsy	✅	✅	✅	✅
ChatDoubleword	✅	✅	✅	❌
ChatAISL	✅	✅	✅	❌
ChatAbso
ModelScopeChatEndpoint
ChatBrainiall
ChatKServe	✅	✅	✅	✅
ChatHubris	✅	✅	✅	✅
ChatSarvam	✅	✅	✅	❌
ChatFeatherlessAI	✅	❌	❌	❌
ChatKinetica
ChatYutoriNavigator
ChatXinference	✅	✅	✅	❌
ChatRunPod
SpendGuardChatModel
ChatOpenZoo	✅	✅	✅	✅
Apertis	✅	✅	✅	✅
ChatAppleFoundationModels	✅	✅	✅	❌
ChatPipeshift	✅	❌	❌	✅
ChatInterfaze	✅	✅	✅	✅
ChatTelnyx	✅	✅	✅	❌
ChatGreenNode	✅	✅	✅	✅
ChatThalam	✅	✅	✅	✅
ChatNetmind	✅	✅	✅	❌
ChatNeuralwatt	✅	✅	✅	❌
ChatSeekrFlow	✅	✅	✅	❌
ChatKalibr
1Claw	✅	✅	✅	❌	N/A
API-Route					N/A
Auxen	✅	✅	✅	❌	N/A
ChatLlamay	✅	✅	✅	❌	N/A
Cheaper Inference	✅	✅	✅	✅	N/A
DaoXE	✅	✅	✅	✅	N/A
GPTZZZ	✅	✅	✅	✅	N/A
Snowflake Cortex REST API	✅	✅	✅	❌	N/A
Synthorai					N/A
TokenMix	✅	✅	✅	❌	N/A
Tuning Engines	✅	✅	✅	❌	N/A

如需贡献集成，请参考贡献集成。

---

官方原文：src/oss/python/integrations/chat/index.mdx · 非官方翻译，译文由 AI 生成，以英文原文为准。