聊天模型集成 - AI 开发中文文档

对话模型是使用消息序列作为输入并返回消息作为输出的语言模型。

安装和使用

OpenAI

安装:

npm install @langchain/openai @langchain/core

yarn add @langchain/openai @langchain/core

pnpm add @langchain/openai @langchain/core

添加环境变量:

OPENAI_API_KEY=your-api-key

实例化模型:

import { ChatOpenAI } from "@langchain/openai";

const model = new ChatOpenAI({ model: "gpt-5.4-mini" });

await model.invoke("Hello, world!")

Anthropic

安装:

npm i @langchain/anthropic @langchain/core

yarn add @langchain/anthropic @langchain/core

pnpm add @langchain/anthropic @langchain/core

添加环境变量:

ANTHROPIC_API_KEY=your-api-key

实例化模型:

import { ChatAnthropic } from "@langchain/anthropic";

const model = new ChatAnthropic({
model: "claude-sonnet-4-6",
temperature: 0
});

await model.invoke("Hello, world!")

Google Gemini

安装:

npm install @langchain/google @langchain/core

yarn add @langchain/google @langchain/core

pnpm add @langchain/google @langchain/core

添加环境变量:

GOOGLE_API_KEY=your-api-key

实例化模型:

import { ChatGoogle } from "@langchain/google";

const model = new ChatGoogle("gemini-2.5-flash");

await model.invoke("Hello, world!")

MistralAI

安装:

npm install @langchain/mistralai @langchain/core

yarn add @langchain/mistralai @langchain/core

pnpm add @langchain/mistralai @langchain/core

添加环境变量:

MISTRAL_API_KEY=your-api-key

实例化模型:

import { ChatMistralAI } from "@langchain/mistralai";

const model = new ChatMistralAI({
model: "mistral-large-latest",
temperature: 0
});

await model.invoke("Hello, world!")

Groq

安装:

npm install @langchain/groq @langchain/core

yarn add @langchain/groq @langchain/core

pnpm add @langchain/groq @langchain/core

添加环境变量:

GROQ_API_KEY=your-api-key

实例化模型:

import { ChatGroq } from "@langchain/groq";

const model = new ChatGroq({
model: "openai/gpt-oss-120b",
temperature: 0
});

await model.invoke("Hello, world!")

特色模型

虽然这些 LangChain 类支持所指示的高级功能，但您可能需要参考提供者特定文档来了解哪些托管的模型或后端支持该功能。

模型	流式输出	工具调用	`withStructuredOutput()`	`Multimodal`
`ChatOpenAI`	✅	✅	✅	✅
`ChatAnthropic`	✅	✅	✅	✅
`ChatBedrockConverse`	✅	✅	✅	✅
`ChatGroq`	✅	✅	✅	❌
`ChatOllama`	✅	✅	✅	✅
`ChatMistralAI`	✅	✅	✅	✅
`ChatGoogle`	✅	✅	✅	✅
`ChatCohere`	✅	✅	✅	❌
`ChatXAI`	✅	✅	✅	❌
`ChatFireworks`	✅	✅	✅	❌
`ChatCloudflareWorkersAI`	✅	❌	❌	✅
`ChatTogetherAI`	✅	✅	✅	✅
`ChatPerplexity`	✅	❌	✅	❌

查看完整的对话模型集成列表以获取更多选项。

路由器和代理

路由器和代理通过单个 API 和凭证提供对来自多个提供者的模型的访问。它们可以简化计费，让您在不更改集成的情况下切换模型，并提供自动回退等特性。

提供者	集成	描述
OpenRouter	`ChatOpenRouter`	统一访问 OpenAI、Anthropic、Google、Meta 等模型的接口

对话完成 API

某些模型提供者提供与 OpenAI 的（旧版）对话完成 API兼容的端点。在这种情况下，您可以使用 ChatOpenAI 并通过自定义base_url连接到这些端点。请注意，基于对话完成 API 构建的功能可能无法完全由ChatOpenAI支持；在这种情况下，如果可用，请考虑使用提供者特定的类。

所有对话模型

模型	流式	工具调用	`withStructuredOutput()`	`Multimodal`	下载
`AzureChatOpenAI`	✅	✅	✅	✅
`ChatOpenAI`	✅	✅	✅	✅
`ChatAnthropic`	✅	✅	✅	✅
`ChatGoogleGenerativeAI`	✅	✅	✅	✅
`ChatBedrockConverse`	✅	✅	✅	✅
`ChatVertexAI`	✅	✅	✅	✅
`ChatGroq`	✅	✅	✅	❌
`ChatOllama`	✅	✅	✅	✅
`ChatMistralAI`	✅	✅	✅	✅
`ChatGoogle`	✅	✅	✅	✅
`ChatCohere`	✅	✅	✅	❌
`ChatXAI`	✅	✅	✅	❌
`ChatOpenRouter`	✅	✅	✅	✅
`ChatDeepSeek`	✅	✅	✅	❌
`ChatCerebras`	✅	✅	✅	❌
`ChatFireworks`	✅	✅	✅	❌
`ChatBaiduQianfan`
`ChatCloudflareWorkersAI`	✅	❌	❌	✅
`ChatTogetherAI`	✅	✅	✅	✅
`ChatWatsonx`	✅	✅	✅	✅
`ChatPerplexity`	✅	❌	✅	❌
`ChatYandexGPT`
`ChatWebLLM`	✅	✅	✅
`ChatEmpirioLabs`	✅	✅	✅	✅
`ChatInterfaze`	✅	✅	✅	✅
`ChatKServe`	✅	✅	✅	✅
`RecallToolkit`
`ChatSCX`	✅	✅	✅	✅
`ChatObscurify`	✅	✅	✅
`Auxen`	✅	✅	✅	❌	N/A
`FakeListChatModel`					N/A
`Tuning Engines`	✅	✅	✅	❌	N/A