Cohere 集成

使用 LangChain Python 集成 Cohere LLM。

您当前所在的页面正在记录使用 Cohere 模型作为文本完成模型的情况。许多流行的 Cohere 模型是 对话完成模型。

您可能需要查找 这个页面。

Cohere 是一家加拿大初创公司，提供自然语言处理模型，帮助公司改善人机交互。

请访问 API 参考 获取所有属性和方法的详细文档。

设置

集成位于 langchain-community 包中。我们还需要安装 cohere 包本身。可以通过以下方式安装：

langchain-community包已不再维护。从langchain_community导入的示例可能过时或无法使用。请谨慎使用。

凭证

我们需要获取一个 Cohere API 密钥 并设置 COHERE_API_KEY 环境变量：

import getpass
import os

if "COHERE_API_KEY" not in os.environ:
    os.environ["COHERE_API_KEY"] = getpass.getpass()

安装

pip install -U langchain-community langchain-cohere

（可选）设置 LangSmith 以获得最佳级别的可观察性

os.environ["LANGSMITH_TRACING"] = "true"
# os.environ["LANGSMITH_API_KEY"] = getpass.getpass()

调用

Cohere 支持 LLM 的所有功能：

from langchain_cohere import Cohere
from langchain.messages import HumanMessage

model = Cohere(max_tokens=256, temperature=0.75)

message = "Knock knock"
model.invoke(message)

" Who's there?"

await model.ainvoke(message)

" Who's there?"

stream = model.stream_events(message, version="v3")
for token in stream.text:
    print(token, end="", flush=True)

 Who's there?

model.batch([message])

[" Who's there?"]

---

API 参考

要获取所有 Cohere llm 功能和配置的详细文档，请访问 API 参考

---

官方原文：src/oss/python/integrations/llms/cohere.mdx · 非官方翻译，译文由 AI 生成，以英文原文为准。