Localai 集成

使用 LangChain Python 集成 Localai。

本地AI是免费的、开源的OpenAI替代品。 LocalAI作为本地推理兼容OpenAI API规范的即插即用式REST API。它允许您使用消费级硬件在本地或本地部署运行LLM、生成图像、音频（以及更多），支持多种模型系列和架构。

langchain-localai是一个用于LocalAI的第三方集成包。它提供了一种简单的方法，在LangChain中使用LocalAI服务。 源代码可在Github上获取

安装和设置

pip

pip install langchain-localai

嵌入模型

查看使用示例。

重新排序器

查看使用示例。

---

官方原文：src/oss/python/integrations/providers/localai.mdx · 非官方翻译，译文由 AI 生成，以英文原文为准。