Google cloud document AI 集成 - AI 开发中文文档

文档 AI 是 Google Cloud 提供的文档理解平台，用于将文档中的非结构化数据转换为结构化数据，使其更易于理解、分析和使用。了解更多：

该模块包含一个基于 Google Cloud 的 DocAI 的 PDF 解析器。使用此解析器需要安装两个库：

pip install -qU  langchain-google-community[docai]

首先，您需要设置一个 Google Cloud Storage (GCS) 存储桶，并按照此处所述创建您自己的光学字符识别 (OCR) 处理器：cloud.google.com/document-ai/docs/create-processor GCS_OUTPUT_PATH 应该是 GCS 上一个文件夹的路径（以 gs:// 开头），而 PROCESSOR_NAME 应该看起来像 projects/PROJECT_NUMBER/locations/LOCATION/processors/PROCESSOR_ID 或 projects/PROJECT_NUMBER/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION_ID。您可以通过编程方式获取它，或者从 Google Cloud Console 中的 Processor details 标签的 Prediction endpoint 部分复制。

GCS_OUTPUT_PATH = "gs://BUCKET_NAME/FOLDER_PATH"
PROCESSOR_NAME = "projects/PROJECT_NUMBER/locations/LOCATION/processors/PROCESSOR_ID"

from langchain_core.document_loaders.blob_loaders import Blob
from langchain_google_community import DocAIParser

现在，创建一个 DocAIParser。

parser = DocAIParser(
    location="us", processor_name=PROCESSOR_NAME, gcs_output_path=GCS_OUTPUT_PATH
)

在这个示例中，您可以使用上传到公共 GCS 存储桶的 Alphabet 收益报告。 2022Q1_alphabet_earnings_release.pdf 将文档传递给 lazy_parse() 方法来

blob = Blob(
    path="gs://cloud-samples-data/gen-app-builder/search/alphabet-investor-pdfs/2022Q1_alphabet_earnings_release.pdf"
)

我们将获得每页一个文档，总共 11 个：

docs = list(parser.lazy_parse(blob))
print(len(docs))

您可以逐个对 blob 进行端到端解析。如果您有很多文档，将它们批量处理可能是一个更好的方法，甚至可以将解析与处理解析结果分离。

operations = parser.docai_parse([blob])
print([op.operation.name for op in operations])

['projects/543079149601/locations/us/operations/16447136779727347991']

您可以检查操作是否完成：

parser.is_running(operations)

True

当它们完成时，您可以解析结果：

parser.is_running(operations)

False

results = parser.get_results(operations)
print(results[0])

DocAIParsingResults(source_path='gs://vertex-pgt/examples/goog-exhibit-99-1-q1-2023-19.pdf', parsed_path='gs://vertex-pgt/test/run1/16447136779727347991/0')

现在，我们可以从解析结果中生成文档：

docs = list(parser.parse_from_results(results))

print(len(docs))

官方原文：src/oss/python/integrations/document_transformers/google_docai.mdx · 非官方翻译，译文由 AI 生成，以英文原文为准。