百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

19.5K Star 万物皆可JSON!为生成式AI准备文档的绝佳神器!

liuian 2025-03-04 13:07 18 浏览

随着生成式AI的快速发展,如何将大量的文档内容高效转换并集成到AI系统中,成为开发者们的一大挑战。

无论是PDF、Word文档,还是PPT、Excel表格,如果有一款能够快速准确地将这些格式转换成适用于生成式AI的结构化数据,那将是非常的方便。

而今天的主角:Docling,专为此类需求而生。

它能够高效地解析和转换多种文档格式,将文档内容以HTML、Markdown和JSON等格式呈现,并支持OCR识别和表格结构的解析。

当然最重要的是,它可以与主流的生成式AI框架(如LangChain、LlamaIndex等)无缝集成,为AI应用提供强大的文档处理支持。

项目简介

Docling 是开源的一个多功能的文档解析与转换工具。

它能够处理多种常见文档格式(包括PDF、DOCX、PPTX、XLSX、HTML和Markdown等),并通过简洁易用的CLI工具帮助用户快速转换和解析文档。

此外,Docling原生集成了生成式AI框架,如LangChain和LlamaIndex,使其在AI文档处理方面更具优势。它的智能化处理能力,尤其是在OCR和表格结构识别方面,特别适用于那些需要快速提取信息并进一步处理的场景。

主要功能

1、多格式支持,快速转换

Docling支持解析并转换多种文档格式,包括但不限于:

  • PDF、DOCX、PPTX、XLSX、HTML、Markdown等主流格式
  • 能够从这些格式中提取内容并导出为HTML、Markdown或JSON,方便与其他系统和应用集成。

2、高级PDF理解

在PDF处理方面具有强大的功能,不仅支持基本的文本提取,还能深入理解文档的页面布局、阅读顺序以及表格结构。

这些高级特性使得它能够处理更为复杂的PDF文档,特别是包含表格和复杂排版的文件。

3、支持OCR与表格结构识别

内置OCR功能,能够识别扫描文档中的文本,帮助用户提取图像中的信息,并且可以准确识别文档中的表格结构并转换为可用的格式,使得数据的处理更加便捷。

4、AI框架集成,智能文档处理

Docling原生集成了LangChain、LlamaIndex等主流生成式AI框架,为AI应用开发提供了完美的支持。

通过这些框架,用户可以更轻松地将文档内容与AI系统连接,并执行智能任务,如信息抽取、内容生成等。

5、简单易用的CLI工具

提供了便捷的命令行界面(CLI)工具及API,开发者可以通过几行代码轻松完成文档格式转换和处理。

无论是批量处理文档,还是自动化脚本的编写,都极大地提升了开发效率。让开发者可以专注于更高层次的AI应用开发。

安装与使用

要使用 Docling,只需从 Python 包管理器(例如 pip)安装 docling。

pip install docling

要转换单个 PDF 文档,可以使用 convert()

from docling.document_converter import DocumentConverter

source = "https://arxiv.org/pdf/2408.09869"  # PDF path or URL
converter = DocumentConverter()
result = converter.convert(source)
print(result.document.export_to_markdown())

还可以直接从命令行使用 Docling 来转换单个文件(无论是本地文件还是按 URL 文件)或整个目录。

docling https://arxiv.org/pdf/2206.01062

可以通过参数限制每个文档应允许处理的文件大小和页数。

from pathlib import Path
from docling.document_converter import DocumentConverter

source = "https://arxiv.org/pdf/2408.09869"
converter = DocumentConverter()
result = converter.convert(source, max_num_pages=100, max_file_size=20971520)

从二进制 PDF 流转换。

from io import BytesIO
from docling.datamodel.base_models import DocumentStream
from docling.document_converter import DocumentConverter

buf = BytesIO(your_binary_stream)
source = DocumentStream(name="my_doc.pdf", stream=buf)
converter = DocumentConverter()
result = converter.convert(source)

应用场景

  • 智能文档解析
  • 生成式AI应用开发
  • 批量文档处理
  • OCR与表格数据提取

写在最后

Docling 是一个强大而灵活的开源工具,它不仅简化了文档的解析与转换,还通过与生成式AI框架的集成,为开发者提供了无限的可能性。

它支持OCR识别、表格结构解析以及与生成式AI框架的深度集成,为开发智能文档应用提供了完美的支持。无论是需要处理大量文档、开发智能文档应用,还是与AI结合进行更深层次的分析,Docling都能大大提升工作效率。

GitHub 项目地址:
https://github.com/DS4SD/doclin

相关推荐

教你把多个视频合并成一个视频的方法

一.情况介绍当你有一个m3u8文件和一个目录,目录中有连续的视频片段,这些片段可以连成一段完整的视频。m3u8文件打开后像这样:m3u8文件,可以理解为播放列表,里面是播放视频片段的顺序。视频片段像这...

零代码编程:用kimichat合并一个文件夹下的多个文件

一个文件夹里面有很多个srt字幕文件,如何借助kimichat来自动批量合并呢?在kimichat对话框中输入提示词:你是一个Python编程专家,完成如下的编程任务:这个文件夹:D:\downloa...

Java APT_java APT 生成代码

JavaAPT(AnnotationProcessingTool)是一种在Java编译阶段处理注解的工具。APT会在编译阶段扫描源代码中的注解,并根据这些注解生成代码、资源文件或其他输出,...

Unit Runtime:一键运行 AI 生成的代码,或许将成为你的复制 + 粘贴神器

在我们构建了UnitMesh架构之后,以及对应的demo之后,便着手于实现UnitMesh架构。于是,我们就继续开始UnitRuntime,以用于直接运行AI生成的代码。PS:...

挣脱臃肿的枷锁:为什么说Vert.x是Java开发者手中的一柄利剑?

如果你是一名Java开发者,那么你的职业生涯几乎无法避开Spring。它如同一位德高望重的老国王,统治着企业级应用开发的大片疆土。SpringBoot的约定大于配置、SpringCloud的微服务...

五年后,谷歌还在全力以赴发展 Kotlin

作者|FredericLardinois译者|Sambodhi策划|Tina自2017年谷歌I/O全球开发者大会上,谷歌首次宣布将Kotlin(JetBrains开发的Ja...

kotlin和java开发哪个好,优缺点对比

Kotlin和Java都是常见的编程语言,它们有各自的优缺点。Kotlin的优点:简洁:Kotlin程序相对于Java程序更简洁,可以减少代码量。安全:Kotlin在类型系统和空值安全...

移动端架构模式全景解析:从MVC到MVVM,如何选择最佳设计方案?

掌握不同架构模式的精髓,是构建可维护、可测试且高效移动应用的关键。在移动应用开发中,选择合适的软件架构模式对项目的可维护性、可测试性和团队协作效率至关重要。随着应用复杂度的增加,一个良好的架构能够帮助...

颜值非常高的XShell替代工具Termora,不一样的使用体验!

Termora是一款面向开发者和运维人员的跨平台SSH终端与文件管理工具,支持Windows、macOS及Linux系统,通过一体化界面简化远程服务器管理流程。其核心定位是解决多平台环境下远程连接、文...

预处理的底层原理和预处理编译运行异常的解决方案

若文章对您有帮助,欢迎关注程序员小迷。助您在编程路上越走越好![Mac-10.7.1LionIntel-based]Q:预处理到底干了什么事情?A:预处理,顾名思义,预先做的处理。源代码中...

为“架构”再建个模:如何用代码描述软件架构?

在架构治理平台ArchGuard中,为了实现对架构的治理,我们需要代码+模型描述所要处理的内容和数据。所以,在ArchGuard中,我们有了代码的模型、依赖的模型、变更的模型等,剩下的两个...

深度解析:Google Gemma 3n —— 移动优先的轻量多模态大模型

2025年6月,Google正式发布了Gemma3n,这是一款能够在2GB内存环境下运行的轻量级多模态大模型。它延续了Gemma家族的开源基因,同时在架构设计上大幅优化,目标是让...

比分网开发技术栈与功能详解_比分网有哪些

一、核心功能模块一个基本的比分网通常包含以下模块:首页/总览实时比分看板:滚动展示所有正在进行的比赛,包含比分、比赛时间、红黄牌等关键信息。热门赛事/焦点战:突出显示重要的、关注度高的比赛。赛事导航...

设计模式之-生成器_一键生成设计

一、【概念定义】——“分步构建复杂对象,隐藏创建细节”生成器模式(BuilderPattern):一种“分步构建型”创建型设计模式,它将一个复杂对象的构建与其表示分离,使得同样的构建过程可以创建...

构建第一个 Kotlin Android 应用_kotlin简介

第一步:安装AndroidStudio(推荐IDE)AndroidStudio是官方推荐的Android开发集成开发环境(IDE),内置对Kotlin的完整支持。1.下载And...