百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

19.5K Star 万物皆可JSON!为生成式AI准备文档的绝佳神器!

liuian 2025-03-04 13:07 9 浏览

随着生成式AI的快速发展,如何将大量的文档内容高效转换并集成到AI系统中,成为开发者们的一大挑战。

无论是PDF、Word文档,还是PPT、Excel表格,如果有一款能够快速准确地将这些格式转换成适用于生成式AI的结构化数据,那将是非常的方便。

而今天的主角:Docling,专为此类需求而生。

它能够高效地解析和转换多种文档格式,将文档内容以HTML、Markdown和JSON等格式呈现,并支持OCR识别和表格结构的解析。

当然最重要的是,它可以与主流的生成式AI框架(如LangChain、LlamaIndex等)无缝集成,为AI应用提供强大的文档处理支持。

项目简介

Docling 是开源的一个多功能的文档解析与转换工具。

它能够处理多种常见文档格式(包括PDF、DOCX、PPTX、XLSX、HTML和Markdown等),并通过简洁易用的CLI工具帮助用户快速转换和解析文档。

此外,Docling原生集成了生成式AI框架,如LangChain和LlamaIndex,使其在AI文档处理方面更具优势。它的智能化处理能力,尤其是在OCR和表格结构识别方面,特别适用于那些需要快速提取信息并进一步处理的场景。

主要功能

1、多格式支持,快速转换

Docling支持解析并转换多种文档格式,包括但不限于:

  • PDF、DOCX、PPTX、XLSX、HTML、Markdown等主流格式
  • 能够从这些格式中提取内容并导出为HTML、Markdown或JSON,方便与其他系统和应用集成。

2、高级PDF理解

在PDF处理方面具有强大的功能,不仅支持基本的文本提取,还能深入理解文档的页面布局、阅读顺序以及表格结构。

这些高级特性使得它能够处理更为复杂的PDF文档,特别是包含表格和复杂排版的文件。

3、支持OCR与表格结构识别

内置OCR功能,能够识别扫描文档中的文本,帮助用户提取图像中的信息,并且可以准确识别文档中的表格结构并转换为可用的格式,使得数据的处理更加便捷。

4、AI框架集成,智能文档处理

Docling原生集成了LangChain、LlamaIndex等主流生成式AI框架,为AI应用开发提供了完美的支持。

通过这些框架,用户可以更轻松地将文档内容与AI系统连接,并执行智能任务,如信息抽取、内容生成等。

5、简单易用的CLI工具

提供了便捷的命令行界面(CLI)工具及API,开发者可以通过几行代码轻松完成文档格式转换和处理。

无论是批量处理文档,还是自动化脚本的编写,都极大地提升了开发效率。让开发者可以专注于更高层次的AI应用开发。

安装与使用

要使用 Docling,只需从 Python 包管理器(例如 pip)安装 docling。

pip install docling

要转换单个 PDF 文档,可以使用 convert()

from docling.document_converter import DocumentConverter

source = "https://arxiv.org/pdf/2408.09869"  # PDF path or URL
converter = DocumentConverter()
result = converter.convert(source)
print(result.document.export_to_markdown())

还可以直接从命令行使用 Docling 来转换单个文件(无论是本地文件还是按 URL 文件)或整个目录。

docling https://arxiv.org/pdf/2206.01062

可以通过参数限制每个文档应允许处理的文件大小和页数。

from pathlib import Path
from docling.document_converter import DocumentConverter

source = "https://arxiv.org/pdf/2408.09869"
converter = DocumentConverter()
result = converter.convert(source, max_num_pages=100, max_file_size=20971520)

从二进制 PDF 流转换。

from io import BytesIO
from docling.datamodel.base_models import DocumentStream
from docling.document_converter import DocumentConverter

buf = BytesIO(your_binary_stream)
source = DocumentStream(name="my_doc.pdf", stream=buf)
converter = DocumentConverter()
result = converter.convert(source)

应用场景

  • 智能文档解析
  • 生成式AI应用开发
  • 批量文档处理
  • OCR与表格数据提取

写在最后

Docling 是一个强大而灵活的开源工具,它不仅简化了文档的解析与转换,还通过与生成式AI框架的集成,为开发者提供了无限的可能性。

它支持OCR识别、表格结构解析以及与生成式AI框架的深度集成,为开发智能文档应用提供了完美的支持。无论是需要处理大量文档、开发智能文档应用,还是与AI结合进行更深层次的分析,Docling都能大大提升工作效率。

GitHub 项目地址:
https://github.com/DS4SD/doclin

相关推荐

使用Assembly打包和部署Spring Boot工程

SpringBoot项目的2种部署方式目前来说,SpringBoot项目有如下2种常见的部署方式一种是使用docker容器去部署。将SpringBoot的应用构建成一个docke...

java高级用法之:调用本地方法的利器JNA

简介JAVA是可以调用本地方法的,官方提供的调用方式叫做JNI,全称叫做javanativeinterface。要想使用JNI,我们需要在JAVA代码中定义native方法,然后通过javah命令...

Linux中如何通过Shell脚本来控制Spring Boot的Jar包启停服务?

SpringBoot项目在为开发者带来方便的同时,也带来了一个新的问题就是Jar包如何启动?在一般情况下我们都是采用了最为经典的java-jar命令来进行启动。然后通过ps命令找到对应的应用线程通...

牛逼!自己手写一个热加载(人民币手写符号一个横还是两个横)

热加载:在不停止程序运行的情况下,对类(对象)的动态替换JavaClassLoader简述Java中的类从被加载到内存中到卸载出内存为止,一共经历了七个阶段:加载、验证、准备、解析、初始化、使用、...

java 错误: 找不到或无法加载主类?看看怎么解决吧!

问题扫述:项目名称调整,由原来的com.mp.qms.report.biz调整为com.mp.busicen.mec.qms.report.biz后。项目在IDEA直接运行,但打包部署到服务器...

如何将 Spring Boot 工程打包成独立的可执行 JAR 包

导语:通过将SpringBoot项目打包成独立的可执行JAR包,可以方便地在任何支持Java环境的机器上运行项目。本文将详细介绍如何通过Maven构建插件将SpringBoot...

class 增量发包改造为 jar 包方式发布

大纲class增量发包介绍项目目录结构介绍jar包方式发布落地方案class增量发包介绍当前项目的迭代修复都是通过class增量包来发版本的将改动的代码class增量打包,如下图cla...

Jar启动和IDE里启动Sprintboot的区别

想聊明白这个问题,需要补充一些前提条件,比如Fatjar、类加载机制等1、Fatjar我们在开发业务程序的时候,经常需要引用第三方的jar包,最终程序开发完成之后,通过打包程序,会把自己的代码和三...

Java 20年,以后将往哪儿走?(java还能流行多久)

在今年的Java20周年的庆祝大会中,JavaOne2015的中心议题是“Java的20年”。甲骨文公司Java平台软件开发部的副总裁GeorgesSaab的主题演讲就将关注点放在了java...

Spring Boot Jar 包秒变 Docker 镜像实现多环境部署

你是否在互联网大厂后端开发工作中,遇到过这样的困扰?当完成一个SpringBoot项目开发,准备将Jar包部署到不同环境时,却发现各个环境依赖不同、配置复杂,部署过程繁琐又容易出错,不仅耗费...

从0开始,让你的Spring Boot项目跑在Linux服务器

1搭建Linux服务器1.1购买阿里云服务器或安装虚拟机这里建议是CentOS7.X或CentOS8.X,当然其他的Linux如deepin、Ubuntu也可以,只是软件环境的安装包和安装方式...

【技术】Maven 上传第三方jar包到私服

通过nexus后台上传私服以NexusRepositoryManagerOSS2.14.5-02为例。登录nexus后台。定义Maven坐标Maven坐标有两种方式:1.自定义参数;2....

JVM参数、main方法的args参数使用

一、前言我们知道JVM参数分为自定义参数、JVM系统参数,Javamain方法的参数。今天就谈谈怎么使用吧。二、查看jvm参数定义自定义参数我们打开cmd窗口,输入java,就能看到自定义参数的格式...

Maven项目如何发布jar包到Nexus私服

Maven项目发布jar包到Nexus私服在编码过程中,有些通用的代码模块,有时候我们不想通过复制粘贴来粗暴地复用。因为这样不仅体现不了变化,也不利于统一管理。这里我们使用mavendeploy的方...

干货丨Hadoop安装步骤!详解各目录内容及作用

Hadoop是Apache基金会面向全球开源的产品之一,任何用户都可以从ApacheHadoop官网下载使用。今天,播妞将以编写时较为稳定的Hadoop2.7.4版本为例,详细讲解Hadoop的安...