当前位置：网站首页 > IT知识 > 正文

AVRO vs Parquet-该选哪一个?

liuian 2025-05-16 14:47 35 浏览

我不会说一个更好，而另一个则不是，因为这完全取决于它们将在哪里使用。

Apache Avro是在Apache的Hadoop项目中开发的远程过程调用和数据序列化框架。它使用JSON定义数据类型和协议，并以紧凑的二进制格式序列化数据。（由维基百科）

· 由于它是基于行的格式，因此在需要访问所有字段时最好使用

· 文件支持块压缩并且可拆分

· 可以从流数据写入（例如Apache Flink）

· 适用于写密集型操作

另一方面，Apache Parquet是Apache Hadoop生态系统的一种免费的，面向列的开源数据存储格式。它类似于Hadoop中可用的其他列存储文件格式，即RCFile和ORC。它提供了具有增强性能的高效数据压缩和编码方案，可批量处理复杂数据。（由维基百科）

· 由于它是基于列的格式，因此最好只在需要访问特定字段时使用

· 每个数据文件都包含一组行的值

· 无法通过流式数据写入，因为它需要等待块完成。但是，这将使用微批量（例如Apache Spark）工作。

· 适用于数据探索-读取密集，复杂或分析性查询，低延迟数据

两者都支持以下内容，但在一定程度上取决于：

· 模式演变

· 嵌套数据集

(本文翻译自Ana Esguerra的文章《AVRO vs Parquet — what to use?》，参考：https://medium.com/@
minyodev/avro-vs-parquet-what-to-use-518ccbe8fb0c)

avro数据格式

上一篇：微服务实战:从发布到架构——上篇
下一篇：面试系列 - 序列化和反序列化详解

相关推荐

总结下SpringData JPA 的常用语法: SpringDataJPA常用有两种写法，一个是用Jpa自带方法进行CRUD，适合简单查询场景、例如查询全部数据、根据某个字段查询，根据某字段排序等等。另一种是使用注解方式，@Query、@Modi...

解决JPA在多线程中事务无法生效的问题: 在使用SpringBoot2.x和JPA的过程中，如果在多线程环境下发现查询方法（如@Query或findAll）以及事务（如@Transactional）无法生效，通常是由于S...

PostgreSQL系列(一):数据类型和基本类型转换: 自从厂子里出来后，数据库的主力就从Oracle变成MySQL了。有一说一哈，贵确实是有贵的道理，不是开源能比的。后面的工作里面基本上就是主MySQL，辅MongoDB、ES等NoSQL。最近想写一点跟...

基于MCP实现text2sql: 目的：基于MCP实现text2sql能力参考：https://blog.csdn.net/hacker_Lees/article/details/146426392服务端#选用开源的MySQLMCP...

ORACLE 错误代码及解决办法: ORA-00001:违反唯一约束条件(.)错误说明：当在唯一索引所对应的列上键入重复值时，会触发此异常。ORA-00017:请求会话以设置跟踪事件ORA-00018:超出最大会话数ORA-00...

从 SQLite 到 DuckDB:查询快 5 倍，存储减少 80%: 作者丨Trace译者丨明知山策划丨李冬梅Trace从一开始就使用SQLite将所有数据存储在用户设备上。这是一个非常不错的选择——SQLite高度可靠，并且多种编程语言都提供了广泛支持...

010:通过 MCP PostgreSQL 安全访问数据: 项目简介提供对PostgreSQL数据库的只读访问功能。该服务器允许大型语言模型（LLMs）检查数据库的模式结构，并执行只读查询操作。核心功能提供对PostgreSQL数据库的只读访问允许L...

发现了一个好用且免费的SQL数据库工具(DBeaver): 缘起最近Ai不是大火么，想着自己也弄一些开源的框架来捣腾一下。手上用着Mac，但Mac都没有显卡的，对于学习Ai训练模型不方便，所以最近新购入了一台4090的拯救者，打算用来好好学习一下Ai（呸，以上...

微软发布.NET 10首个预览版:JIT编译器再进化、跨平台开发更流畅: IT之家2月26日消息，微软.NET团队昨日（2月25日）发布博文，宣布推出.NET10首个预览版更新，重点改进.NETRuntime、SDK、libraries、C#、AS...

数据库管理工具Navicat Premium最新版发布啦: 管理多个数据库要么需要使用多个客户端应用程序，要么找到一个可以容纳你使用的所有数据库的应用程序。其中一个工具是NavicatPremium。它不仅支持大多数主要的数据库管理系统（DBMS），而且它...

50+AI新品齐发，微软Build放大招:拥抱Agent胜算几何?: 北京时间5月20日凌晨，如果你打开微软Build2025开发者大会的直播，最先吸引你的可能不是一场原本属于AI和开发者的技术盛会，而是开场不久后的尴尬一幕：一边是几位微软员工在台下大...

揭秘:一条SQL语句的执行过程是怎么样的?: 数据库系统能够接受SQL语句，并返回数据查询的结果，或者对数据库中的数据进行修改，可以说几乎每个程序员都使用过它。而MySQL又是目前使用最广泛的数据库。所以，解析一下MySQL编译并执行...

各家sql工具，都闹过哪些乐子?: 相信这些sql工具，大家都不陌生吧，它们在业内绝对算得上第一梯队的产品了，但是你知道，他们都闹过什么乐子吗？首先登场的是Navicat，这款强大的数据库管理工具，曾经让一位程序员朋友“火”了一把。Na...

详解PG数据库管理工具--pgadmin工具、安装部署及相关功能: 概述今天主要介绍一下PG数据库管理工具--pgadmin，一起来看看吧~一、介绍pgAdmin4是一款为PostgreSQL设计的可靠和全面的数据库设计和管理软件，它允许连接到特定的数据库，创建表和...

Enpass for Mac(跨平台密码管理软件): 还在寻找密码管理软件吗？密码管理软件有很多，但是综合素质相当优秀且完全免费的密码管理软件却并不常见，EnpassMac版是一款免费跨平台密码管理软件，可以通过这款软件高效安全的保护密码文件，而且可以...

一周热门

最近发表

首页
收录
顶部