Iceberg组件概述
更新时间 2026-10-12 11:42:28
最近更新时间: 2026-10-12 11:42:28
本章节介绍Iceberg服务基础概述。
Iceberg是一种用于大型分析数据集的开放数据湖表格式,能够帮助您在HDFS或天翼云ZOS上迅速搭建起自己的数据湖存储业务,同时依托Spark、Flink、Doris等开源大数据计算引擎,实现对数据湖中各类分析任务的支撑。
核心能力
Iceberg目前已经成为构建数据湖服务的表格式标准,其具备以下核心能力:
低成本存储底座:基于HDFS或对象存储(如天翼云ZOS)构建轻量级数据湖。
生态无缝对接:与Spark、Flink、Doris等主流开源计算引擎天然集成,入湖和分析场景开箱即用。
完整ACID事务:提供原子性、一致性、隔离性、持久性保证,并发读写下数据始终一致。
行级数据变更:支持记录级别的插入、更新、删除和合并操作。
历史版本回溯(时间旅行):可查询表在任意历史时刻的快照,也支持一键回滚到之前状态。
高效数据过滤:利用元数据中的分区信息和列级统计信息,在扫描前精准跳过无关文件,大幅减少I/O,提升查询性能。
Schema演化:支持添加、删除、重命名或重新排序列,且所有变更不影响历史数据。
分区布局动态调整:允许在线更改表的分区方案(如从按天改为按小时),无需重写旧数据。
隐式分区:查询时无需手动指定分区字段,系统自动完成分区裁剪。