Skip to content

知识地图 ​

按 岗位路径 × 技术域 组织。先选角色路径,再深入技术域;每域优先读「概览 → 旗舰实践 → 专题」。

主链只链主文(不链跳转页)。已成稿 = 审校可合并/定稿;Batch D 新文待审校扫完再标。

岗位路径(建议顺序) ​

数仓 / 离线开发 ​

  1. 数仓分层实践(ODS→ADS) ← 已成稿 · 必读
  2. 分区策略 → 快照 vs 拉链 → 拉链表 SCD2 → 宽表 vs 星型 ← 已成稿 / 待审
  3. 离线幂等 → 幂等回刷 → 表粒度校验 ← 已成稿 / 待审
  4. 指标口径一致性 → ADS 出数验收 → 埋点与口径变更 → 改表前影响评估 ← 已成稿 → Schema 兼容门禁 ← 已成稿 → 表生命周期 ← 已成稿 → 访问与脱敏 ← 已成稿 → 测试样例集 ← 已成稿 → NULL/默认值语义 ← 已成稿
  5. 调度依赖 → 补数/重跑/追数 → 补数演练 → 告警与值班 → 优先级与抢占 → 优先级抢占演练 ← 已成稿
  6. Hive 慢查询 → 小文件治理 → Hive 倾斜 → Join 膨胀 → UDF 性能 → 动态分区 → ORC vs Parquet ← 已成稿 / 待审
  7. Spark Join 倾斜 → AQE / Shuffle → Spark OOM → Spill → cache/persist → Broadcast Join → 推测执行与长尾 ← 已成稿 / 待审
  8. 数据质量闭环 → 对账设计 → 新鲜度 SLA → 波动基线 → 主键/唯一键 → 行数/字节量监控 ← 已成稿 / 待审 → 数据契约 ← 已成稿 → 空跑/静默失败 ← 已成稿 → 事故复盘 ← 已成稿

实时 / 流计算开发 ​

  1. Kafka 分区设计 → Kafka 积压排查 → Kafka EOS → Schema 演进 → 毒消息与 DLQ → Rebalance 风暴 ← 已成稿 / 待审
  2. Flink Checkpoint → Watermark → 反压 → 状态 TTL → 维表 Join → Savepoint 迁移 → RocksDB 调优 ← 已成稿 / 待审
  3. CDC 入湖 → 实时链路延迟排查 → 乱序与重复 → 端到端 EOS 验收 → 双流 Join → Sink 幂等验收 ← 已成稿 / 待审
  4. 数据质量闭环 → 对账设计(流批对齐)→ 波动基线

数据分析 / 数开偏业务 ​

  1. 数仓分层 → 知道指标从哪一层来
  2. 指标口径一致性 → 对账
  3. 快照 vs 拉链 → 宽表 vs 星型 → 维表口径
  4. 调度依赖 → 告警值班 → 报表几点能看

云上平台(可迁移原则) ​

  1. 云上数仓怎么落地(DataWorks / Hologres 通用原则) ← 已成稿
  2. 云上成本治理通用原则 ← 待审
  3. 开发/测试/生产环境隔离通用原则 ← 待审

技术域矩阵 ​

技术域核心问题入口状态
数仓分层与建模分层、拉链、宽表星型、幂等、口径、粒度校验、影响评估、Schema 兼容、表生命周期、访问脱敏、测试样例、NULL 语义warehouse/已成稿为主
调度依赖 / READY / 补数 / 值班 / 优先级抢占 / 抢占演练schedule/已成稿 + Batch D
HiveSQL、小文件、倾斜、Join 膨胀、UDF、动态分区、ORC/Parquethive/已成稿 + Batch D
SparkShuffle、AQE、倾斜、OOM、Spill、cache、Broadcast、推测执行spark/已成稿 + Batch D
FlinkCheckpoint、Watermark、反压、TTL、维表 Join、Savepoint、RocksDBflink/已成稿 + Batch D
KafkaLag、分区、EOS、Schema、DLQ、Rebalancekafka/已成稿 + Batch D
实时计算CDC、延迟、乱序重复、端到端 EOS、双流 Join、Sink 幂等realtime/已成稿 + Batch D
数据质量闭环、对账、数据契约、新鲜度、波动基线、主键设计、量级监控、静默失败、事故复盘quality/已成稿 + Batch D
云上平台托管调度、仓、OLAP、成本治理、环境隔离cloud/已成稿 + 待审

阅读建议 ​

  • 面试准备:先走岗位路径,能讲清「分层理由 + 验收方式 + 一次补数事故」比背名词更有说服力。
  • 上线排障:从对应技术域概览进入,对照「常见坑」与「如何验证」。
  • 贡献内容:新文章挂到本图并更新侧边栏;已定稿路径禁止删除;地图主链只链主文,不链跳转页。