•主修数据挖掘、分布式存储与流处理技术、数据质量工程等课程,并以全国大学生大数据竞赛赛题为基础,独立设计了一个面向多源异构日志的ETL管道,使用Kettle与Python完成数据抽取、清洗与维度建模,最终加载至数据仓库并生成可视化报表。
•在校期间担任数据治理社团核心成员,组织团队对校园图书馆借阅与门禁数据进行整合,搭建了基于Airflow的调度管道,实现增量数据同步与慢速变化维处理,并在校内技术沙龙中分享数据全生命周期管理实践。
ETL数据转换工程师数据管道建设ETL流程优化数据质量监控
北京
•负责零售行业数据仓库ETL流程的整体规划与开发,主导从POS、库存、会员等多个异构业务系统中抽取原始数据,设计模块化转换管道,支撑日常经营分析。
•针对日增数千万行的交易事实表,引入按日期范围分区与列式存储压缩策略,将每日增量加载耗时从4小时降至2小时20分钟,并显著降低IO开销。
•与业务分析师共同梳理指标口径,搭建数据质量校验框架,对异常值、重复记录和缺失字段进行自动化拦截与修复,确保下游报表的准确性。
•搭建ETL作业监控与告警体系,利用调度日志与自定义探针实现失败自动重跑与延迟预警,将数据异常平均响应时间控制在15分钟以内。
北京智造未来信息技术有限公司 - 大数据部软件服务
2020.07-2022.06
资深ETL数据转换工程师数据迁移工程数据清洗与治理跨团队协作
北京
•主导大型制造业ERP数据迁移项目的ETL专项,带领5人小组完成从旧版Oracle EBS到SAP HANA的批量数据搬迁,涉及物料、BOM、工单等核心主数据,总量约3TB。
•设计并实现多轮数据清洗规则,包括地址标准化、物料编码去重、日期格式统一等,并编写Python脚本对历史遗留的脏数据进行模糊匹配修复,将主数据一致性提升至98%。
•引入基于容器化部署的自动化回归测试框架,对每一批次ETL作业进行全量比对测试,减少了人工核对带来的上线风险,并将迁移验证周期缩短40%。
•与SAP实施顾问、业务部门共同制定数据接口规范,输出《数据映射与转换需求说明书》,协调上下游系统完成联调,确保切换期间数据无缝衔接。
•参与构建零售客户360度画像项目,负责从线上商城、线下门店POS及客服系统抽取客户基础信息、订单流水和退换货记录等数据。
•设计多源异构数据融合管道,通过配置化清洗组件处理缺失值与异常格式,并利用拉链表技术构建客户全生命周期档案,支持日级别增量更新。
•采用多线程分区加载与批量合并写入策略,将全量历史数据初次加载耗时从原来的10小时压缩至3.5小时,大幅缩短了项目交付窗口。
•项目上线后,为会员积分精准营销和流失预警模型提供了标准化数据底座,业务侧反馈营销活动响应率提升了18%。
供应链财务数据仓库ETL项目 - ETL开发工程师
2021.01-2021.06
•负责搭建供应链财务数据仓库的数据转换层,从采购系统、仓储WMS和财务总账系统抽取应付、库存成本和预算执行等数据。
•设计复杂的业务转换逻辑,包括采购暂估冲销、库存移动加权平均成本计算、费用分摊规则等,并编写SQL脚本实现自动化账务处理。
•建立基于定时任务与事件触发的双层监控体系,实时捕获ETL作业异常并自动通知相关责任人,减少因数据延迟导致的月结延误。
•项目成功上线后,月度财务报告生成周期由原来的2天缩短至5小时,财务团队得以将更多精力投入分析性工作。
数据建模与ETL架构实践:
掌握Kimball维度建模的实施步骤,曾为零售业务设计过包含退化维与桥接表的数据模型,并沉淀出可复用的ETL模板。
深入理解变更数据捕获机制,在项目中运用基于时间戳的增量抽取策略,结合全量快照和历史拉链表,确保数据一致性与可追溯性。