众所周知,lakehouse 架构是当前大数据领域领先的技术架构之一。lakehouse 由海外知名大数据公司 databricks 提出,旨在融合数据湖的灵活性及成本效益与传统数据仓库的强大事务支持、高性能分析能力于一体,并且能够无缝集成机器学习等多种应用场景,为企业提供了更加全面的数据管理和分析平台。
apache spark 作为近十几年来大数据领域最优秀的开源项目之一,提供了强大统一的大数据处理和分析能力,涵盖了实时离线数据处理、sql、图计算、机器学习及深度学习等多个维度,作为 lakehouse 的核心组件,spark 在大数据和ai方向持续发力。
apache paimon 作为新兴的数据湖存储技术,最初在flink社区中以 flink table store项目孵化。2023 年,paimon独立出来成为一个 apache incubator项目,2024 年 4 月完成孵化成为了一个apache顶级项目。apache paimon 采用开放的数据格式和技术理念,提供高吞吐、低延迟的数据摄入、更新及查询能力,且与诸多业界主流计算对接,是 lakehouse 架构中不可或缺的一部分。
为了助力 lakehouse 架构在企业中的实践与落地,阿里云 emr 技术团队联合 apache paimon 社区,联合举办“ apache spark & paimon, 助力 lakehouse 架构生产落地”线下 meetup,邀请阿里云、vivo、美团等众多业内大咖分享 lakehouse 架构的核心技术和最佳实践经验,为大数据从业者提供一个开放的分享与交流平台。
活动详情
● 活动时间:2024年11月15日 13:30-17:30(周五)
● 活动地点:北京市朝阳区阿里中心-望京a座-05f
● 报名方式:扫描下方二维码或点击链接进行报名
活动亮点
1. 业内大咖云集
本次 meetup 特邀阿里云、vivo、美团等知名企业的技术专家现场分享,将为大家带来最前沿的技术洞察和实践经验,分享他们在 lakehouse 架构实施过程中遇到的挑战与凯发会员官网的解决方案。
2. 深入探讨 lakehouse 架构
lakehouse 架构作为一种新兴的大数据存储与处理架构,融合了数据湖和数据仓库的优势。本次活动将深入探讨lakehouse 架构的核心技术,包括数据采集、数据存储、数据分析、数据管理等多个方面,帮助企业更好地理解和应用这一创新架构。
3. apache spark 与 paimon 的深度整合
apache spark 作为大数据处理的利器,与 paimon 的深度整合将带来更加强大的数据处理能力。本次 meetup 将详细介绍 spark 与 paimon 的集成实践,分享在具体项目中的应用案例,展示其在提升数据处理效率方面的卓越表现。
4. 最佳实践与成功案例分享
除了技术的探讨,本次 meetup 还将分享多个企业在 lakehouse 架构实践中的成功案例。通过这些最佳实践,您将了解到不同企业在不同场景下的应用经验,找到适合自己企业的凯发会员官网的解决方案,从而推动业务的创新与发展。
期待您的参与
无论您是大数据技术爱好者,还是企业技术决策者,都能通过本次活动找到有价值的信息与灵感。我们期待与您在活动现场相见,共同开启 lakehouse 架构的探索之旅!
emr serverless spark 版是开源大数据平台 e-mapreduce 基于 spark 提供的一款全托管、一站式的数据计算平台,它为用户提供任务开发、调试、发布、调度和运维等全方位的产品化服务。emr serverless spark 完全兼容 paimon,通过内置的 dlf 的元数据实现了和其余阿里云产品如实时计算 flink 版的元数据互通,形成了完整的流批一体的凯发会员官网的解决方案。同时支持灵活的作业运行方式和参数配置,能够满足实时分析、生产调度等多项需求。阿里云 emr serverless spark 版已于2024年9月14日正式商业化售卖,欢迎体验!