掌握国内主流AI编程大模型工具,通过嵌入DataGrip中完成业务数据分析SQL代码开发。
熟练掌握MySQL\SQL、Kettle以及BI工具使用,能够解决传统数仓业务开发任务。
能够基于AI大模型工具辅助完成基本构建企业级数仓 掌握AI辅助编写Shell脚本、AI辅助编写Hive SQL,AI辅助进行SQL性能调优
2.掌握大数据的核心框架Hadoop以及其生态体系,完成HDFS、MapReduce及Yarn机制基本理解与使用;能够搭建Hadoop高可用HA集群;
大数据部署运维:Cloudera Manager、分析决策需求:数据仓库、数据采集:DataX、数据分析:Hive、数据调度:Dolphinscheduler、OLAP系统存储:PostgreSql、Fine Report数据报表与大屏、数仓建模: 范式与维度建模、五大核心主题域开发(销售域、供应链域、会员域等)
可解决的现实问题能够解决企业级常见数据仓库搭建,从项目的需求、技术架构、业务架构、部署平台、ETL设计、作业调度等整套pipeline,完成大数据体系下的企业级数据仓库构建。
主讲内容大数据部署运维:Cloudera Manager、分析决策需求:数据仓库、数据采集:sqoop、数据分析:Hive、分组完成项目
可掌握的核心能力1.掌握教育行业离线数仓的分层与建模,从需求、设计、研发、测试到落地上线多个指标,提升学员在教育行业中的核心竞争力;
按照企业级大数据开发流程,独立完成项目开发,掌握企业级多场景大数据离线数仓开发能力,从数仓分层,数仓建模,指标统计,指标展示完成完整的大数据项目。
掌握使用量最广BI报表开发工具FineReport,能够基于FineReport完成不同行业BI报表开发及业务决策。
1.掌握Python开发环境基本配置;2.掌握运算符、表达式、流程控制语句、数组等的使用;
熟练掌握Python语言,建立编程思维,使学员能够熟练使用Python技术完成程序编写。熟练使用Python面向对象程序设计思想,掌握数据开发必备Python高级语法,解决常见Python开发问题。
Pandas库的使用、 数据可视化技术、数据分析常用思维与模型、数据分析报告撰写
熟练掌握Pandas,Matplotlib,Seaborn等数据处理与可视化开源库的使用, 能够应用常用数据分析思维与模型解决业务问题并输出数据分析报告。
掌握AI辅助编写Spark开发代码、编写SparkSOL、解决Bug、性能调优
大数据Spark技术栈、SparkSQL数据处理与统计分析、Spark案例实战
4.具备Spark全栈开发能力,满足大数据行业多场景统一技术栈的数据开发,提供就业核心竞争力。
掌握全球热门的Spark技术栈,通过SparkCore和SparkSQL解决数据处理与统计分析工作,进阶高级大数据开发工程师。
SparkSQL整合ES自定义数据源、DS任务界面化调度、用户画像标签构建规则、用户画像规则类标签构建、用户画像统计类标签构建
1.掌握SparkSQL整合ES自定义数据源;2.掌握用户画像构建流程;
项目提供了全行业用户画像解决方案, 使用SparkSQL+ES+DS构建企业级用户画像,通过SparkSQL+MySQL构建通用行业用户画像标签体系。
基于Agent的数据库查询操作、大模型Function Cal原理与实现、Assistant APl的原理及应用、基于本地知识库搭建答疑聊天机器人
1.能够利用AI大模型相关技术,构建AlAgent的数据开发相关应用,助力高效数据开发
掌握如何使用AI大模型帮助数据开发和数据分析编程效率提升,具备使用AI大模型解决问题的能力。
1.掌握基于阿里云Flink进行实时和离线.掌握基于阿里云Flink的多流并行处理技术;3.掌握FlinkCDC多数据源采集技术。
掌握当下热门的流批一体化分布式计算框架阿里云Flink及其生态,解决实时计算经典场景问题,适应市场对阿里云Flink越发增长的需求。
基于阿里云Flink + Kafka + Paimon 湖仓一体技术架构,实现在线视频行业大规模流数据处理和实时分析。本项目依托 阿里云 Flink 流处理计算引擎, 通过 FlinkCDC 实时采集 RDS MySQL 数据库数据,实现数据采集的断点续传,使用Kafka 作为实时数仓,使用 Paimon 实现数据的持久化和Flink 批处理,实现计算的流批一体,数据存储的湖仓一体,采用StarRocks对接DataV完成实时业务大屏展示。
1.湖仓一体化解决方案基于Flink+Paimon湖仓一体技术架构;2.基于FlinkCDC完成MySQL等数据源的数据采集;3.FlinkSQL流批一体架构实现实时数据计算;
采集超过千万条在线视频的数据,实时高性能海量数据分析与存储业务数据实时大屏场景实现。
1.线个月进阶大数据实时开发,多行业大数据项目助力企业数字人才精英2.皆在成就实时开发工程师,大数据架构师等,帮助学员成为优秀的实时工程师
·NoSQL&消息中心·实时OLAP框架·数据湖开发·Flink技术栈·FlinkSQL原理到精通·基于DataWorks全链路数据开发
定时调度BI报表设计项目优势完整的BI项目开发流程、全方面掌握FineReport报表开发、提供BI项目的全方位解决方案
离线数仓设计与实现项目优势技术架构主流、项目真实度高、教学设计合理、调优策略丰富
基于Flink和Paimon实现流批一体、湖仓一体架构,极大降低开发和运维成本
实时基于阿里云Flink开发运用Flink CDC/Flink SQL进行编程,兼顾易用性和高效性
离线基于DataWorks和MaxCompute开发,轻松完成数据集成、数据开发、项目运维等工作
数据平台工程师数据治理工程师大数据运维工程师课程技术点Hadoop技术栈
在实时计算领域,阿里云实时计算Flink版一直是各大中小企业的主流选择,期待阿里云与传智教育的合作能够培养大量满足企业实际开发需求的实战型人才,助力企业在云上更方便、快捷、低成本的构建大数据分析平台,让企业和学员都能得到受益。
Apache Flink Committer,阿里巴巴技术专家,北京大学博士
传智教育一直以高质量的教学口碑引领着IT教育培训,积极参与开源贡献并在全球顶级开峰会进行技术分享,其推出的教学视频更是让众多开发者快速的拥抱前沿开源技术,推动了开源项目的发展。期待传智教育推出更多优质的开源课程,让千千万万的IT学子少走弯路,也期待与开源社区继续深入合作,一起把优秀的开源项目推向全球!
ASF Member,Apache DolphinScheduler PMC
中国开源软件的发展和崛起离不开培训机构的大力传播,传智教育作为在IT培训领域知名的机构,推出了大量的开源项目相关的优质视频,让很多想从事IT的小伙伴和从业者能够从中受用。同时传智也有不少老师身体力行地为开源献力:或提交源码、或分享实践、或传道受业解惑,展现了“开源参与你我他”的精神,期待传智教育能够培养出来更多热爱开源的人才,让中国开源软件能够立足中国,贡献全球
白鲸开源联合创始人、Apache 孵化器导师,Apache DolphinScheduler PMC Chair& Apache SeaTunnel PMC、ApacheCon 亚洲大数据湖仓论坛出品人,中国开源先锋