数据工程师岗位职责第1篇职责:负责设计和实现手机卫士大数据BI平台;不断完善数据产品的架构设计,应用开发和新技术迭代;配合业务,产品,根据不同的业务需求,灵活快速地完成具有挑战性的项目,为业务提供有价下面是小编为大家整理的数据工程师岗位职责热门18篇,供大家参考。
数据工程师岗位职责 第1篇
职责:
负责设计和实现手机卫士大数据BI平台;
不断完善数据产品的架构设计,应用开发和新技术迭代;
配合业务,产品,根据不同的业务需求,灵活快速地完成具有挑战性的项目,为业务提供有价值的数据分析和预测。
任职要求
计算机软件相关专业本科及以上学历,至少3年以上工作经验;
认可技术与平台在BI的价值,能够深入业务领域,通过使用数据分析和挖据技术,让业务生成的海量数据产生更大价值。
熟练掌握大数据技术:包括Hadoop,Spark,Storm,Hive,Presto,Parquet,Flink,Druid,OLAP, Elastic Search等等。
具备良好的编程能力和代码风格,熟练掌握Java, Python等语言,熟练使用SQL,并具有较强的优化能力。
需要有很强的开发和架构设计能力,特别是在大数据的分布式和实时处理领域,对存储引擎和查询引擎的原理和优化都具备比较深入的理解。
有一定的数据挖掘和机器学习算法能力,包括推荐系统,深度学习等技术领域 。
拥有正直、积极、宽容的品质,学习能力强,并且善于沟通合作。
数据工程师岗位职责 第2篇
岗位职责:
1、负责构建公司数据分析与数据挖掘业务分析体系,整体架构设计、规划,充分发挥数据的价值,提高数据质量,促进公司业务更好的发展;
2、通过建立业务的数据分析模型来指导业务的发展,对数据库信息进行深度挖掘和有效利用,充分实现数据的商业价值,构建公司核心竞争力;
3、跟踪并分析用户行为,为公司广告业务的发展及产品的设计进行海量数据支持;
4、负责数据管理中心团队的建设、发展、激励、培训等管理工作,有效领导数据分析与挖掘团队支持和推动业务发展。
任职要求:
1、热爱数据,对数据及逻辑关系敏感,并对数据体系有深入的认识;
2、本科以上学历、计算机/统计学/经济学等相关专业,有一定工作经验,;
3、具备数据建模(机器学习,数据挖掘,信息检索背景)和分析理论知识和经验;
4、熟悉Linux平台的海量数据分布式存储、分布式计算;
5、熟悉常用的数据分析工具,有基于Hadoop的云计算平台,HBase及类似的NoSQL存储, MySQL,和BI系统等实践经验;
6、熟悉互联网并且对于互联网常见的业务形态与商业模式有深入的理解,对业务变化有敏锐的洞察力;
7、有较强的对业务理解与分析能力,了解业务规划与策划能力以及相应经验;
8、具备较强的问题定位、分解、解决能力及计划和组织能力;
9、善于创新、思维敏捷、精力充沛,沟通能力强,能够承受较大工作压力;
10、有电子商务或互联网数据仓库或商业智能架构设计、开发实施经验者优先。
数据工程师岗位职责 第3篇
职责:
1.依据项目需求建构数据萃取与转换流程
2.挖掘数据特征,进行数据和特征融合
3.搭建数学模型,并对模型进行检验评估
职位要求:
1、计算机、数学、统计、人工智能等相关专业的硕士或以上学历;
2、二年以上数据挖掘、机器学习相关工作经验,熟悉python、spark、pandas、sklearn等数据分析工具者优先;
3、熟练掌握贝叶斯、随机森林、深度学习等机器学习算法;
4、突出的分析问题和解决问题能力,自我驱动,并且具备较强的学习能力、创新应用能力及沟通协调能力,有良好的团队合作意识;
5、有国际背景或能熟练使用英文沟通者优先
数据工程师岗位职责 第4篇
职责:
负责大数据数据仓库的建设,根据数据仓库及BI项目的需求,制定相关的设计方案和开发计划;
参与数据的分析处理和数据统计内容的架构设计与研发;
组织项目组成员完成数据仓库的开发和运维等;
负责公司数据规范、数据标准、数据指标梳理与定义;
协助技术人员完成数据管控平台的搭建,完成数据规范管理体系到信息平台的落地实施;
组织开展对数据平台各模块的内容进行培训;
制定和审计业务系统数据数据库模型设计规范;
任职资格:
有一定的互联网数据仓库经验;
深入了解 Hadoop 生态系统,熟悉HBase、Hive、Storm、spark等大数据开发工具中一种或几种;
具备大型数据仓库架构设计、模型设计、ETL 设计的相关经验;
关系型数据库原理基础扎实,熟悉 MySQL/PostgreSQL等的使用和调优;
有独立设计数据仓库经验、熟悉数据仓库相关理论知识者优先;
数据工程师岗位职责 第5篇
职责:
负责公司数据仓库/数据集市模型设计,优化现有数据仓库模型;
参与数据仓库支持工具设计;
参与数据仓库需求定义;
参与数据治理、元数据建设、优化数据开发流程。
任职资格:
计算机、数学、统计或相关专业本科及以上学历,数据挖掘/平台和BI分析领域优先;
3年及以上数据仓库设计开发经验;
熟悉HIVE,有HQL使用经验者优先;
精通数据仓库建模方法,对kimball维度建模理论有深入的了解;
有实际数仓建设项目负责人经验者优先;
熟悉Hadoop生态圈以及大数据环境的 OLAP 框架者优先。
数据工程师岗位职责 第6篇
职责:
根据项目经理或高级数据挖掘工程师要求独立完成项目的数据搜集和数据处理;
能够快速根据项目需要学习并理解行业知识,并能在项目经理或高级数据挖掘工程指导下完成部分数据分析工作;
能够使用SAS,SPSS,或R,Python等开源平台根据用户需求定制开发相应的算法;
理解数据挖掘模型及预测分析结果,撰写相关分析报告;
了解数据仓库及商务智能背景,熟练掌握一类数据展现分析工具,如:Tableau,Cognos等;
任职要求
信息化管理、数学或统计学专业背景本科以上学历;
具有一定的统计学、数据挖掘知识基础,有数据仓库/商业智能项目经验尤佳;
精通数据挖掘方法论,熟悉数据挖掘项目过程;
熟悉并掌握SAS、SPSS统计分析或数据挖掘工具至少一种; 或具备Python,R等使用开源平台开发算法的经验;
有很强的事业心、责任感,良好敬业精神、团队精神与人际沟通能力。
数据工程师岗位职责 第7篇
职责:
1.负责海量数据的分析开发工作;
2.完成数据挖掘模型,跟踪模型的实施和效果,定期优化算法和分析策略,分析研究后提供建设性建议 ;
3.优化大数据存储、计算等各方面性能,确保能从海量大数据信息里,有效进行数据分析和挖掘;
4.根据用户的活动记录进行特征筛选和关联挖掘。提高关联准确性;
5.参与相关数据标准和规范的制定。
要求:
1.熟悉java/scala/python/R中至少一种编程语言,具有良好的编码习惯;
2.计算机、数学相关专业本科以上学历;
3.2年以上数据挖掘及其相关经验,对常用的数据挖掘算法有较深入了解,有实际算法调优经验 ;
4.熟悉常用数据挖掘算法(聚类/分类/回归/关联规则/图模型)等算法原理,具备实际的建模经验,熟悉常用机器学习算法原理,如朴素贝叶斯/决策树/随机森林/逻辑回归/SVM等,并具备相关应用经验;
5.熟悉hadoop生态,具有spark/flink等实际开发经验;
6.极强的数据敏感度,能从海量数据中挖掘出数据核心价值,相关;
7.熟悉分布式存储,熟悉mysql/oracle、hbase、redis、mogongdb、elasticsearch等,熟悉neo4j/JanusGraph等图数据库优先 ;
8.富有创新精神,充满激情,乐于接受挑战,良好的沟通技巧和团队合作,抗压性强,能适应加班。
数据工程师岗位职责 第8篇
岗位职责:
深入研究业内领先的技术思路,输出具有创新价值的预研项目可行性分析报告以及相关实验数据;
负责产品、销售、供应链、电商等公司数据的海量挖掘,并建立和优化用户标签、特征模型、产品精准匹配、异常预警等;
负责大数据下传统机器学习算法的并行化实现及应用,并提出改进方法和思路;
参与公司大数据架构,负责BI实施中的数据挖掘模块算法研究、模型建立和优化,帮助实现数据挖掘和分析平台的建设;
负责相关数据挖掘项目的需求收集、项目建立、项目设计开发和结果输出质量把控,通过数据挖掘结果驱动业务执行;
配合技术进行数据挖掘模型开发和模型封装,例如决策规则模型、预警模型、流失模型、效果标杆模型、客户生命周期管理模型等;
任职要求:
大学本科及以上学历,统计学、计算机、信息技术、数学相关专业;
两年以上数据建模经验;
数据主流数据库,mysql、oracle、DB2等传统结构化数据仓库,熟悉HBase、MongoDB等非结构化数据库;
熟悉常用的聚类、分类、回归、关联、时间序列等监督式和非监督式学习算法;
熟悉R、Python、MLlib等数据挖掘工具中至少一种。
熟悉spark、storm等大数据计算框架者优先。
数据工程师岗位职责 第9篇
职责:
负责业务需求的需求理解、数据开发,提供面向业务的数据服务;
数据产品的设计,促进数据产品的优化或创新;
完成数据模型的ETL实施以及相关技术问题的解决。
任职资格:
年以上数据仓库开发和数据建模经验;
熟悉大数据解决方案,有Hadoop环境上相关开发经验;
熟练掌握SQL,理解Hadoop/Hive原理和调优方法,有独立处理大规模数据/日志的经验;
丰富的数据仓库开发经验,较强的研究分析能力和项目管理经验;
有较强的逻辑思维能力,较强的抽象、总结概括能力;
有较强的沟通协调能力,善于思考,喜欢挑战。
数据工程师岗位职责 第10篇
职责:
1、负责公司c端产品以及广告数据的平台数据基础建设;
2、大数据平台的搭建与维护;
3、优化算法提高执行效率;
4、数据挖掘相关开发。
职位要求:
本科及以上,计算机、软件工程、统计学、数据挖掘、机器学习等相关专业;
熟悉JAVA语言及JAVA生态下的开发,了解多线程并发,能独立完成应用开发和部署;
3年及以上大数据流程架构经验,熟悉Hbase/Hive/Hadoop/Spark或等主流分布式开发平台,有高性能集群设计和开发经验;
能熟练操作Linux,熟练掌握SQL数据库语言 HiveSQL/Mysql/Sqlserver;
对有广告营销大数据算法/开发经验者优先,有大型数据项目经验优先,有用户行为分析、用户建模、业务建模经验者优先;
具有良好的逻辑分析能力、沟通能力和协调能力;
数据工程师岗位职责 第11篇
职责:
1、依据客户需求完成大数据项目的数据分析及建模;
2、进行大数据核心算法的编写;
3、参与项目的需求分析、系统设计、编码工作;
4、参与开发过程中相关新技术的研究和验证。
协助承担架构性的体系设计和改造工作,配合制定技术实施方案,按照总体设计组织子系统的设计和开发。
任职要求:
1、精通数据建模、数据体系建设,具备数据仓库架构设计、模型设计和处理性能调优等相关经验;
2、具有丰富的基于hadoop体系的数据平台、数据仓库建设经验,精通基于hadoop源码的开发、优化改造及成功应用案例;
3、精通hadoop生态体系各项技术,如kafka、flume、hive、impala、hbase、spark等,具有100+节点hadoop集群的开发、运维经验;
4、具有对大型hadoop集群的硬件规划能力;
数据工程师岗位职责 第12篇
职责:
1、负责大数据开发工作;
2、负责公司数据服务接口平台的建设;
3、参与打造数据中台内容的规划、设计、开发工作,实现高质量数据的互通与共享; 4、参与数据模型体系构建及数据主题设计和开发,搭建离线、近线、实时数据公共层;
5、参与构建非结构化数据体系,进行网络数据爬取,数据清洗,特征挖掘,统计分析,并结合应用场景实现落地。
岗位要求:
1、本科以上学历,计算机、数学、统计学等相关专业;
2、熟悉数据集成、数据仓库、数据分析等全流程数据处理,具备开源或阿里大数据平台实战经验,如hive/spark/Maxcompute;
3、熟悉数据治理体系,包括数据模型、数据标准、数据质量等;
4、熟悉常见的离线、实时、流式数据应用场景及架构;
5、至少掌握一门开发语言,Java/Python;
6、具备良好的沟通能力和设计文档编写能力;
7、懂数据挖掘、知识图谱的构建者优先。
数据工程师岗位职责 第13篇
•识别,分析和解决计划支持问题。
•与BU利益相关者合作,确定并优先考虑数据和统计要求,包括要收集的特定数据元素。
•协助开发和实施数据库,数据收集系统/工具,数据分析以及其他优化统计效率和质量的策略(包括确定流程改进以更好地满足业务需求)。
•分析大量数据集,提出有见地的业务建议。
•通过查看报告和绩效指标来确定和纠正数据收集问题,从而确保数据的准确性和完整性。
•识别,分析,解释和建模数据湖中数据的趋势或模式。
•为各种受众设计和生成准确有效的统计数据可视化产品和报告。
•通过促进技术和非技术利益相关者之间的沟通,确保技术团队了解计划和业务工作的短期和长期目标
•准时交付优质,易懂,明确的产品。
•参与构建机器学习策略平台。
•对数据驱动业务,关键思想家,问题解决者和自我启动者的热情
•促进技术和非技术利益相关者之间交流的能力
•出色的书面和口头交流能力。
数据工程师岗位职责 第14篇
职责:
1、参与机器学习的平台的搭建,为数据分析提取提供平台支持;
2、参与各类业务的机器学习相关需求的开发和支持;
3、集成各类成熟的机器学习算法以及计算平台;
4、设计并落实人工智能(AI)在公司不同业务部门,不同应用场景中的实现;规划智能人机交互包括语音合成、语音识别、手势识别、自然语言处理、人脸识别等AI技术;
5、对人工智能技术的研究,包括机器学习、智能控制、知识应用、智能决策等技术的研究;
任职要求:
学历:数理统计类、计算机科学,软件工程等专业本科生以上学历
数据挖掘、机器学习相关方向3年以上工作经验,有机器学习、数据挖掘等相关项目实际经验者优先;
熟悉数理统计、数据分析及挖掘、常用机器学习算法;
熟悉关系数据、NoSQL数据工具以及大数据技术至少一种产品,如 MySQL、MongoDB、Redis、Hadoop、Hive、Spark等;
熟练掌握至少一种编程语言,Java、Scala、C++、R、Python
数据工程师岗位职责 第15篇
职责:
1、负责建设数据仓库架构,包括元数据管理、ETL调度、数据集成、OLAP等子系统的设计和开发;
2、搭建和维护数据仓库表,解决业务人员在仓库系统流程、工具使用、数据处理等遇到的问题;
3、基于对数据的理解和业务需求,对数据进行整理、分析和挖掘。
任职资格:
1、做事耐心,有强烈的责任心;
2、计算机,数学,统计学相关专业本科及以上学历,
3、熟悉主流的关系型数据库及MPP数据库,至少精通一门数据库,熟悉Gbase优先;
4、熟练使用SQL语言,具有2年及以上数据仓库、报表系统等ETL开发、维护经验;
5、熟悉Hadoop/Spark/Hive/Hbase等大数据技术者优先;
6、逻辑清晰、对数据敏感,良好的沟通能力和协作能力,敢于接受挑战,能够承受压力;
7、有公安相关业务经验者优先考虑。
数据工程师岗位职责 第16篇
职责:
1、基于互联网行业特点构建企业级数据仓库架构,建设PB级共享数据平台;
2、负责数据平台相关数据研发及管理工作,参与制定EDW相关规范并推动实施落地;
3、对海量数据处理的相关需求进行评估及方案设计;
4、负责数据产品如用户画像等模型设计;
5、了解行业前沿大数据处理方法。
任职资格:
1、8年以上数据仓库开发及管理经验,5年以上互联网/电商行业经验;
2、精通数据仓库建设方法论,有大型数据仓库建设项目经验(PB级以上);
3、熟悉HADOOP、HIVE、HBASE、SPARK、FLUME等工作原理;
4、精通HiveSQL,有较丰富的HiveSQL性能调优经验;
5、至少熟练使用Shell、Python、Perl等脚本语言之一;
6、工作认真、负责,有良好的团队合作精神,良好的分析及沟通能力;
数据工程师岗位职责 第17篇
职责:
1、负责数据分析、加工、清理,相关处理脚本和程序的开发;
2、负责开发大数据工具,如报表平台、多维度分析工具、ETL平台、调度平台的研发;
3、负责分布式大数据平台应用开发(Hadoop/Spark/Hive/HBase等);
4、负责大数据相关平台的维护、优化。
任职要求:
1、本科及以上学历,计算机相关专业,具有5年及以上的大数据ETL或数据开发经验,熟悉大数据组件的维护以及调优;
2、熟练掌握Java或Python编程语言,熟悉大数据架构体系,熟悉Hadoop、HDFS、Hive、HBase、Spark、Kafka等技术中的一个或者多个,熟悉Sqoop、DataX等数据导入工具;
3、能熟练使用Hive、HBase、Spark等加工和处理数据,有海量数据处理经验;
4、有数据仓库开发经验/BI系统开发经验优先;
5、有电商行业数据处理与分析平台开发经验者优先。
数据工程师岗位职责 第18篇
职责
1、负责构建公司数据分析与数据挖掘业务分析体系,整体架构设计、规划,充分发挥数据的价值,提高数据质量,促进公司业务更好的发展;
2、通过建立业务的数据分析模型来指导业务的发展,对数据库信息进行深度挖掘和有效利用,充分实现数据的商业价值,构建公司核心竞争力;
3、跟踪并分析用户行为,为公司广告业务的发展及产品的设计进行海量数据支持;
4、负责数据管理中心团队的建设、发展、激励、培训等管理工作,有效领导数据分析与挖掘团队支持和推 动业务发展。
任职要求:
1、热爱数据,对数据及逻辑关系敏感,并对数据体系有深入的认识;
2、本科以上学历、计算机/统计学/经济学等相关专业,有一定工作经验,;
3、具备数据建模(机器学习,数据挖掘,信息检索背景)和分析理论知识和经验;
4、熟悉 Linux 平台的海量数据分布式存储、分布式计算;
5、熟悉常用的数据分析工具,有基于 Hadoop 的云计算平台,HBase 及类似的 NoSQL 存储, MySQL,和 BI 系统等实践经验;
6、熟悉互联网并且对于互联网常见的业务形态与商业模式有深入的理解,对业务变化有敏锐的洞察力;
7、有较强的对业务理解与分析能力,了解业务规划与策划能力以及相应经验;
8、具备较强的问题定位、分解、解决能力及计划和组织能力;
9、善于创新、思维敏捷、精力充沛,沟通能力强,能够承受较大工作压力;
10、有电子商务或互联网数据仓库或商业智能架构设计、开发实施经验者优先。