工作职责 百文网手机站

大数据开发工程师的职责文本

时间:2021-08-18 12:20:53 工作职责 我要投稿
  • 相关推荐

大数据开发工程师的职责文本精选

大数据开发工程师的职责文本精选1

  职责:

  1.结合项目或产品涉及的具体业务场景,对数据进行清洗、计算与加工;

  2.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求;

  3.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接;

  4.完成上级交办的工作或任务。

  岗位要求

  1.计算机相关专业大专以上学历;

  2.2年以上大数据产品或项目开发经验,精通Hadoop生态圈,熟练使用Spark,HBase、Hive、Kafka、Redis等;

  3.精通SQL,熟练使用HSQL实现复杂数据处理逻辑,并具备数据处理调优的能力;

  4.熟悉Linux开发环境,熟悉Linux的shell命令。

  5.具有良好的逻辑思维能力和严谨的程序开发思想,具备独立问题排查与处理的能力;

  6.良好的团队精神和合作意识,强烈的责任心,对工作有激情,良好的沟通能力,能吃苦耐劳;

  7.有大数据项目或产品背景者优先;

  8.有使用Spark SQL进行数据处理,并具有Spark SQL优化经验者优先。

  9.有Python或者Shell脚本开发经验优先

大数据开发工程师的职责文本精选2

  职责:

  1、负责数据中心和大数据处理平台的搭建

  2、在线和离线海量数据分析平台的开发;

  3、研究大数据前沿技术,提升系统的运维效率;

  4、参与大数据的采集、存储、处理,分析等开发

  5、参与数据挖掘算法的设计、对海量数据进行挖掘分析和发掘数据价值及算法学习及实现

  【任职要求】:

  1、计算机或相关专业本科学历及以上,2年工作经验以上

  2、熟悉Java/Scala等至少一门语言,能对分布式常用技术进行合理应用,解决实际架构问题

  3、熟练使用hadoop,hive,HBase,YARN,kafka,spark,Storm,Flume等大数据开发组件

  4、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、存储、分析和可视化及报表开发;

  5、熟悉分布式系统概念、架构,有大规模分布式系统设计、实现、部署等经验;

  6. 具有优秀的学习能力、独立分析和解决问题能力,良好的团队合作精神。

  7. 有BI开发经验的优化考虑。

大数据开发工程师的职责文本精选3

  职责:

  1、负责完成业务和产品的对接,支持业务需求研发;

  2、负责完成产品的迭代升级以及底层架构的升级研发;

  3、完成团队安排的其他相关日常工作任职要求;

  4、负责产品的实时业务和离线业务的研发;

  5、支持开源大数据技术在数据系统中的使用,修复、优化增强大数据技术;

  岗位要求:

  1、具有分布式系统架构开发能力,熟练使用storm、spark hbase者优先。

  2、能够使用实时计算平台,进行实时业务数据的研发。

  3、能够基于已有平台进行离线业务的.开发。

  4、有大数据应用产品研发经验,具有数据决策产品研发经验者优先。

大数据开发工程师的职责文本精选4

  职责:

  1、负责该领域的业务需求讨论,完成技术方案及数据开发;

  2、负责数据仓库的体系建设及落地实现;

  3、负责大数据平台各类环境的部署及运维、并参与架构优化、性能优化等工作;

  4、负责该领域所属模块的代码开发、调试与维护工作,并进行技术沉淀和文档输出。

  招聘要求:

  1、计算机、电子通信、自动化等专业,本科及以上学历;

  2、五年以上研发经验,其中二年以上大数据开发的相关工作经验;

  3、熟练JAVA开发语言;熟悉微服务及Spring框架;

  4、熟练熟练Hive、Impala、ES性能调优,关注细节,学习能力强;

  5、能配合团队完成该领域的工作,自我管理能力强,能承受工作中的各种压力,具备很好的团队意识

  6、熟练主流大数据平台产品部署及运维,如CDH、HDP平台。

  7、对机器学习和深度学习等方面有一定的了解;

  8、有汽车制造业及相关行业的大数据开发经验优先。

大数据开发工程师的职责文本精选5

  职责:

  1、负责数据采集、数据存储、数据查询、数据计算等基础平台的设计和开发工作;

  2、利用Hadoop、Spark、Flink等技术进行离线和实时数据开发 ;

  3、负责大数据平台的规划升级、平台维护和优化 ;

  4、和其他部门或团队沟通、资源协调并落实工作。

  任职要求

  1、本科及以上学历;

  2、3年以上大型大数据平台建设实施经验 ;

  3、掌握常用大数据组件hadoop、Hive、spark、Flink、hbase、elasticsearch等原理、使用和调优 ;

  4、具备较强技术功底,精通Java、Scala、Python等至少一种开发语言,能根据需求给出技术架构 ;

  5、有数据仓库、元数据管理和治理的开发经验优先 ;

  6、善于沟通,思维活跃、责任感强、工作积极主动,有良好的团队协作意识。