大数据架构师工作职责

职责是指分内应当做好的事，如履行职责、尽到职责、完成任务等。大数据架构师工作职责怎么才能写好？这里分享一些大数据架构师工作职责，方便大家学习。

大数据架构师工作职责篇1

职责：

1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

2、负责大数据平台的开发和维护，以及对外服务接口的开发;

3、负责大数据平台的优化和改进工作。

任职要求

1、计算机相关专业本科及以上学历，5年以上开发经验，其中3年以上为互联网、大数据相关的开发经验;

2、熟知Hadoop生态圈体系，精通Hadoop/Spark/Storm/Kafka中的一项或几项，深刻理解MapReduce的运行原理和机制，有MPI经验者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作，尤其是数据库集群的构建和操作，熟悉Neo4j者尚佳;

4、具有机器学习相关项目经验者优先。

大数据架构师工作职责篇2

职责：

1、负责规划大数据平台及应用产品的需求和技术方案设计;

2、负责数据对接和对外服务设计、开发和维护，并能保证质量和性能;

3、负责基于大数据平台的应用设计、开发和维护;

4、能从系统全局和各子系统的角度思考可能存在的问题，并提出改进方案建议;

任职要求：

1、大学本科6年以上工作经验，计算机相关专业。

2、至少4年以上的Java开发经验，3年以上大数据应用系统的开发和设计经验。

3、熟悉Hadoop生态圈技术体系，对离线计算、内存计算和流式计算均有深刻理解，如Hadoop、Storm、Spark三个中的任意二个，能进行平台和组件优化。

4、精通Hive、HBase仓库设计，深刻理解MR运行原理和机制，能进行以提供高任务执行效率的优化。

5、精通Java开发，熟悉JVM调优，对GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术，能进行hbase可靠性诊断和维护。

7、快速研究和学习技术能力。

大数据架构师工作职责篇3

职责：

负责公司大数据产品架构的设计与实现;

配合大数据产品经理完成产品的快速研发与交付;

负责大数据产品架构的持续优化设计;

负责大数据产品核心组件设计;

负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;

为应用开发团队提供技术支撑。

任职要求：

本科及以上学历，3年以上的大数据开发经验、

2年以上大数据架构设计经验;

丰富的JAVA研发经验，精通JAVA，熟悉PythonScala等编程语言;具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);

精通各种大数据相关技术体系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有数据挖掘、机器学习相关应用或研究背景;

沟通能力较好，积极主动意识较强，责任心较强。

大数据架构师工作职责篇4

职责：

1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;

2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;

3.负责超大规模数据平台的搭建、维护和优化;

4.负责大数据采集、存储框架研究，参与在线或离线数据存储模型设计;

5.负责大数据平台新技术的开发使用和性能优化，测试。

任职资格：

1.计算机相关专业本科及以上学历;

2.熟悉hadoop相关各种开源项目，比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);

3.两年以上熟练编写mapreduce代码经验，有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;

4.两年以上海量数据存储的安装部署、优化、二次开发经验，对大规模数据存储、传输、处理等有丰富的经验;

5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;

6.具有较强的文档撰写能力，较强的团队精神和合作精神，对工作有热情，能承受压力。

大数据架构师工作职责篇5

1.负责数澜大数据平台的架构设计和研发，建立数据生态服务，解决海量数据面临的挑战;

2.管理和优化Hadoop、Spark等集群，计算作业的调优，保证集群和平台的高效和稳定;

3.负责Hadoop、Spark、Flink的功能、性能和扩展，解决并实现业务需求;

4.负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;

5.调研和把握当前的最新技术，将其中的先进技术引入到自己的平台中，改善产品，提升竞争力;

大数据架构师工作职责篇6

职责：

1.负责产品级业务系统架构(如业务数据对象识别，数据实体、数据属性分析，数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计，从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性，并对系统质量负责。

2.负责云数据平台的架构设计和数据处理体系的优化，推动云数据平台建设和持续升级，并制定云数据平台调用约束和规范。

3.结合行业应用的需求负责数据流各环节上的方案选型，主导云数据平台建设，参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

4.对云数据平台的关注业内技术动态，持续推动平台技术架构升级，以满足公司不同阶段的数据需求。

任职要求：

1.熟悉云计算基础平台，包括Linux(Ubuntu/CentOS)和KVM、OpenStack/K8S等基础环境，熟悉控制、计算、存储和网络;

2.掌握大型分布式系统的技术栈，如：CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

3.精通Java，Python，Shell编程语言，精通SQL、NoSQL等数据库增删改查的操作优化;

4.PB级别实战数据平台和生产环境的实施、开发和管理经验;

5.熟悉Docker等容器的编排封装，熟悉微服务的开发和日常调度;

6.计算机、软件、电子信息及通信等相关专业本科以上学历，5年以上软件工程开发经验，2年以上大数据架构师工作经验。

大数据架构师工作职责篇7

职责：

1.深刻理解政府行业业务模式，构建政府行业的数据模型，制定公司大数据技术发展路线;

2.对接业务研究和技术部门，主动搜集和转化需求，组织数据中心业务开发，进行数据相关产品需求分析和设计;

3.搭建数据仓库，研发数据库管理系统，搜集、提取、处理业务积累的海量数据，开展数据分析和挖掘;

4.根据公司战略和发展需要，规划数据中心重点工作和任务;落实部门人员、事务管理，开展跨部门、跨地区协作，协助对外交流与合作。

职位要求：

1.5年以上相关工作经验，有团队管理和项目管理经验者优先;

2.了解政府运作机制，掌握财政行业知识，有电子政务行业经验者优先;

3.熟练掌握使用Java或Python,精通数据库查询语言如SQL，Oracle等,在机器学习模型和算法方向有应用经验者优先;

4.具备数据中心产品策划整体思维，有大数据处理、分析、挖掘经验者优先;

5.逻辑思维严密，具备业务抽象、分解和标准化的能力，口头和书面表达优秀;

6.有较强的大局意识和良好的团队合作意识，富有领导力，具备优秀的人际交往和沟通能力。

大数据架构师工作职责篇8

职责：

1.负责公司大数据平台的设计和开发，负责spark,hadoop,flink等云计算平台的开发和优化;制定数据架构规范，进行核心代码编写，指导团队落地;

2.负责数据基础架构和数据处理体系的升级和优化，技术难题攻关，持续提升核心系统性能，保证系统的安全、稳定、高效运行

3.设计并实现对BI分析、数据产品开发、算法开发的系统性支持

4.研究未来数据模型和计算框架的创新与落地，包括但不限于以下领域：大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面参与制定并实践团队的技术发展路线

5.建立良好的公司内外的业界技术影响力;参与培养未来数据人才;有效辅导团队，提升数据研发能力

任职要求：

1.有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径，能够开发创新而实际的分析方法以解决复杂的商业问题

2.有作为技术负责人系统化解决问题的成功案例;有海量数据建模实践经验优先

3.熟练掌握Hadoop、Spark、Flink、HBase的原理特性以及适用场景，精通流式计算开发，有开源二次开发经验者优先，有NLP数据处理经验者优先

4.性格积极乐观，诚信，能自我驱动，有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力

5.本科以上学历，扎实的计算机专业基础，有5年以上大数据平台开发经验;

大数据架构师工作职责篇9

职责：

负责大数据平台的规划和搭建、完成大数据平台的日常运营工作，为数据分析和展现提供支持;

对系统框架相关技术和业务进行培训，并负责核心代码编写，指导团队开发及解决出现的系统问题;

参与基于大数据平台的创新业务场景进行数据产品的架构设计，负责数据产品的研发交付;

负责处理大数据平台的疑难问题，为数据团队提供可靠的技术支持;

负责数据质量、稳定性等数据管理，数据内部共享融通的数据平台，让数据标准更规范、数据获取更高效;

及时跟进大数据领域新技术并分享，提升团队技术能力。

任职要求：

本科或以上学历，5年以上数据系统建设经验，3年以上大数据架构设计经验;

精通java，python，scala等一种大数据开发语言，熟悉Hadoop生态圈，包括但不限于hdfs，hive，spark，有丰富的大数据项目的实践经验;

具备创新精神，条理清晰，沟通表达和逻辑思维能力强;

熟悉数据仓库的设计和开发，对数据架构有深入的了解和具备相关的项目实践经验优先;

对SQLonHadoop的开源查询引擎(如Presto、ApacheDrill)原理有深入研究优先;

有敏捷大数据和数据可视化实践经验优先。

大数据架构师工作职责篇10

职责：

1、负责大数据基础平台、海量数据存储处理分布式平台、数据分析系统架构设计和研发;

2、负责实时计算平台基础架构设计、部署、监控、优化升级;

3、制定项目数据仓库设计及实现规范，指导设计研发和部署;

4、协助策略和算法团队工作，保障数据挖掘建模和工程化;

5、深入研究大数据相关技术和产品，跟进业界先进技术。

任职要求：

1、3年以上大数据系统架构经验;

2、精通HadoopHBaseHiveSparkFlinkKafkaRedis技术及其生态圈;

3、具备JavaScalaPython等开发经验，熟悉数据挖掘和分析的策略与算法;

4、精通数据抽取，海量数据传输，数据清洗的常用方法和工具。

5、具备良好的系统分析能力、故障诊断能力;

6、有大数据策略、算法、可视化经验优先;

7、有在华为云存储产品和大数据产品的开发使用经验优先。