大数据架构师工作职责

明确每个人的职责范围，可以使管理者更好地掌握每个员工的工作情况，便于对员工进行管理和评估。怎么写好大数据架构师工作职责？小编给大家分享一些大数据架构师工作职责，方便大家学习。

大数据架构师工作职责篇1

职责：

1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;

2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;

3.负责超大规模数据平台的搭建、维护和优化;

4.负责大数据采集、存储框架研究，参与在线或离线数据存储模型设计;

5.负责大数据平台新技术的开发使用和性能优化，测试。

任职资格：

1.计算机相关专业本科及以上学历;

2.熟悉hadoop相关各种开源项目，比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);

3.两年以上熟练编写mapreduce代码经验，有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;

4.两年以上海量数据存储的安装部署、优化、二次开发经验，对大规模数据存储、传输、处理等有丰富的经验;

5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;

6.具有较强的文档撰写能力，较强的团队精神和合作精神，对工作有热情，能承受压力。

大数据架构师工作职责篇2

职责：

1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;

2、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

3、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;

4、负责建立和维护大数据平台技术标准规范，指导开发人员编写代码;

任职要求：

1、本科及以上计算机相关专业毕业;

2、精通离线和实时数据处理流程，掌握离线数据处理框架hive、impala、spark-sql等，掌握实时数据处理常用技术工具，包括Storm、SparkStreaming等;

3、熟悉大数据技术生态圈，精通大数据技术架构，有大数据平台构建经验;

4、掌握常见数据流接入工具，包括Flume、kafka等;

5、熟练掌握基本的Linux操作系统和某种脚本语言编程(如Shell等);

6、掌握一种或以上实时处理语言，如JAVA、SCALA、PYTHON等，有SCALA经验者优先;

7、有实际大规模数据(TB级以上)处理经验优先;

大数据架构师工作职责篇3

职责：

1.负责公司大数据平台的设计和开发，负责spark,hadoop,flink等云计算平台的开发和优化;制定数据架构规范，进行核心代码编写，指导团队落地;

2.负责数据基础架构和数据处理体系的升级和优化，技术难题攻关，持续提升核心系统性能，保证系统的安全、稳定、高效运行

3.设计并实现对BI分析、数据产品开发、算法开发的系统性支持

4.研究未来数据模型和计算框架的创新与落地，包括但不限于以下领域：大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面参与制定并实践团队的技术发展路线

5.建立良好的公司内外的业界技术影响力;参与培养未来数据人才;有效辅导团队，提升数据研发能力

任职要求：

1.有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径，能够开发创新而实际的分析方法以解决复杂的商业问题

2.有作为技术负责人系统化解决问题的成功案例;有海量数据建模实践经验优先

3.熟练掌握Hadoop、Spark、Flink、HBase的原理特性以及适用场景，精通流式计算开发，有开源二次开发经验者优先，有NLP数据处理经验者优先

4.性格积极乐观，诚信，能自我驱动，有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力

5.本科以上学历，扎实的计算机专业基础，有5年以上大数据平台开发经验;

大数据架构师工作职责篇4

职责：

1.负责数据仓库建设，基于数据驱动构建企业级数据模型，根据架构设计进行各层数据模型开发。

2.面向PB级别超大规模数据处理和查询需求，设计适合业务变化的合理的多维数据分析系统架构，满足多样性需求。

3.构建设计良好的数据流、调度系统、查询引擎、监控系统，保证系统稳定高效运行，以实现数据的最大价值。

4.指导团队成员开展数据仓库建设。

5.参与重点项目的评审，参与企业数据管理体系建设。

任职要求：

1.统招本科及以上学历。

2.从事数据仓库领域至少5年以上，熟悉数据仓库模型设计与ETL开发经验，掌握Kimball的维度建模设计方法，具备海量数据加工处理(ETL)相关经验。

3.具有一定数据模型和数据架构基础，熟悉hadoop\hive和常用数据库。

4.精通SQL，有一定的SQL性能调优经验，熟悉hivesql的开发。

5.具有管理团队开发经验，具备良好的组织能力、协调能力及项目管理能力。

6.具有较好的文字功底及语言表达能力，能够快速、准确地理解需求。

7.具有专研、快速学习和创新精神，具备独立分析问题和解决问题的能力。

8.具有责任心，时间观念强，工作独立性强，有良好的团队合作精神。

9.全日制普通本科毕业。

大数据架构师工作职责篇5

职责：

1、负责规划大数据平台及应用产品的需求和技术方案设计;

2、负责数据对接和对外服务设计、开发和维护，并能保证质量和性能;

3、负责基于大数据平台的应用设计、开发和维护;

4、能从系统全局和各子系统的角度思考可能存在的问题，并提出改进方案建议;

任职要求：

1、大学本科6年以上工作经验，计算机相关专业。

2、至少4年以上的Java开发经验，3年以上大数据应用系统的开发和设计经验。

3、熟悉Hadoop生态圈技术体系，对离线计算、内存计算和流式计算均有深刻理解，如Hadoop、Storm、Spark三个中的任意二个，能进行平台和组件优化。

4、精通Hive、HBase仓库设计，深刻理解MR运行原理和机制，能进行以提供高任务执行效率的优化。

5、精通Java开发，熟悉JVM调优，对GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术，能进行hbase可靠性诊断和维护。

7、快速研究和学习技术能力。

大数据架构师工作职责篇6

职责:

1、从事电信行业大数据项目相关业务调研、产品标准建设、核心模型设计和优化、系统测试等相关工作

2、与数据专业委员会一起研究数据建模方案和建模工具，负责产品线产品的数据架构、数据模型设计

3、参与研究数据库之间的数据转换方式，参与项目中的数据移植工作，收集在项目中的数据移植经验，优化产品的数据模型

4、负责培训本部门队伍的数据模型基础理论工作，建立数据模型团队

岗位要求：

1、统招本科学历，3年以上主流数据上(DB2、Oracle、SQLServer、Mysql等)ETL设计、开发经验，具备大型数据仓库逻辑模型和物理模型设计经验，精通SQL，有较好的SQL性能调优经验;

2、拥有Python，R等数学建模工具的使用经验，并具备一定的数据处理和建模经验，可以输出相应的模型分析结果、模型比较、模型效率以及对模型的理论和判断依据方法并对其进行完整的解释和说明;

3、熟悉统计学基本原理，做过实战的数据建模项目;

4、有分布式数据仓库建设相关经验者优先，具备电信行业数据仓库建设相关经验者优先;

大数据架构师工作职责篇7

职责：

1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

2、负责大数据平台的开发和维护，以及对外服务接口的开发;

3、负责大数据平台的优化和改进工作。

任职要求

1、计算机相关专业本科及以上学历，5年以上开发经验，其中3年以上为互联网、大数据相关的开发经验;

2、熟知Hadoop生态圈体系，精通Hadoop/Spark/Storm/Kafka中的一项或几项，深刻理解MapReduce的运行原理和机制，有MPI经验者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作，尤其是数据库集群的构建和操作，熟悉Neo4j者尚佳;

4、具有机器学习相关项目经验者优先。

大数据架构师工作职责篇8

职责：

(1)负责公司大数据平台搭建，相关的设计和技术开发工作，负责大数据存储系统、分布式计算系统、数据集成、挖掘算法等的设计、研发以及维护、优化工作;

(2)通过数据分析技术，挖掘有利于营销中各业务场景的变量或规则类标签，以提升模型效果，为文旅、教育业务提供数学模型理论及编程支撑;

(3)对接沟通业务系统研发团队和产品部门，提供数据驱动方面的专业咨询方案，并对业务的大数据应用场景提出建设性意见;

(4)配合部门领导进行项目需求分析、设计开发工作。

任职要求：

(1)计算机、统计学，数学等相关专业本科以上学历，5年以上大数据或文旅、教育数据产品设计开发经验，高效高质量产出需求和技术文档;

(2)精通Hadoop，熟悉大数据生态技术，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大规模集群架构、开发及运维经验;熟悉HDFS/MapReduce等;

(3)熟悉Java，能够独立应用python、R、SAS或类似分析工具进行数据分析;

(4)熟悉大数据挖掘、可视化分析，各种BI算法和产品等，在计算广告、搜索引擎、推荐系统、用户画像等有一个或多个算法领域的研发经验，能够运用数据作为产品解决业务方运营及决策问题;

(5)有互联网行业工作经验者优先，有海量数据的机器学习算法实践经验优先;

(6)工作认真、负责，有良好的团队合作精神，良好的分析能力、沟通技巧。

大数据架构师工作职责篇9

职责：

1、负责spark,hadoop,flink等开发和优化。

2、参与前期需求沟通和分析，以产品化开发的思维，完成需求分解和数据架构设计。

3、与研发和数据科学家合作保证产品定义清晰，按时完成产品上线。

4、能够洞察市场状况，与各部门合作转化为基于大数据挖掘的新策略或方案.

5、主动创造和发掘新的基于大数据挖掘产品商业模式.

任职要求：

1、全日制本科及以上学历，计算机软件相关专业，5年以上开发经验，3年以上架构经验

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理，流式计算开发，有开源二次开发经验者优先。

3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。

4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;

5、良好的跨部门沟通合作能力，解决不同观点能力并取得结果。具备敏锐的互联网产品理解力，学习能力和逻辑思维能力强;

6、较强的自我驱动力、推动和协调能力，强烈的责任心和团队合作精神;

大数据架构师工作职责篇10

职责：

1.负责产品级业务系统架构(如业务数据对象识别，数据实体、数据属性分析，数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计，从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性，并对系统质量负责。

2.负责云数据平台的架构设计和数据处理体系的优化，推动云数据平台建设和持续升级，并制定云数据平台调用约束和规范。

3.结合行业应用的需求负责数据流各环节上的方案选型，主导云数据平台建设，参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

4.对云数据平台的关注业内技术动态，持续推动平台技术架构升级，以满足公司不同阶段的数据需求。

任职要求：

1.熟悉云计算基础平台，包括Linux(Ubuntu/CentOS)和KVM、OpenStack/K8S等基础环境，熟悉控制、计算、存储和网络;

2.掌握大型分布式系统的技术栈，如：CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

3.精通Java，Python，Shell编程语言，精通SQL、NoSQL等数据库增删改查的操作优化;

4.PB级别实战数据平台和生产环境的实施、开发和管理经验;

5.熟悉Docker等容器的编排封装，熟悉微服务的开发和日常调度;

6.计算机、软件、电子信息及通信等相关专业本科以上学历，5年以上软件工程开发经验，2年以上大数据架构师工作经验。

大数据架构师工作职责篇11

职责:

1、负责自然语音交互、IOT家电物联控制、知识图谱等相关模块和系统的开发;

2、负责掌握第三方接口的调用和功能实现，持续优化服务性能和容量，并保证产品的兼容性和执行效率;

3、根据设计文档和需求说明完成代码编写、调试、单元测试与维护，确保项目进度和质量;

4、协助制定测试计划，及时发现并修复BUG，实现服务端的性能优化。

任职资格:

1、大学本科3年以上工作经验，计算机相关专业;

2、熟悉软件项目开发流程，具有良好编码风格及文档编写能力;

3、熟悉Linux服务器相关技术，能够独立完成服务器部署，具有相关经验;

4、熟悉Hadoop/Spark框架，JAVA基础扎实;

5、熟练使用Mysql数据库，了解MongoDB或neo4j等分布式数据库;

6、熟悉SpringCloud,SSM,Docker,redis开发者优先;

7、熟悉前端(包括但不限于Html5、css、Angularjs、ajax、jquery等)开发技术优先;

8、了解Socket网络编程、MQTT等，有相应实践经验者优先;

9、有智能语音语义、知识图谱服务端开发经验者优先。

大数据架构师工作职责篇12

职责：

1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;

3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;

4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;

任职要求：

1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;

3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;

4.良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;

5.具有钻研精神，乐于接受挑战;

大数据架构师工作职责篇13

职责：

负责大数据平台的规划和搭建、完成大数据平台的日常运营工作，为数据分析和展现提供支持;

对系统框架相关技术和业务进行培训，并负责核心代码编写，指导团队开发及解决出现的系统问题;

参与基于大数据平台的创新业务场景进行数据产品的架构设计，负责数据产品的研发交付;

负责处理大数据平台的疑难问题，为数据团队提供可靠的技术支持;

负责数据质量、稳定性等数据管理，数据内部共享融通的数据平台，让数据标准更规范、数据获取更高效;

及时跟进大数据领域新技术并分享，提升团队技术能力。

任职要求：

本科或以上学历，5年以上数据系统建设经验，3年以上大数据架构设计经验;

精通java，python，scala等一种大数据开发语言，熟悉Hadoop生态圈，包括但不限于hdfs，hive，spark，有丰富的大数据项目的实践经验;

具备创新精神，条理清晰，沟通表达和逻辑思维能力强;

熟悉数据仓库的设计和开发，对数据架构有深入的了解和具备相关的项目实践经验优先;

对SQLonHadoop的开源查询引擎(如Presto、ApacheDrill)原理有深入研究优先;

有敏捷大数据和数据可视化实践经验优先。

大数据架构师工作职责篇14

职责

1、负责公司大数据平台的整体架构设计，包含数据收集、数据存储、数据挖掘、数据输出;

2、负责规划从数据源到数据应用的整体流程，并参与用户产品和数据产品的决策;

3、负责海量数据分析、用户行为分析，构建用户数据模型;

4、负责解决核心技术问题，对技术方案进行决策;

5、技术团队管理。

6、熟悉手机IOS、安卓系统APP开发

任职资格

1、计算机相关专业毕业，本科以上学历;

2、5年以上相关工作经验，具备软件产品架构设计经验，熟练掌握高性能、高扩展性架构设计方法;

3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;

4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术，并能够基于上述项目开发大数据相关应用;

5、熟悉基本数据挖掘方法和技术;

6、强烈的敬业精神，良好的沟通与协调能力，能有效组织协调团队完成各类开发工作;

7、热爱技术，相信数据的价值，对大数据有深刻的理解。

大数据架构师工作职责篇15

职责：

1.负责企业数据中心建设，设计数据逻辑模型和物理模型，并完成相关开发

2.梳理公司各业务线常用的指标和维度，统一指标定义口径

3.根据数据应用开发和数据分析需求，设计数据仓库信息层模型，提高数据开发的效率

4.负责数据模型的运营和优化，及时响应业务逻辑变更，保证模型的数据质量和稳定性

5.负责公司数据标签体系的建设，并推动标签体系在实际业务场景中落地

岗位要求：

1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验

2.有较强的数据分析能力，精通数据仓库架构，熟悉Erwin或PowerDesigner建模工具

3.精通一种主流关系数据库(如mysql等)，熟悉Hive开发

4.有电商业务经验，元数据管理，数据质量管理或标签体系搭建经验者优先

5.优秀的协调沟通与团队协作能力，极强的责任心，能承受一定的工作压力，认同企业文化和团队价值

大数据架构师工作职责篇16

职责：

1、数据分析软件平台架构搭建

2、负责深度学习核心框架或高性能后台服务系统的架构设计工作，包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

3、指导开发人员开发，并解决系统出现的问题，理解物业需求;

4、制定开发计划和控制开发进度，负责指导研发团队开展设计工作;

任职要求：

1、硕士以上，计算机或先关专业;

2、5年左右软件开发经验，含3年以上系统分析、设计经验，有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验，

3、具备良好的组件级建模能力，熟悉HTTP、TCP等协议

4、熟练使用UML进行软件架构设计，至少精通EA，RATIONAL，VISIO等一种设计工具.

5、精通至少一种编程语言，熟悉Linux相关技术，能独立在上面进行开发、测试和部署

6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术