• 欢迎来到达内Java培训官网

电话:400-996-5531

专注Java培训22年

大数据技术岗位有哪些要求?如何成为资深的大数据工程师


近几年A(人工智能)B(大数据)C(云计算)发展火热,由于笔者在一二线互联网行业从事过大数据相关工作,因此决定在大数据领域对自己的所见所闻,来对该行业之外的人士所做一个讲述,以及对想进入刚行业的从业人员做个简单的讲述和分享。

大数据首先重要的就是数据,数据从哪里来,到哪里去,这个是我们需要探讨的。首先确定你数据量TB级别、PB级别 or EB级别。上图讲述了数据的来源从用户的数据、购买数据,以及最终的去处:存储、分析。因此可以看出大数据的核心其实是数据。

以笔者所在的电商平台为例(其他行业同样如此),用户在商城上购买商品,是基于在线交易系统的,称作为OLTP(联机事务)。而由于商城上每天都会产生这些信息,我们就需要把这些交易数据抽取到大数据这边,即:数据仓库。

大数据技术岗位有哪些要求?如何成为资深的大数据工程师

数据仓库是用来存储所有的数据,包括用户的所有信息,购买记录、用户基本信息等等。然后对数据仓库中的数据做处理,构建数据集市,再对数据进行分析。根据商城上推出的活动,进行分析该活动是否有利于用户增长等等,最终用来反馈商城相应的调整活动信息。称之为OATP(联机分析)。

上图主要讲述了大数据的信息。通过上图我们可以将大数据大致划分为如下岗位:数据开发,数据平台开发,数据分析、算法应用。如果所处的公司再大一些,上面相对应的岗位则能够进行更加详细的划分,比如是离线还是实时,对应的可以分到每一个岗位下面。

下面来讲述一下,每个岗位所需要的技能,以及大家可以根据自己的需求进行调整。

一、大数据平台运维:大数据平台的搭建和维护。对应技能:运维的一些技能,以及hadoop,hive等等。

二、数据开发:主要涉及到数据的抽取、转换、清洗,即:ETL。对应的技能:sql,hive,hadoop,shell,python(其他编程语言也行)、数据仓库的理论;其中数据仓库的理论尤为重要,需要大量的实践和学习才能建设良好的数据仓库模型,否则数据一团乱麻,很难找到自己想要的数据,也会出现这样的情况:天天疲于奔命,根据不同的需求,进行跑数据的操作。当然你如果想再接触的更深入一些,可以了解一下离线数据和实时数据开发(离线数据仓库、准实时数据仓库)。

三、数据平台开发:主要设计大数据平台的开发,为了数据开发的方便便捷自动化而存在的。对应的技能:java,scala,sql,大数据的一些开发平台(MR,Spark,Hbase等等)。

四、数据分析:主要是对大数据进行跑数据,做报表。对应技能:sql,excel,tableau,python,R等。数据分析岗位,我认识的很多女生从事该岗位,因为该岗位对于要求或许稍微低一些或者说入门简单一些。但是要想做好也不容易,如果做到自动化数据报表也是大家可以考虑的。

五、算法:主要是对算法模型进行应用,开发。对应的技能:算法基础,sql,python、数学理论。当然现在很多的开发工具包以及平台都提供很多算法,包括python,spark,因此需要我们掌握算法原理的情况和场景的情况下进行调用。

以上主要讲述了大数据的常见岗位和对每个岗位所需要技能进行了分析。如果大家还有什么疑问或者想要试听达内大数据培训课程都可以直接填写下面的表单,会有老师与您联系和沟通。


【免责声明】本文部分系转载,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,如涉及作品内容、版权和其它问题,请在30日内与我们联系,我们会予以重改或删除相关文章,以保证您的权益!

Java开发高端课程免费试学

大咖讲师+项目实战全面提升你的职场竞争力

  • 海量实战教程
  • 1V1答疑解惑
  • 行业动态分析
  • 大神学习路径图

相关推荐

更多
  • 大数据培训班一般多少钱?
    大数据培训班一般多少钱?
    大数据培训班一般多少钱?以下是关于大数据培训班学费的详细信息: 详情>>

    2025-05-29

  • 大数据技术主要学什么?
    大数据技术主要学什么?
    大数据技术主要学什么?大数据技术是一个涉及数据处理、存储、分析和应用的综合性领域,其学习内容广泛且系统。以下是大数据技术的主要学习内容,按模块分类整理,帮助您更好地了解学习方向: 详情>>

    2025-05-23

  • 大数据培训班需要多少钱?
    大数据培训班需要多少钱?
    大数据培训班的费用一般在2万左右。 详情>>

    2023-06-07

  • 大数据面试速成
    大数据面试速成
    大数据面试速成?大数据面试速成需要注意以下几个方面: 详情>>

    2023-05-24

  • Java开班时间

    收起