服务热线:

迷茫的后端 想做大数据可以少走很多弯路

发布时间: 2024-06-06 02:58:19 来源:电竞比分-存储调理

详细信息

  ,对于很多工作了三五年的程序员来说,更不想放弃现有的技术基础,去重新学习新领域的技术。但大数据作为一个快速的提升的热门领域,一半以上的专业人才却是转行而来……

  很多向大数据方向发展的人,都是看到了这个行业未来无限广阔的前景和“钱景”。大数据并不是新名词,但近几年大数据、人工智能向各行各业逐渐渗透,数据也随之井喷式增长。早年掌握大量用户数据的网络公司,已经向世人展现数据在不同应用场景中的巨大价值:

  “天然”大数据公司亚马逊从海量购买数据中获得信息、预测用户行为;谷歌已成为网民的“意图数据库”;LinkedIn的猎头价值;滴滴等出行、物流配送业务利用交易数据来进行实时定价,使利润最大化;还有的借助大数据有关技术,创造出新的业务模式——比如利用算法做个性化内容推荐的今日头条、一点资讯……

  “一旦进入大数据的世界,企业的手中将握有无限可能。你会发现数据越大,结果越好。为什么有的企业在商业上不断犯错?那是因为他们没足够的数据对运营和决策提供支持。”

  数据人才的旺盛需求源自一个根本性的变化:科技公司现如今都成了数据公司。大到 BAT 等互联网巨头,小到勇于探索商业模式的公司,都在向数据驱动型企业转变,挖掘数据、解读数据、用数据洞察助力企业业务发展变得更重要,导致行业内人才的供给相对不足,薪资也非常可观。

  Glassdoor最新多个方面数据显示,美国数据工程师平均年薪为 116k 美金(约合月薪 6w+ 人民币),比数据分析师高出60%。北美就业情况是中国的晴雨表,对比其他数据岗位,国内的数据工程师需求急速上升。

  随着企业需求的增长,数据工程师数量也随之急速增长,其中,接近一半的比例是从其他相关岗位转行而来。慢慢的变多的程序员、工程师转而向大数据方向发展,不单单是岗位的高薪,也是为了顺应时代。并且从企业对数据人才的需求量开始上涨来看,这一趋势并不会有所放缓。

  * 数据工程师的岗位来源前 10,排名最高的分别是软件工程师(41.67%)、分析师、咨询师、商业分析师。数据来源:Stitch,点击可查看大图

  首先,大数据本身的年龄不大。其他岗位动辄“10年开发经验”的要求比比皆是,但大数据相关岗位往往更看重能力,不会对工作年限有过高要求,无形之中为刚毕业的学生、转行人士提供了很多机会。

  其次,大多数企业对大数据人才需求并不明确。大数据不是单一的学科,需要多方向的内容支撑。因此当企业需求不明确时,很多人本来在从事软件工程师、后端、甚至是算法等岗位,只需补充对应的技术内容,很容易转型大数据方向,还有很多想成为数据科学家的人,通过数据工程师“曲线

  几年前的数据工程师,主要管理数据进出数据库,在 SQL 或 Procedural SQL 中创建管道,并在数据仓库中加载数据,创建统一、标准化的数据集结构以供后期分析。但 2018 年以来,他们不再仅仅为数据的后期分析提供支持,还要负责整个数据流,保证任何数据都能够正常操作,并方便其他使用者获取。

  rflow,这些编排引擎本质上是把数据流作为代码。Python是大多数编排引擎的编译语言。机器学习:

  2014 年 Spark 发布了用于 python 的 MLlib,也将大数据上的机器学习计算民主化。关于 Hadoop 和 Spark 的选择问题,也一直在讨论中。作为两个顶级的 Apache 项目,Spark 在性能、成本、可用性、安全性和机器学习等多个角度,都比 Hadoop 略胜一筹,或许 Spark 在未来会成为大数据领域更年轻的“统治者”。