大数据工程师要求培训怎么样,有限制要求吗?

现在学习大数据晚吗?
发表于 15:32|
摘要:作为一门对数学和计算机都有较高要求的一门交叉学科,从事大数据是有一定门槛的,但相对于10年以上的职业生涯(国外顶尖数据科学家50-60岁仍然十分活跃),预备半年的时间来学习这个最炙手可热的技能还是很划算的。
PPV课网站上经常有人问这个问题,在回答这个问题之前,先看一段对话:
Q:你好老师,我想问下现在从事大数据相关的行业是不是有点晚了,
现在大数据这块就业就是开发吗?市场需求大吗?
A:现在学不晚,大数据人才供不应求
Q:但是从智联搜大数据也就是就是几千个岗位
A:这个职位大部分行业都需要,市场、营销、运营相关的需求很多。大数据不是职位,你要搜数据分析师、大数据工程师、算法工程师、数据建模师
Q:哦这样啊&
Q:那请问&我想搞BI,现在和大数据结合的一般是怎样呢
要会哪些技术呢?是在北京还是上海呢?
A:BI工程师和大数据工程师的要求差不多,需要熟悉数据库,同时掌握开发工具。相对于传统的BI工程师,大数据工程师还需要掌握数据仓库和NoSql,你可以看下这篇文章
北京提供的大数据相关职位基本占到了全国的40%以上,是最多的,上海也超过了20%
(数据来源:LinkedIn:2016年中国互联网最热职位人才库报告)
Q:我底子很差&做数据分析师好像没戏哈哈
高数学的都忘记了,自己做算法开发没戏
A:数学往后学比较重要,入门用到了再去补吧.很多算法不需要知道原理,刚开始知道怎么用就可以了.
Q:嗯&但是这样&面试人家一问&就露馅了&用入门的人的公司多吗?
A:入门理解业务场景和掌握分析方法很重要,工具是其次,数学再次之。
但如果数学功底不行,会限制你到达的高度。
现在,让我们再回到到第一个问题:现在学大数据晚吗?这个问题我想从三个方面回答。第一个问题:
大数据是否过热了?
很多时候我们急于回答问题,却忽略了问题本身。Big Data这个词翻译过来就是大数据,在脱离了语境的情况下,这个词可能代表&大数据技术&、&大数据集&、&大数据应用&等各种含义,所以要想回答这个问题,并不是件容易的事情。
就这个问题而言,我们可以把它分为&大数据技术是否过热&和&大数据应用(或者大数据产业)&是否过热?我们都知道技术和应用相辅相成,技术是基础,应用是商业价值变现。他们有着各自的发展轨迹,彼此并不完全重合。让我们先看一下大数据技术和大数据应用的发展阶段和历史趋势:
2011年,麦肯锡全球研究院发布的《大数据:下一个创新、竞争和生产力的前沿》研究报告最早提出词汇&Big&Data&。
2012年,维克托&舍恩伯格《大数据时代:生活、工作与思维的大变革》的宣传推广,大数据概念开始风靡全球。
技术突破阶段
年,处于围绕非结构化数据自由探索阶段。非结构化数据的爆发带动大数据技术的快速突破,以2004年Facebook创立为标志,社交网络的流行直接导致大量非结构化数据的涌现,而传统处理方法难以应对。此时的热点关键词较为分散,包括了&Systems&(系统)、&Networks&(网络)、&Evolution&(演化)等,高被引文献也很少,说明学术界、企业界正从多角度对数据处理系统、数据库架构进行重新思考,且尚未形成共识。
年,大数据技术形成并行运算与分布式系统,为大数据发展的成熟期。Jeff&Dean在BigTable基础上开发了Spanner数据库(2009)。此阶段,大数据研究的热点关键词再次趋于集中,聚焦&Performance&(性能)、&CloudComputing&(云计算)、&MapReduce&(大规模数据集并行运算算法)、&Hadoop&(开源分布式系统基础架构)等。
2010年以来,随着智能手机的应用日益广泛,数据的碎片化、分布式、流媒体特征更加明显,移动数据急剧增长。&近年来大数据不断地向社会各行各业渗透,使得大数据的技术领域和行业边界愈来愈模糊和变动不居,应用创新已超越技术本身更受到青睐。大数据技术可以为每一个领域带来变革性影响,并且正在成为各行各业颠覆性创新的原动力和助推器。
2012年,美国政府在白宫网站发布《大数据研究和发展倡议》,这一倡议标志着大数据已经成为重要的时代特征。之后美国政府宣布2亿美元投资大数据领域,大数据技术从商业行为上升到国家科技战略。联合国在纽约发布大数据政务白皮书,总结了各国政府如何利用大数据技术更好地服务和保护人民。
2013年,英国政府宣布注资6亿英镑发展8类高新技术,其中,1.89亿英镑用来发展大数据技术。欧盟实施开放数据战略,旨在开放欧盟公共管理部门的所有信息。
2014年5月,美国白宫发布了2014年全球&大数据&白皮书的研究报告《大数据:抓住机遇、守护价值》。全球大数据产业的日趋活跃,技术演进和应用创新的加速发展,使各国政府逐渐认识到大数据在推动经济发展、改善公共服务,增进人民福祉,乃至保障国家安全方面的重大意义。
2014年,数据开放运动已覆盖全球44个国家。国务院通过《企业信息公示暂行条例(草案)》,要求在企业部门间建立互联共享信息平台,运用大数据技术等手段提升监管水平。
2015年,五中全会的&十三五&规划中将大数据作为国家级战略。
Gartner是一家领先的市场和技术研究公司,在Gartner 2015新兴技术发展周期报告。自动驾驶汽车与物联网处在顶峰部位,而大数据技术并未列入其中。
在2014年的报告中,我们却可以清晰的看到大数据刚刚过了新兴技术的顶峰。
许多人以此为依据,说大数据已近过时了,事实是,Gartner这张图反应的是新兴技术的发展趋势,也就是说经过10年的发展,大数据的相关技术已近十分成熟,已近退出了新兴技术的范畴。其实,早在2013年5月,麦肯锡全球研究所(McKinsey&Global&Institute)发布了一份名为《颠覆性技术:技术进步改变生活、商业和全球经济》的研究报告。报告确认的未来12种新兴技术,有望在2025年带来14万亿至33万亿美元的经济效益。令人惊讶的是,最为热门的大数据技术也未被列入其中。麦肯锡专门解释称,大数据技术已成为这些可能改变世界格局的12项技术中许多技术的基石,包括移动互联网、知识工作自动化、物联网、云计算、先进机器人、自动汽车、基因组学等都少不了大数据应用。
所以,大数据应用不存在所谓&过热&和&虚火&的问题,事实恰恰相反,伴随着大数据技术的成熟,大数据应用的普及和发展才刚刚开始,我们预计未来10年,甚至更长一段时间都是大数据黄金发展阶段,相关的行业将引来巨大的发展机遇。
第二个问题是:
大数据相关职位需求多吗?
不管是国内还是国外,大数据相关的人才都是供不应求的局面。根据麦肯锡报告,仅仅在美国市场,2018年大数据人才和高级分析专家的人才缺口将高达19万。此外美国企业还需要150万位能够提出正确问题、运用大数据分析结果的大数据相关管理人才。
根据根据Linkedin《2016年中国互联网最热职位人才库报告》,数据分析人才被列为Top6的热门职位。
可以看出,这些职位都是当下任何互联网公司要建立发展必不可少的岗位,尤其是数据分析人才,伴随着大数据在互联网行业更多的应用而愈加重要。
在这份报告中,数据分析人才的供给指数最低,仅为0.05,相当于20个职位同时在竞争一个求职者。这在一定程度上反映了行业现状,很多互联网公司 都逐渐意识到了数据的重要性,但却缺乏相关的专业人才来分析和管理数据。
数据来源:LinkedIn:2016年中国互联网最热职位人才库报告
第三个问题
入行的学习时间?
这个问题其实是没有标准答案的,取决于你的专业基础和要从事的职位。以数据分析师为例,先看一下国内知名互联网数据分析师的招聘要求:
1.&计算机、统计学、数学等相关专业本科及以上学历;&
2.&具有深厚的统计学、数据挖掘知识,熟悉数据仓库和数据挖掘的相关技术,能够熟练地使用SQL;
3.&三年以上具有海量数据挖掘、分析相关项目实施的工作经验,参与过较完整的数据采集、整理、分析和建模工作;
4.&对商业和业务逻辑敏感,熟悉传统行业数据挖掘背景、了解市场特点及用户需求,有互联网相关行业背景,有网站用户行为研究和文本挖掘经验尤佳;
5.&具备良好的逻辑分析能力、组织沟通能力和团队精神;&
6.&富有创新精神,充满激情,乐于接受挑战
前三个属于硬件要求,一般而言,有专业基础(计算机、统计学、数学等相关专业)入行需要3个月以上的学习,而要成为一个熟手(企业用工需求最多)则需要2-3年以上的项目经验和行业经验。对于非专业背景的同学,入行的时间可能需要的更长,建议给自己预留6-12月的时间。
Anyway,作为一门对数学和计算机都有较高要求的一门交叉学科,从事大数据是有一定门槛的,但相对于10年以上的职业生涯(国外顶尖数据科学家50-60岁仍然十分活跃),预备半年的时间来学习这个最炙手可热的技能还是很划算的。
在职业规划这个问题上有位哲学家说过,最重要的人际关系就是自己和自己的关系,知道自己要什么,不要什么。在转行的问题上也是一样。 有人会说,转行是让自己之前几年的经验积累全都作废了,其实社会经验和人生理念是不管改到哪一行都能发挥效用的。而之前的人际关系也是属于&山不转水转&的问题,你很难说哪一类人际关系是有用的,哪一类是没有用&&基于这个道理,应该统统视作为有用的。 不怕失去,才可能会有更多收获。只要有明确的发展规划,当然应该义无反顾地去投入新的开始。人生的机会并不多,即使你已经到了30岁,对大多数人来说,只是职业生涯的前半部分,完全不必缩头缩脑患得患失。
PPV课原创作品,未经许可严禁转载
PPV课-国内领先的大数据学习社区和职业培训平台,欢迎关注!
原文链接:
声明:CSDN登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。
推荐阅读相关主题:
CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
相关热门文章三个月成为大数据工程师,你需要具备什么条件?-业界动态-@大数据资讯
你好,游客
三个月成为大数据工程师,你需要具备什么条件?
来源: luminji's web&
  学习没有零基础入门,首先你要成为一名工程师
  在技术论坛中或知乎上,看到近几万的朋友都在疑惑,学习Java应该选择什么发展方向,这个咱们在之前的文章中有提到过,Java发展在领域上有三个选择方向:
  JavaEE,主要应用于企业级应用开发;安卓开发方向;嵌入式应用开发方向。在此建议大家选择JavaEE方向,因为应用非常广泛,岗位设置也比较多。
  Java的职业发展规划之路我们也曾在(一文阐述Java从初级到高级的学习之路&&白老师分享篇(2)
  )详细列举,这里就不一一列举了。
  但我们从来没有讨论过学习Java,难道这辈子就只能做Java后端开发吗?只能在这条路上奋斗到底吗?难道中途没有其他的选择吗?
  偶然认识的一个朋友,最开始是从事Java后端开发的,后来他在业余时间自学成功转入大数据行业,现在是一名大数据工程师,待遇也比之前好更多。前提是他是一名Java后端开发。
  大数据是我们如今比较火的一个发展方向,但是很多培训机构有提到几个月速成的,小编觉得不是特别靠谱。
  原因有以下:
  大数据是一个新生行业,还不太成熟。
  Java发展了将近20年,也没有说几个月速成的,最多也就是带你入门,让你对Java的知识结构体系有一个清晰的认知,在后期的工作实践期间成长的速度更快。
  大数据的起点要高,并不是所谓的零基础就可以入门的。
  我们接下来讲述的有关大数据的学习是有条件限制的,首先你需要是一名普通的工程师,如果你是Java工程师的话更好,但如果你是小白的话,那就只能成为一名工程师的后再来学习大数据吧。
  一、认识大数据
  大数据本质其实也是数据,不过也包括了些新的特征,
  数据来源广;
  数据格式多样化(结构化数据、非结构化数据、Excel文件等);
  数据量大(最少也是TB级别的、甚至可能是PB级别);
  数据增长速度快。
  而针对以上新的特征需要考虑很多问题:
  例如,数据来源广,该如何采集汇总?采集汇总之后,又该存储呢?数据存储之后,该如何通过运算转化成自己想要的结果呢?
  对于这些问题,我们需要有相对应的知识解决。
  二、大数据所需技能要求
  Python语言:编写一些脚本时会用到。
  Scala语言:编写Spark程序的最佳语言,当然也可以选择用Python。
  Ozzie,azkaban:定时任务调度的工具。
  Hue,Zepplin:图形化任务执行管理,结果查看工具。
  Allluxio,Kylin等:通过对存储的数据进行预处理,加快运算速度的工具。
  必须掌握的技能:
  Java高级(虚拟机、并发)、Linux 基本操作、(HDFS+MapReduce+Yarn )、 HBase(JavaAPI操作+Phoenix )、Hive(Hql基本操作和原理理解)、 Kafka、Storm/JStorm、Scala、Python、Spark (Core+sparksql+Spark streaming ) 、辅助小工具(Sqoop/Flume/Oozie/Hue等)
  高阶技能6条:
  机器学习算法以及mahout库加MLlib、 R语言、Lambda 架构、Kappa架构、Kylin、Alluxio
  三、学习规划
  每天需要有3个小时的学习时间,周末的时候需要10小时,如果做不到的话,只能是
  第一阶段(基础阶段)
  Linux学习
  Linux操作系统介绍与安装、Linux常用命令、Linux常用软件安装、Linux网络、 防火墙、Shell编程等。
  Java 高级学习(《深入理解Java虚拟机》、《Java高并发实战》)
  掌握多线程、掌握并发包下的队列、掌握JVM技术、掌握反射和动态代理、了解JMS。
  Zookeeper学习
  Zookeeper分布式协调服务介绍、Zookeeper集群的安装部署、Zookeeper数据结构、命令。
  第二阶段(攻坚阶段)
  Hadoop、Hive、HBase、Scala、Spark、Python
  第三阶段(辅助工具工学习阶段)
  Sqoop、Flume、Oozie、Hue这些工具的学习主要在CSDN,51CTO以及官网都可以学习。
  四、学习资源推荐
  Apache 官网(//apache.org/)
  Stackoverflow(/)
  Github(/)
  About 云 :///
  CSDN(//www.csdn.net/)
  51CTO (///)
  在技术行业里面,每天都会有新的东西出现,需要关注最新技术动态,不断学习。任何一般技术都是先学习理论,然后在实践中不断完善理论的过程。
  如果你觉得自己看书效率太慢,你可以网上搜集一些课程。
  快速学习的能力、解决问题的能力、沟通能力在这个行业是真的非常重要的指标。
  要善于使用StackOverFlow和Google来帮助你学习过程遇到的问题。
  视频课程推荐:可以去万能的淘宝购买一些视频课程,你输入&大数据视频课程&,会出现很多,多购买几份(100块以内可以搞定),然后选择一个适合自己的。
  以上是我们对大数据学习的总结,当然我们也提到了,并不是说零基础的就可以直接学习,需要有编程的基础,要先掌握扎实的编程基础,在此建议学习Java,成为一名工程师的时候,有一定编程经验,自学起来也相对比开始要简单一点,然后对大数据有兴趣或者想要进入这个行业的就可以去学习了。
相关新闻 & & &
   同意评论声明
   发表
尊重网上道德,遵守中华人民共和国的各项有关法律法规
承担一切因您的行为而直接或间接导致的民事或刑事法律责任
本站管理人员有权保留或删除其管辖留言中的任意内容
本站有权在网站内转载或引用您的评论
参与本评论即表明您已经阅读并接受上述条款Java|ui设计|web前端|移动开发等信息资讯平台
美国上市公司亿元级外企IT培训机构
当前位置 :
> 成为大数据工程师要掌握哪些技能
成为大数据工程师要掌握哪些技能
时间: 13:18
来源:Java培训网
作者:IT培训网
已有:名学员访问该课程
每期开班座位有限.0元试听抢座开始!
请输入正确的验证码
温馨提示 : 请保持手机畅通,咨询老师为您提供专属一对一报名服务。
------分隔线----------------------------
------分隔线----------------------------
全国服务电话:400-017-8985 全国监督及投诉邮箱:
Powered by
(C) IT培训网一站式精准营销服务平台 cnitedu Inc.
备案信息:
Copyright (C) . IT培训网 版权所有

我要回帖

更多关于 数据挖掘工程师培训 的文章

 

随机推荐