大数据学习一般都学什么

发布网友 发布时间：2022-04-22 01:01

我来回答

共14个回答

热心网友 时间：2022-04-08 21:36

您好，大数据学习一般分为6个阶段

第一阶段
JavaSE基础核心
第二阶段
数据库关键技术
第三阶段
大数据基础核心
第四阶段
Spark生态体系框架&大数据精选项目
第五阶段
Spark生态体系框架&企业无缝对接项目
第六阶段
Flink流式数据处理框架
大数据是最近几年新兴的专业，发展的前景是非常好的，选择大数据是没有错的！

热心网友 时间：2022-04-08 22:54

学习大数据首先我们要学习Java语言和Linux操作系统，这两个是学习大数据的基础，学习的顺序不分前后。

Java

大家都知道Java的方向有JavaSE、JavaEE、JavaME，学习大数据要学习那个方向呢？只需要学习Java的标准版JavaSE就可以了，像Servlet、JSP、Tomcat、Struts、Spring、Hibernate，Mybatis都是JavaEE方向的技术在大数据技术里用到的并不多，只需要了解就可以了，当然Java怎么连接数据库还是要知道的，像JDBC一定要掌握一下。

有同学说Hibernate或Mybites也能连接数据库啊，为什么不学习一下，我这里不是说学这些不好，而是说学这些可能会用你很多时间，到最后工作中也不常用，我还没看到谁做大数据处理用到这两个东西的，当然你的精力很充足的话，可以学学Hibernate或Mybites的原理，不要只学API，这样可以增加你对Java操作数据库的理解，因为这两个技术的核心就是Java的反射加上JDBC的各种使用。

Linux

因为大数据相关软件都是在Linux上运行的，所以Linux要学习的扎实一些，学好Linux对你快速掌握大数据相关技术会有很大的帮助，能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置，能少踩很多坑，学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。

Hadoop

这是现在流行的大数据处理平台几乎已经成为大数据的代名词，所以这个是必学的。Hadoop里面包括几个组件HDFS、MapRece和YARN，HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面，MapRece是对数据进行处理计算的，它有个特点就是不管多大的数据只要给它时间它就能把数据跑完，但是时间可能不是很快所以它叫数据的批处理。

YARN是体现Hadoop平台概念的重要组件有了它大数据生态体系的其它软件就能在hadoop上运行了，这样就能更好利用HDFS大存储的优势和节省更多的资源比如我们就不用再单独建一个spark的集群了，让它直接跑在现有的hadoop yarn上面就可以了。

其实把Hadoop的这些组件学明白你就能做大数据的处理了，只不过你现在还可能对"大数据"到底有多大还没有个太清楚的概念，听我的别纠结这个。等以后你工作了就会有很多场景遇到几十T/几百T大规模的数据，到时候你就不会觉得数据大真好，越大越有你头疼的。当然别怕处理这么大规模的数据，因为这是你的价值所在，让那些个搞Javaee的php的html5的和DBA的羡慕去吧。记住学到这里可以作为你学大数据的一个节点。

Zookeeper

这是个万金油，安装Hadoop的HA的时候就会用到它，以后的Hbase也会用到它。它一般用来存放一些相互协作的信息，这些信息比较小一般不会超过1M，都是使用它的软件对它有依赖，对于我们个人来讲只需要把它安装正确，让它正常的run起来就可以了。

Mysql

我们学习完大数据的处理了，接下来学习学习小数据的处理工具mysql数据库，因为一会装hive的时候要用到，mysql需要掌握到什么层度那？你能在Linux上把它安装好，运行起来，会配置简单的权限，修改root的密码，创建数据库。这里主要的是学习SQL的语法，因为hive的语法和这个非常相似。

Sqoop 

这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个，直接把Mysql数据表导出成文件再放到HDFS上也是一样的，当然生产环境中使用要注意Mysql的压力。

Hive

这个东西对于会SQL语法的来说就是神器，它能让你处理大数据变的很简单，不会再费劲的编写MapRece程序。有的人说Pig那？它和Pig差不多掌握一个就可以了。

Oozie

既然学会Hive了，我相信你一定需要这个东西，它可以帮你管理你的Hive或者MapRece、Spark脚本，还能检查你的程序是否执行正确，出错了给你发报警并能帮你重试程序，最重要的是还能帮你配置任务的依赖关系。

Hbase

这是Hadoop生态体系中的NOSQL数据库，他的数据是按照key和value的形式存储的并且key是唯一的，所以它能用来做数据的排重，它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。

Kafka

这是个比较好用的队列工具，队列是干吗的？排队买票你知道不？数据多了同样也需要排队处理，这样与你协作的其它同学不会叫起来，你干吗给我这么多的数据（比如好几百G的文件）我怎么处理得过来，你别怪他因为他不是搞大数据的，你可以跟他讲我把数据放在队列里你使用的时候一个个拿，这样他就不在抱怨了马上灰流流的去优化他的程序去了。

因为处理不过来就是他的事情。而不是你给的问题。当然我们也可以利用这个工具来做线上实时数据的入库或入HDFS，这时你可以与一个叫Flume的工具配合使用，它是专门用来提供对数据进行简单处理，并写到各种数据接受方（比如Kafka）的。

Spark

它是用来弥补基于MapRece处理数据速度上的缺点，它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算，所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它，因为它们都是用JVM的。

热心网友 时间：2022-04-09 00:28

大数据技术的学习内容有很多，包括：
基础阶段：Linux、Docker、KVM、MySQL基础、Oracle基础、MongoDB、redis。
hadoop maprece hdfs yarn：hadoop：Hadoop 概念、版本、历史，HDFS工作原理，YARN介绍及组件介绍。
大数据存储阶段：hbase、hive、sqoop。
大数据架构设计阶段：Flume分布式、Zookeeper、Kafka。
大数据实时计算阶段：Mahout、Spark、storm。
大数据数据采集阶段：Python、Scala。
大数据商业实战阶段：实操企业大数据处理业务场景，分析需求、解决方案实施，综合技术实战应用。

热心网友 时间：2022-04-09 02:20

基础阶段：Linux、Docker、KVM、MySQL基础、Oracle基础、MongoDB、redis。
hadoop maprece hdfs yarn：hadoop：Hadoop 概念、版本、历史，HDFS工作原理，YARN介绍及组件介绍。

大数据存储阶段：hbase、hive、sqoop。

大数据架构设计阶段：Flume分布式、Zookeeper、Kafka。

大数据实时计算阶段：Mahout、Spark、storm。

大数据数据采集阶段：Python、Scala。

大数据商业实战阶段：实操企业大数据处理业务场景，分析需求、解决方案实施，综合技术实战应用。

大数据(big data,mega data)，或称巨量资料，指的是需要新处理模式才能具有更强的决策力、洞察力和流程优化能力的海量、高增长率和多样化的信息资产。 在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法(抽样调查)这样的捷径，而采用所有数据进行分析处理。大数据的5V特点:Volume(大量)、Velocity(高速)、Variety(多样)、Value(价值密度)、Veracity（真实性）。

大数据的5个“V”，或者说特点有五层面：

第一，数据体量巨大

从TB级别，跃升到PB级别。

第二，数据类型繁多

前文提到的网络日志、视频、图片、地理位置信息等等。

第三，价值密度低

以视频为例，连续不间断监控过程中，可能有用的数据仅仅有一两秒。

第四，处理速度快

1秒定律。最后这一点也是和传统的数据挖掘技术有着本质的不同。业界将其归纳为4个“V”——Volume，Variety，Value，Velocity。

物联网、云计算、移动互联网、车联网、手机、平板电脑、PC以及遍布地球各个角落的各种各样的传感器，无一不是数据来源或者承载的方式。

热心网友 时间：2022-04-09 04:28

学习大数据，无外乎就是大数据编程、数据库编程、大数据仓库、大数据分析方法、数据挖掘算法等内容，软件应用主要包括Spark、Hadoop、HDFS、MapRece、Hbase、Hive、Sqoop和Python等。

热心网友 时间：2022-04-09 06:52

光环大数据学习大概分为这么几个阶段
第一阶段
Java核心开发
10年Java实战专家讲授Java核
心开发课程；
阶段考试-笔试、机试；
光环大数据实战型项目；
第二阶段
Linux精讲
光环名师讲授与大数据相关的
Linux核心课程；
阶段考试-笔试、机试；
光环大数据实战型项目；
第三阶段
hadoop生态体系
大数据实战专家讲授hadoop
生态体系内容；
阶段考试-笔试、机试；
光环大数据实战型项目；
第四阶段
Jspark生态体系
大数据实战专家讲授spark生
态体系；
阶段考试-笔试、机试；
光环大数据实战型项目；
第五阶段
storm实时开发
大数据实战专家讲授storm实
时开发课程；
阶段考试-笔试、机试；
光环大数据实战型项目；
第六阶段

企业项目实战
实时非法网站检测项目；
实时监测车辆超速项目；
高频数据实时处理项目；
更多真实企业项目实战；

热心网友 时间：2022-04-09 09:34

大数据技术的学习内容很多，包括:
基础阶段:Linux、Docker、KVM、MySQL基础、Oracle基础、MongoDB、redis。
hadoopmaprecehdfsyarn:hadoop:hadoop概念、版本、历史、HDFS工作原理、YARN介绍和组件介绍。
大数据存储阶段:hbase、hive、sqoop。
大数据结构设计阶段:Flume分布式、Zookeeper、Kafka。
大数据实时计算阶段:Mahout、Spark、storm。
大数据数据收集阶段:Python，Scala。
大数据商业实战阶段:实践企业大数据处理业务场景，分析需求、解决方案实施，综合技术实战应用。

热心网友 时间：2022-04-09 12:32

一般的来说大数据前期的课程和java的课程是一样的，现在大数据的专业是非常热门的，就业的薪资也是非常高的。我给你推荐一份大数据的学习路线图

第1阶段Java

第2阶段JavaEE核心

第3阶段Hadoop生态体系

第4阶段大数据spark生态体系

大数据学什么

热心网友 时间：2022-04-09 15:46

具体学习内容，如图：

第二阶段

第五阶段

热心网友 时间：2022-04-09 19:18

大数据目前主要是大数据开发，基于JAVA的， 大数据分析救赎PYTHON还有大数据可视化，也就是WEB前端方向的

热心网友 时间：2022-04-09 23:06

大数据专业的职业发展主要分为zhuan3个方向：
1、大数据shu开发方向; 所涉及版的职业岗位为：大数权据工程师内、大数据维护工程师、大数据研发工程师、大数据架构师等；
2、数据挖掘、数据分析和机器学习方向; 所涉及的职业岗位为：大数据分析师、大数据高级工程师、大数据分析师专家、大数据挖掘师、大数据算法师等；
3、大数据运维和云计算方向；对应岗位：大数据运维工程师；
以最基础的大数据开发容为例，入门最低薪资可达8K-1W，且该行业的薪资增长率极高。据某求职网站薪资显示，资深大数据工程师的平均在50K/月，可谓非常有“钱景”了。

热心网友 时间：2022-04-10 07:32

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产
　大数据技术可以帮助企业准确定位意向客户;通过数据分析我们可以建立城市规划、解决医疗发展难题;传统行业转型互联网也可以利用大数据价值。所以大数回据技术被广泛应用在各行各业，现在越来越多的企业开始重视大数据技术，并招聘大数据人才。

热心网友 时间：2022-04-10 12:10

大数据课程：
基础阶段：Linux、Docker、KVM、MySQL基础、百Oracle基础、MongoDB、redis。
hadoop maprece hdfs yarn：hadoop：Hadoop 概念、版本、历史，HDFS工作原理，YARN介绍及组件介绍。
大数度据存专储阶段：hbase、hive、sqoop。
大数据架构设计阶段：Flume分布式、Zookeeper、Kafka。
大数据实时计算阶段：Mahout、Spark、storm。
大数据数据采集阶段：Python、Scala。
大数据商业实战阶段：实操企业大数据处理业务场景，分析需属求、解决方案实施，综合技术实战应用。

热心网友 时间：2022-04-10 17:04

我是来自农村的一名很普通的女孩，17年大学毕业，现在在杭州一家大数据公司做分析师。想跟大家分享一下，我是如何从刚毕业的一张白纸，成长为一名大数据分析师的，希望我的学习成长心路历程，能够给到现在想往大数据分析行业发展的小伙伴一些参考。
我刚毕业的时候和现在许多学弟学妹一样，都非常迷茫，因为我对自己未来并没有一个非常清晰的职业规划，我不知道自己能够做什么？心里还有一些自卑，因为即便我很爱我的大学，但不得不承认，它只是一个很普通的大学，并非985、211。在如今大学生多如牛毛，激烈的就业环境中，我的学历和专业并没有太大竞争力，也有些后悔为什么大学期间没有再认真努力一些，但为时已晚。毕业，意味着新的人生起点，必须要勇敢面对，未来只能靠自己的能力在社会上生存和发展。
于是，就这样，带着对母校和同学们的不舍、对社会的彷徨、对自己内心的恐惧、以及家人给予我的期望迈入社会，开始了我的求职之路。找了半个月的工作，面试20来家，有3家成功的，但是开的工资最高3500一个月，并且2家是销售岗位，1家也不是我本专业的岗位（我的专业是信息与计算科学），我算了一下，就算我接受这些陌生并且不喜欢的岗位，在杭州这样的城市，合租房包水电物业费也得1500左右，公交一个月最少200，生活费最少900，电话费100，3500一个月的工资还要扣除五险一金，每个月还要倒贴。我简直快奔溃了，感觉自己很没用，连独立在城市生存下去的能力都没有，心里非常的沮丧。
也许命运就是这样，当你面临几乎绝望的时候，往往能审视自己，明白自己真的想要什么，静下心来的时候，我问自己，为什么企业不要我这样的学生？答案其实大家都知道，一是没有工作经验，二是啥都不懂不能为企业创造价值；三是面试的时候紧张、不自信、没有很好的表现自己。按这个逻辑分析下去，再找半个月我也不指望能出现奇迹，可能连我最后一点的自信都会被打击光。我隐约的感觉到需要重新定位自己，需要与其他同学拉开区分度，目前我学的这个专业和知识好像与企业要求的能力相差太大，如此分析后，摆在我面前的路有三条，一是接受3500的工作，熬个一年半载希望能加点工资，让自己在杭州生活下去，以后再谋发展；二是回老家的小城市随便找个工作以后结婚过日子；三是选择一个现在人才缺口大的行业，并且未来有前景的职业从头开始学习，这样至少我还比别人快一步。
去年社会上最热门的字眼就是人工智能、大数据，当时我在网上查了很多信息，看了很多新闻，也在招聘网站上查询大数据岗位的薪资和招聘人数及技术要求等情况，我发现大数据行业分二个方向，一是大数据工程开发类，二是大数据分析类，开发类的编程要求比较高，而分析类的编程技术要求相对低些，在网上找了一些分析课程听了一下，感觉还挺有意思的，也能听懂，相比与开发类，自己更喜欢也更适合分析类，所以就下定决心往数据分析这个方向进行学习。后面我花了10来天的时间去了解数据分析的前景和学习路径，但是网上的信息太杂乱，只能了解一个大概，在网上买了一些课，也买了好几本书，一个星期下来还是毫无头绪，本以为把HADOOP学会就能入门了，结果发现HADOOP搭建会了后面的SPARK太吃力；这时候我感觉还是需要去正式培训一下，自学找不到方向，也比较浪费时间；上天还是比较眷顾我的，我记得是去年的7月初，我在网上查大数据分析培训的时候，发现阿里云和他的内容提供商杭州决明数据科技联合推出一个《阿里云大数据分析师企业实战训练营》，需要选拨才能进入，抱着对阿里云品牌的信任，我进行了考试筛选，当时考的内容是两部分，一是数据库、二是C语言和JAVA；说真的JAVA一窍不通，没想到第二天接到通知说通过了，接下来需要电话面试，我当时就怀疑是不是骗人的，在电话面试的时候我就问了负责的老师，老师说是从250多个报名参加的学生中选10个人参加，主要是为新研发出来的课程体系做实验，我作为计算机相关专业、不懂JAVA只懂数据库的学生样本被选中了，另外面试沟通表达能力必须通过。突然有种被实验的感觉，这不是拿我做小白鼠嘛，我问还有其他样本是怎么样的，负责老师说，有一个是大三未毕业数学统计专业的、有一个机械工程三本学生、有一个软件开发专业的一本学生、有一个工作三年软件开发的学生、有一个工商管理专业的学生……我的个神了,当时就蒙圈了,这玩意万一实验失败我钱不就白花了，还浪费1个多月时间,我给父母说后没一个人支持我的，直到7月9号正式开营的前一天我才想明白一件事，在中国连阿里云这样的企业目前都没有一套完整的科学的课程体系，那其他家肯定也没有，如果是骗人的负责老师也没必要把做实验这事情给我说的这么清楚,最后一天选择了这个训练营,其实心里非常忐忑不安。
集训营10个同学一起学习35天，近2个月时间,经过系统的训练，我们10个同学被杭州7家企业录用，全部是数据分析岗位，有去电信的、有去外贸企业的、有去金融企业的、有去阿里系相关企业的，我和那个大三的学弟一起去了阿里系的企业，我试用期，他实习期，大家都非常的开心，说真的非常感谢阿里云和阿里云的合作伙伴决明数据科技的老师们，当时给我们上课的全部都是决明的老师，老师们都非常的专业负责，公司本来就是做企业商业数据咨询的，所以有很多商业案例跟我们分享，用的实验平台是九道门商业数据分析实验平台。
从小白鼠到入行，到现在也有小三年工作经验的我，给大家一个学数据分析师的学习路径,仅供大家参考；
1、 建议大家先学习MYSQL关系数据库，在分析师岗位上数据库是经常要用到的，也是必须要会的；
2、 建议大家接下来学习数据建模、数据仓库，ETL数据清洗，特别在工作中数据质量管理是比较重的，ETL是经常用的（当然数据清洗工具也有其他的，ETL是大家通用的）；
3、 HADOOP分布式其实在分析师这个岗位上用的比较少，了解就可以了，因为现在分布式这块大公司都有现成的工具用，连搭建都不需要，直接用就可以了，非常方便。
4、 分析工具还是需要好好学一下的，建议大家学Python,现在公司里面大部分都是用这个，EXCEL也需要学习学习，一些小的数据集和简单的BI报表还是比较方便的。当然分析工具比较多比如R、SPSS，SAS等都是工具，就看你自己用什么了，会用一个熟练的工具就可以了。另外Python功能非常强大，也不需要研究太深，其实工作做在做项目的时候经常用很快就能学会的，毕竟只是个工具，就像EXCEL要想全部弄清楚所有功能那可不是一天二天的事情，而我们日常经常用的也就是那点东西。
5、 接下来需要学习机器学习，原来叫数据挖掘，现在叫机器学习，也有的叫人工智能，这个需要大家花点时间去学习了，我现在经常用的比如决策树、回归问题、分类问题、聚类问题、降维问题等，还有预测、无监督、最优化也经常用到，这门学科可能是需要我们长时间学习和研究的。
6、 算法方面其实我没有学过，在项目组里面有专门的算法工程师，另外有些通用算法是可以套用的，所以这方面我觉得项目组团队可以配合来做，这方面本人没有经验不做建议。
7、 我现在觉得分析师最重要的是看待问题、处理问题的思路，在这一年工作中我发现团队的大牛们解决问题的思路和我们真不一样，在每次项目组会议的时候我感觉学到的东西最多，那就是解决问题的思路和能力；而且分析师还需要对业务深入了解，因为不同的行业数据结构和业务逻辑都是不一样的，需要花时间去理解和学习；同时我也感觉到作为数据分析师还需要学习商业思维和营销知识。
8、 另外一个就是数据可视化，这个主要是把我们分析出来的数据结构用图像、动画等按时呈现出来。我现在正在做的就是数据大屏，工具很多，BAT公司都有自己的工具，当时老师教我们的时候教的是 Tableau，个人感觉非常好用，这个随便自己喜好了，做大屏可能需要一点美术功底，当然现在模板比较多，也可以套用。
9、 其实在学习的过程中要想学得快，最好是从项目案例入手，当时阿里云和他的内容提供商决明数据就是先让我们训练九道门实验平台上的23个场景案例，数据集全部做好放在服务器里，和我们现在工作的场景很像。老师上午讲知识点，下午和晚上我们就是做实操实验，工具老师基本上都不讲，在做案例项目的时候用到什么临时去查，二次下来工具就上手了。最后一周是加拿大的赵强老师给我们训练了一个大项目，模拟一个企业的数据分析项目，那5天是我最刻苦铭心的，虽然压力很大，分组进行，但是5天时间把我们原来所学的东西全部串起来了，一下子思路就通了，最后每个人还要上台去讲，也培养了自己的沟通能力和演讲能力，整个项目流程下来，受益匪浅。赵老师原来为世界500强企业做过数据咨询项目的，又是加拿大舒立克商学院的MBA教授，项目经验丰富，确实是国内少有的专家大咖，是决明科技的创始人，也是我现在上班这家公司的项目顾问，多亏了赵老师的悉心指导，让我在成为大数据分析师的学习之路上少走了很多弯路，真的蛮感谢赵老师的，也希望大家在学习的路上都能遇到这样的良师益友。
10、 最后一个建议就是大家还需要学习学习PPT制作和演讲，最近我们项目要陆续交付，每次交付都需要向客户进行讲解，每个人做的部分由自己讲，所以PPT制作和演讲都需要训练，亚历山大。
说了这么多，只能代表我这一年来的经历和感受，也不知道对学弟学妹有没有帮助，反正如果你们想往大数据分析师这个职业发展的话，建议大家一定要从项目入手去学习，工具要学但是不要研究太深，会浪费时间，工作后用起来上手非常快，如果自学没有头绪，培训还是很有必要的，但一定要找专业方面的人进行培训，我觉得我还是非常幸运的，遇到了阿里云以及杭州决明科技的老师们，如果学弟学妹们有这样的想法，可以去了解一下，当时我们是第一批培训的，不知道他们现在还在不在做，他们集训就是从项目入手，跟我现在工作内容十分相似，虽然集训过程很辛苦学的也很累，但收获与影响是巨大的。
我当时集训结束的时候就拿到了两个个公司的OFFER，一个是全球排名前十的游戏营销咨询公司，一个是我现在上班的XX云公司；当时选择的时候其实很痛苦，两个个公司都非常不错，因为我是在阿里云实验班出来的，我还是选择了阿里系的企业。
如愿以偿进入了大数据分析职业，天天做项目，非常开心，我相信我自己能在杭州好好的工作，好好的生活下去，毕业季，也祝小伙伴们能和我一样幸运，找到自己喜欢的工作。
最后感谢阿里云和决明数据科技的老师，同时也推荐想学大数据分析的学弟学妹们去九道门商业大数据分析实训中心，因为专业所以认同。