首页

文章

大数据初学者应该怎么学?

发布网友 发布时间:2022-03-27 06:49

我来回答

11个回答

懂视网 时间:2022-03-27 11:10

进行大数据的入门级学习的分析如下:

  

  1、原始数据要经过一连串收集、提取、清洗、整理等等的预处理过程,才能形成高质量的数据;

  

  2、要看看数据“长什么样”,有什么特点和规律;

  

  3、按照自己的需要,比如要对数据贴标签分类,或者预测,或者想要从大量复杂的数据中提取有价值的且不易发现的信息,都要对数据建模,得到output。

  

  

热心网友 时间:2022-03-27 08:18

如今大数据发展得可谓是如日中天,各行各业对于大数据分析和大数据处理的需求也是与日俱增,越来越多的决策、建议、规划和报告,都要依靠大数据的支撑,学习大数据成了不少人提升或转行的机会。因此,入门大数据开始成为很多人的第一步,下面给大家讲讲,究竟大数据入门,首要掌握的知识点有哪些,如何一步一步进阶呢?

首先我们要了解Java语言和Linux操作系统,这两个是学习大数据的基础,学习的顺序不分前后。楼主是JAVA毕业的,这无疑是极好的开头和奠基啊,可谓是赢在了起跑线上,接收和吸收大数据领域的知识会比一般人更加得心应手。

Java :只要了解一些基础即可,做大数据不需要很深的Java 技术,学java SE 就相当于有学习大数据。基础

Linux:因为大数据相关软件都是在Linux上运行的,所以Linux要学习的扎实一些,学好Linux对你快速掌握大数据相关技术会有很大的帮助,能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置,能少踩很多坑,学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。

好说完基础了,再说说还需要学习哪些大数据技术,可以按我写的顺序学下去。

Hadoop:这是现在流行的大数据处理平台几乎已经成为大数据的代名词,所以这个是必学的。Hadoop里面包括几个组件HDFS、MapRece和YARN,HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面,MapRece是对数据进行处理计算的,它有个特点就是不管多大的数据只要给它时间它就能把数据跑完,但是时间可能不是很快所以它叫数据的批处理。

记住学到这里可以作为你学大数据的一个节点。

Zookeeper:这是个万金油,安装Hadoop的HA的时候就会用到它,以后的Hbase也会用到它。它一般用来存放一些相互协作的信息,这些信息比较小一般不会超过1M,都是使用它的软件对它有依赖,对于我们个人来讲只需要把它安装正确,让它正常的run起来就可以了。

Mysql:我们学习完大数据的处理了,接下来学习学习小数据的处理工具mysql数据库,因为一会装hive的时候要用到,mysql需要掌握到什么层度那?你能在Linux上把它安装好,运行起来,会配置简单的权限,修改root的密码,创建数据库。这里主要的是学习SQL的语法,因为hive的语法和这个非常相似。

Sqoop:这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个,直接把Mysql数据表导出成文件再放到HDFS上也是一样的,当然生产环境中使用要注意Mysql的压力。

Hive:这个东西对于会SQL语法的来说就是神器,它能让你处理大数据变的很简单,不会再费劲的编写MapRece程序。有的人说Pig那?它和Pig差不多掌握一个就可以了。

Oozie:既然学会Hive了,我相信你一定需要这个东西,它可以帮你管理你的Hive或者MapRece、Spark脚本,还能检查你的程序是否执行正确,出错了给你发报警并能帮你重试程序,最重要的是还能帮你配置任务的依赖关系。我相信你一定会喜欢上它的,不然你看着那一大堆脚本,和密密麻麻的crond是不是有种想屎的感觉。

Hbase:这是Hadoop生态体系中的NOSQL数据库,他的数据是按照key和value的形式存储的并且key是唯一的,所以它能用来做数据的排重,它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。

Kafka:这是个比较好用的队列工具,队列是干吗的?排队买票你知道不?数据多了同样也需要排队处理,这样与你协作的其它同学不会叫起来,你干吗给我这么多的数据(比如好几百G的文件)我怎么处理得过来,你别怪他因为他不是搞大数据的,你可以跟他讲我把数据放在队列里你使用的时候一个个拿,这样他就不在抱怨了马上灰流流的去优化他的程序去了,因为处理不过来就是他的事情。而不是你给的问题。当然我们也可以利用这个工具来做线上实时数据的入库或入HDFS,这时你可以与一个叫Flume的工具配合使用,它是专门用来提供对数据进行简单处理,并写到各种数据接受方(比如Kafka)的。

Spark:它是用来弥补基于MapRece处理数据速度上的缺点,它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算,所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它,因为它们都是用JVM的。

热心网友 时间:2022-03-27 09:36

学习大数据首先我们要学习Java语言和Linux操作系统,这两个是学习大数据的基础,学习的顺序不分前后.Java大家都知道Java的方向有JavaSE、JavaEE、JavaME,学习大数据要学习那个方向呢?只需要学习Java的标准版JavaSE就可以了,像Servlet、JSP、Tomcat、Struts、Spring、Hibernate,Mybatis都是JavaEE方向的技术在大数据技术里用到的并不多,只需要了解就可以了,当然Java怎么连接数据库还是要知道的,像JDBC一定要掌握一下。有同学说Hibernate或Mybites也能连接数据库啊,为什么不学习一下,我这里不是说学这些不好,而是说学这些可能会用你很多时间,到最后工作中也不常用,我还没看到谁做大数据处理用到这两个东西的,当然你的精力很充足的话,可以学学Hibernate或Mybites的原理,不要只学API,这样可以增加你对Java操作数据库的理解,因为这两个技术的核心就是Java的反射加上JDBC的各种使用。Linux因为大数据相关软件都是在Linux上运行的,所以Linux要学习的扎实一些,学好Linux对你快速掌握大数据相关技术会有很大的帮助,能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置,能少踩很多坑,学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。好说完基础了,再说说还需要学习哪些大数据技术,可以按我写的顺序学下去。Hadoop这是现在流行的大数据处理平台几乎已经成为大数据的代名词,所以这个是必学的。Hadoop里面包括几个组件HDFS、MapRece和YARN,HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面,MapRece是对数据进行处理计算的,它有个特点就是不管多大的数据只要给它时间它就能把数据跑完,但是时间可能不是很快所以它叫数据的批处理。YARN是体现Hadoop平台概念的重要组件有了它大数据生态体系的其它软件就能在hadoop上运行了,这样就能更好的利用HDFS大存储的优势和节省更多的资源比如我们就不用再单独建一个spark的集群了,让它直接跑在现有的hadoop yarn上面就可以了。其实把Hadoop的这些组件学明白你就能做大数据的处理了,只不过你现在还可能对"大数据"到底有多大还没有个太清楚的概念,听我的别纠结这个。等以后你工作了就会有很多场景遇到几十T/几百T大规模的数据,到时候你就不会觉得数据大真好,越大越有你头疼的。当然别怕处理这么大规模的数据,因为这是你的价值所在,让那些个搞Javaee的php的html5的和DBA的羡慕去吧。记住学到这里可以作为你学大数据的一个节点。
Zookeeper这是个万金油,安装Hadoop的HA的时候就会用到它,以后的Hbase也会用到它。它一般用来存放一些相互协作的信息,这些信息比较小一般不会超过1M,都是使用它的软件对它有依赖,对于我们个人来讲只需要把它安装正确,让它正常的run起来就可以了。
Mysql
我们学习完大数据的处理了,接下来学习学习小数据的处理工具mysql数据库,因为一会装hive的时候要用到,mysql需要掌握到什么层度那?你能在Linux上把它安装好,运行起来,会配置简单的权限,修改root的密码,创建数据库。这里主要的是学习SQL的语法,因为hive的语法和这个非常相似。
Sqoop
这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个,直接把Mysql数据表导出成文件再放到HDFS上也是一样的,当然生产环境中使用要注意Mysql的压力。
Hive
这个东西对于会SQL语法的来说就是神器,它能让你处理大数据变的很简单,不会再费劲的编写MapRece程序。有的人说Pig那?它和Pig差不多掌握一个就可以了。
Oozie
既然学会Hive了,我相信你一定需要这个东西,它可以帮你管理你的Hive或者MapRece、Spark脚本,还能检查你的程序是否执行正确,出错了给你发报警并能帮你重试程序,最重要的是还能帮你配置任务的依赖关系。我相信你一定会喜欢上它的,不然你看着那一大堆脚本,和密密麻麻的crond是不是有种想屎的感觉。
Hbase
这是Hadoop生态体系中的NOSQL数据库,他的数据是按照key和value的形式存储的并且key是唯一的,所以它能用来做数据的排重,它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。
Spark
它是用来弥补基于MapRece处理数据速度上的缺点,它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算,所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它,因为它们都是用JVM的。会这些东西你就成为一个专业的大数据开发工程师了,月薪2W都是小毛毛雨后续提高 :当然还是有很有可以提高的地方,比如学习下python,可以用它来编写网络爬虫。这样我们就可以自己造数据了,网络上的各种数据你高兴都可以下载到你的集群上去处理。最后再学习下推荐、分类等算法的原理这样你能更好的与算法工程师打交通。这样你的公司就更离不开你了,大家都会对你喜欢的不要不要的。

热心网友 时间:2022-03-27 11:11

大数据大家一定都不陌生,现在这个词几乎是红遍了大江南北,不管是男女老幼几乎都听说过大数据。大数据作为一个火爆的行业,很多人都想从事这方面相关的工作,所以大家就开始加入了学习大数据的行列。

目前,市面上不仅是学习大数据的人数在增加,随之而来的是大数据培训机构数量的迅速上升。因为很多人认为这是一门难学的技术,只有经过培训才能够很好的学习到相关技术,最终完成就业的目的。其实,也并不都是这样的,学习大数据的方法有很多,只有找到适合自己的就能够达到目的。

那么,大数据初学者应该怎么学?

1、如果是零基础的初学者,对于大数据不是很了解,也没有任何基础的话,学习能力弱,自律性差的建议选择大数据培训学习更有效;

2、有一定的基础的学员,虽然对于大数据不是很了解,但有其它方面的编程开发经验,可以尝试去选择自学的方式去学习,如果后期感觉需要大数据培训的话再去报名学习;

3、就是要去了解大数据行业的相关工作都需要掌握哪些内容,然后根据了解的内容去选择需要学习的大数据课程。

大数据学习路线图:

热心网友 时间:2022-03-27 13:02

学习大数据开发的第一个阶段:了解大数据的理论知识
学习一门课程,首先你对这门课程要有简单的了解,比如说要先学习这门课程的一些专业术语,学习一些入门的概念,知道这门课程是做什么的,主要学习的有那些知识。学习大数据开发也是一样,你要知道什么是大数据,一般大数据主要运用在那些领域。避免自己在对大数据一无所知的情况下就开始盲目学习。

学习大数据开发的第二个阶段:计算机编程语言的学习
对于零基础的学员来说,开始入门可能不是那么容易,需要学习大量的理论知识,阅读枯燥的教材。因为要掌握一门计算机编程语言,大家都知道计算机编程语言有很多,比如:R,C++,JAVA等等。
学习大数据开发的第三阶段:大数据相关课程的学习
经过一段时间的基础学习之后,我们对编程语言也已经基本掌握了,接下来就可以进行大数据部分的课程学习了。在这里大数据开发学习要特别提醒大家:行业真正大数据,82%主讲都是hadoop、spark生态体系、storm实时开发等课程。而所谓“大数据”机构85%基本讲的都是JAVA/PHP数据或数据库学习(大数据课程含量不超过15%),初学者请务必认清你要学的是不是真正大数据!
学习大数据开发的第四个阶段:项目实战阶段
实战训练可以帮助我们更好的理解所学的内容,同时对相关知识加强记忆。在以后的实际运用中,可以更快的上手,对于相关知识该怎么用也有了经验。
学会这四个阶段在也不用担心零基础学不好大数据了。再说了学习嘛,只要你用心肯定能学会的,只要你付出就一定会有回报的!

热心网友 时间:2022-03-27 15:10

大数据技术想要入门是比较难的,如果是零基础想要靠自学入门大数据的还是不太可能事情,最好是找一家靠谱的大数据培训机构进行系统的培训大数据基础。
但是大数据的也不是谁都可以学的,零基础的最好是本科的学历,因为大数据需要的逻辑思维分析能力比较强,也涉及到一些大学的数学算法,所以学历要求会高些。
如果是有Java基础的哪就另当别论了,大数据技术的培训,基本都是以Java为基础铺垫的的,有一些Java基础的话,相对来说就容易一些了,如果是直接想学大数据开发的话,Linux基础要有一些,然后就是大数据相关组件的熟悉和使用,以及他们之间各个有什么作用,数据采集聚合传输处理,各个组件在什么位置,有什么作用等。

热心网友 时间:2022-03-27 17:35

第一阶段:Java基础

Java语言基础、HTML、CSS、JavaWeb和数据库等;

第二阶段:linux基础

企业中无一例外的是使用 Linux来搭建或部署项目,所以学习大数据之前要学习Linux

第三阶段:Hadoop生态系统

Hadoop的课程,从知晓原理到开发网盘的项目,打好学习大数据的基础

第四阶段:Spark&Strom

Spark大数据处理和Strom实时计算是大数据学习的重点之二

第五阶段:项目练习

其实是穿插课程其中的,在讲解大数据理论的同时,将实践知识穿插其中,增加学生对大数据技术的理解和应用。

这是大体的大数据学习路线,如想快速进入大数据行业,可以找个专业的老师带你。

热心网友 时间:2022-03-27 20:16

1.学习大数据要从自身知识结构入手。也就是说小伙伴有没有编程基础,你所了解的编程基础都是哪些方面的知识,适不适合学习大数据开发技术,有没有基础对于学习大数据开发的难度是不同的。
2.根据大数据培训班学习路线制定适合自己的学习思路。虽然大数据培训班有自己比较成熟的培训课程内容,只是给小伙伴提供了你需要学习的知识框架,这些框架是适合所有人的,小伙伴要想丰富自身知识结构,还需要在学习中不断总结适合自己的学习思路和学习路线。
3.掌握相应的编程基础。想要入门大数据开发技术,需要学习相关java、Python、web等编程基础,不过小伙伴放心,大数据培训机构会根据小伙伴不同的基础分配到不同的班级来学习编程基础。

热心网友 时间:2022-03-27 23:14

大数据初学者学习步骤

第1阶段Java

第2阶段JavaEE核心

第3阶段Hadoop生态体系

第4阶段大数据spark生态体系

大数据初学者怎们学

热心网友 时间:2022-03-28 02:29

数据量大,TB->PB
  数据类型繁多,结构化、非结构化文本、日志、视频、图片、地理位置等;
  商业价值高,但是这种价值需要在海量数据之上,通过数据分析与机器学习更快速的挖掘出来;
  处理时效性高,海量数据的处理需求不再局限在离线计算当中。
  现如今,正式为了应对大数据的这几个特点,开源的大数据框架越来越多,越来越强,再列举一些常见的:
文件存储:hadoop HDFS、Tachyon、KFS
  离线计算:Hadoop MapRece、Spark
  流式、实时计算:Storm、Spark Streaming、S4、Heron
  K-V、NOSQL数据库:HBase、Redis、MongoDB
  资源管理:YARN、Mesos
  日志收集:Flume、Scribe、Logstash、Kibana
  消息系统:Kafka、StormMQ、ZeroMQ、RabbitMQ
  查询分析:Hive、Impala、Pig、Presto、Phoenix、SparkSQL、Drill、Flink、Kylin、Druid
  分布式协调服务:Zookeeper
  集群管理与监控:Ambari、Ganglia、Nagios、Cloudera Manager
数据挖掘、机器学习:Mahout、Spark MLLib
  数据同步:Sqoop
  任务调度:Oozie
  ……
  眼花了吧,上面的有30多种吧,别说精通了,全部都会使用的,估计也没几个。
  大讲台老师推荐第二个方向(开发/设计/架构),因为这个方向容易找工作,下面给大家具体讲解一下。
  第一章:初识Hadoop
  1.1 学会百度与Google
  不论遇到什么问题,先试试搜索并自己解决。
  Google首选,翻不过去的,就用百度吧。
  1.2 参考资料首选官方文档
  特别是对于入门来说,官方文档永远是首选文档。
  相信搞这块的大多是文化人,英文凑合就行,实在看不下去的,请参考第一步。
  1.3 先让Hadoop跑起来
  Hadoop可以算是大数据存储和计算的开山鼻祖,现在大多开源的大数据框架都依赖Hadoop或者与它能很好的兼容。

热心网友 时间:2022-03-28 06:00

可以看看这边哒,不错的,进行比较下不错的哦
华硕笔记本电脑触摸板怎么开笔记本电脑触摸板怎么开启和关闭_百度知 ... 陕西职务侵占案立案准则 结婚后我的恋情维系了十年,怎么做到的? 玉米仁子饭产自哪里 中国期货交易所的交易品种有哪些? 历史要怎么读,有啥诀窍 高中历史诀窍 年终会活动策划方案 深度解析:第一财经回放,探索财经新风向 逆水寒手游庄园怎么邀请好友同住 逆水寒手游 逆水寒不同区可以一起组队吗? 逆水寒手游 逆水寒怎么进入好友世界? 逆水寒手游 逆水寒怎么去别人的庄园? 使用puppeteer实现将htmll转成pdf 内卷时代下的前端技术-使用JavaScript在浏览器中生成PDF文档 【译】将HTML转为PDF的几种实现方案 变形金刚08动画怎么样 变形金刚08动画的问题 变形金刚08动画日语版剧情介绍 高分!换显卡nvidia控制面板被我卸了,重新安装显卡驱动后没了nvidia控... 我的nvidia控制面板被卸载了 怎么找回啊 卸载后 这个画面看着很奇怪_百 ... 李卓彬工作简历 林少明工作简历 广东工业职业技术学院怎么样 郑德涛任职简历 唐新桂个人简历 土地入股的定义 ups快递客服电话24小时 贷款记录在征信保留几年? 安徽徽商城有限公司公司简介 安徽省徽商集团新能源股份有限公司基本情况 安徽省徽商集团有限公司经营理念 2019哈尔滨煤气费怎么有税? 快手删除的作品如何恢复 体育理念体育理念 有关体育的格言和理念 什么是体育理念 万里挑一算彩礼还是见面礼 绿萝扦插多少天后发芽 绿萝扦插多久发芽 扦插绿萝多久发芽 炖牛排骨的做法和配料 网络诈骗定罪标准揭秘 “流水不争先”是什么意思? mc中钻石装备怎么做 为什么我的MC里的钻石块是这样的?我想要那种。是不是版本的问题?如果是... 带“偷儿”的诗句 “君不见巴丘古城如培塿”的出处是哪里 带“奈何”的诗句大全(229句) 里翁行()拼音版、注音及读音 怎样进行大数据的入门级学习 制作彩视频会不会被盗取信息? 怎么找到自己制作的彩视频下载 怎样制作动画视频短片 怎样做图文视频? 开奖视频是如何制作的? 手机制做彩视频为啥不全屏? 如何制作动画小视频? 怎么把唱吧本地录音做成彩视频 如何用EDIUS做彩带 视频 如何制作视频? 怎样自己制作视频 如何制作彩票宣传视频 抖音上流行的手绘短视频是怎么制作的? 怎样制作视频 怎样用美颜相机,制作彩视频? 怎么制作精彩视频? 怎样将微信里的相册制作成彩视频? 彩视频频如何制作? 为什么苹果商店搜索不到软件 怎样进行大数据的入门级学习? 大数据入门学习怎么做 怎样入门大数据 初学者如何高效学习大数据技术? 新人如何入门大数据技术? 零基础如何学习大数据技术? 想学大数据,不知道如何入门? 如何进行大数据的入门级学习 大数据怎么入门学习? 入门大数据需要学习什么内容? 大数据怎么学习 数据分析师炼成记:怎样进行大数据的入门级学习 大数据入门需学习哪些基础知识 大数据入门阶段该学什么? 想自学大数据,要从哪方面入手呢? 你知道应该怎样进行大数据的入门级学习吗? 苹果iPhone耳机如何操作音乐播放 苹果耳机听歌怎么用 苹果手机怎样开启耳机听歌模式? 苹果手机怎么用蓝牙耳机听音乐?
声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com