掌握这套大数据开发学习指南,120天精通没有问题!

-回复 -浏览
楼主 2021-07-20 09:40:18
举报 只看此人 收藏本贴 楼主

很多人都知道大数据很火,就业很好,薪资很高,想往大数据方向发展。但该学哪些技术,学习路线是什么样的呢?用不用参加大数据培训呢?如果自己很迷茫。


首先先问自己几个问题,你的专业是什么,你擅长什么,对于计算机/软件,你的兴趣是什么?是计算机专业,对操作系统、硬件、网络、服务器感兴趣?是软件专业,对软件开发、编程、写代码感兴趣?还是数学、统计学专业,对数据和数字特别感兴趣。

其实这就是想告诉你的大数据的三个发展方向,平台搭建/优化/运维/监控、大数据开发/设计/架构、数据分析/挖掘。请不要问我哪个容易,因为赚钱都不容易。


  先说一下大数据的4V特征:


1.数据量大,TB->PB;
2.数据类型繁多,结构化、非结构化文本、日志、视频、图片、地理位置等;
3.商业价值高,但是这种价值需要在海量数据之上,通过数据分析与机器学习更快速的挖掘出来;
4.处理时效性高,海量数据的处理需求不再局限在离线计算当中。


  现如今,正式为了应对大数据的这几个特点,开源的大数据框架越来越多,越来越强,再列举一些常见的:


  文件存储:hadoop HDFS、Tachyon、KFS

  离线计算:Hadoop MapReduce、Spark

  流式、实时计算:Storm、Spark Streaming、S4、Heron

  K-V、NOSQL数据库:HBase、Redis、MongoDB

  资源管理:YARN、Mesos

  日志收集:Flume、Scribe、Logstash、Kibana

  消息系统:Kafka、StormMQ、ZeroMQ、RabbitMQ

  查询分析:Hive、Impala、Pig、Presto、Phoenix、SparkSQL、Drill、Flink、Kylin、Druid

  分布式协调服务:Zookeeper

  集群管理与监控:Ambari、Ganglia、Nagios、Cloudera Manager

  数据挖掘、机器学习:Mahout、Spark MLLib

  数据同步:Sqoop

  任务调度:Oozie

  ……


  眼花了吧,上面的有30多种吧,别说精通了,全部都会使用的,估计也没几个。但是这么多,我们究竟是怎么科学的来学习呢?



学完Java大数据以后职业发展的路线参考如下


1、技术专家路线:

(1)大数据路线:Java开发工程师à大数据工程师à大数据设计师à大数据架构师à数据科学家

(2)Java路线:Java开发工程师àJava高级工程师à架构师à研发总监


2、复合型人才技术+管理路线

软件开发工程师à项目组长à项目主管à项目经理à开发部门经理àCTO或副总经理à职业经理人CEO


3、管理路线

项目管理员à项目管理师à项目经理à部门经理à副总经理à职业经理人CEO


具体以后专栏给大家具体介绍。



我要推荐
转发到