栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 云计算 > 云平台

奈学 大数据架构师 分享笔记

云平台 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

奈学 大数据架构师 分享笔记

先来了解大数据构架师

系统架构师是一个既需要掌控整体又需要洞悉局部瓶颈并依据具体的业务场景给出解决方案的团队领导型人物。一个架构师得需要足够的想像力,能把各种目标需求进行不同维度的扩展,为目标客户提供更为全面的需求清单。

架构师在软件开发的整个过程中起着很重要的作用。

大数据研发工程师大数据开发工程师就业前景很好,工资一般在1w-2w,大数据开发工程师工资受很多因素的影响,比如能力、地区、企业的,


大数据通用处理平台

1. Spark

2. Flink

3. Hadoop

分布式存储

HDFS

资源调度

Yarn

Mesos

机器学习工具

Mahout

1. Spark Mlib

2. TensorFlow (Google 系)

3. Amazon Machine Learning

4. DMTK (微软分布式机器学习工具)

数据分析/数据仓库(SQL类)

https://pan.baidu.com/s/1UVQwsnX17eZkAtY2J2Ff4g

提取码:oAz6

1. Pig

2. Hive

3. kylin

4. Spark SQL,

5. Spark DataFrame

6. Impala

7. Phoenix

8. ELK

8.1 ElasticSearch

8.2Logstash

8.3Kibana

消息队列

1. Kafka(纯日志类,大吞吐量)

2. RocketMQ

3. ZeroMQ

4. ActiveMQ

5. RabbitMQ

流式计算

1. Storm/JStorm

2. Spark Streaming

3. Flink

日志收集

Scribe

Flume

编程语言

1. Java

2. Python

3. R

4. Ruby

5. Scala

数据分析挖掘

MATLAB

SPSS

SAS

数据可视化

1. R

2. D3.js

3. ECharts

4. Excle

5. Python

机器学习

机器学习基础

1. 聚类

2. 时间序列

3. 推荐系统

4. 回归分析

5. 文本挖掘

6. 决策树

7. 支持向量机

8. 贝叶斯分类

9. 神经网络

机器学习工具

1. Mahout

2. Spark Mlib

3. TensorFlow (Google 系)

4. Amazon Machine Learning

5. DMTK (微软分布式机器学习工具)

算法

一致性

1. paxos

2. raft

3. gossip

数据结构

1. 栈,队列,链表

2. 散列表

3. 二叉树,红黑树,B树

4. 图

常用算法

1.排序

插入排序

桶排序

堆排序

2.快速排序

3,最大子数组

4.最长公共子序列

5.最小生成树

最短路径

6.矩阵的存储和运算

云计算

云服务

1. SaaS

2. PaaS

3. IaaS

4. Openstack

5. Docker


 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/895779.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号