ITPub博客

首页 > 大数据 > Hadoop > 加米谷:全面的大数据开发面试题

加米谷:全面的大数据开发面试题

原创 Hadoop 作者:加米谷大数据 时间:2021-09-06 17:00:46 0 删除 编辑

有个小伙伴今天给我说,他在面试大数据开发的岗位,面试了好几个公司都没成功。我听他说了下面试的具体事情,给他总结了一下,大数据面试题看的不够。今天我们就来做一个大数据面试题的梳理。

大数据开发作为这两年一个火热的工作岗位,不光是企业的要求严格,竞争力也是比较大的。不管薪资多少,大数据的几个技术栈肯定是要熟练掌握的,下面我们就来看看一些企业面试时最常问的几个问题:

一、 基础方向面试题:

1、 spark sql 数据优化中,需要注意哪些方面?

a . 使用临时视图减少落到磁盘, 不落到磁盘盘是 spark 的一个优势,中间步骤 全部用 temporary view 代替临时 table ,减少读写 hdfs 的操作

b .spark 下建表 文件格式选择, spark 默认为 textfile, 可根据需求使用 squenceFile or ORCFile

c .select 指定字段,代替 select *

d .spark 其他技术,如 broadcast, bucket

e . 另外 spark sql 优化还可通过查看 sparkUI 找到哪一步耗时最长,针对性优化

2 、如何自定义一个函数供 HiveSql 使用,具体步骤分为哪几步?

Hive 使用 python 编写的自定义函数 UDF 进行 ETL 的步骤:

在hive 里面加载 py 文件

add file /usr/local/src/test.py

在HQL 中使用 TRANSFORM 函数动态执行 Python 文件 :

select TRANSFORM(sex) USING ‘ python test.py ’ as sex from test;

二、 大数据开发面试题:

1 、 讲述一个自己掌握的核心技术,以及如何应用?

最优解答:

J2EE :大数据采集单元,大数据分析单元的主要工作,如何做出服务,如何 SpringBoot 集成 Hadoop , Spark 。

Hadoop :多少个节点,高并发,高可用的实际问题中解决数据倾斜,数据处理,数据统计,数据离线分析等。

Spark :实时处理中的数据处理,比如算子 , 复杂的 SQL 语句等。

机器学习 :分析的数据集生成,数据处理,数据建模,数据预测,数据模型调优。

系统设计:设计数据流,分业务和分模块说。

· 个人价值:代码行数,关键问题处理等。

以上就是关于大数据开发的一些面试题了,还有很多的面试题需要大家多看看,想要得到一个好的工作,面试前的一些准备是很重要的。 如果想了解更多详情,请点击成都加米谷大数据官网吧!


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70005624/viewspace-2790638/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2021-08-20

  • 博文量
    30
  • 访问量
    15751