ChatGPT的出现,引爆了大模型的热度,不同行业和公司对大模型(LLM)人才的需求暴增,都希望能够抢占风口建立自身的产品和护城河,从而在大模型领域占据一席之地。
大模型的出现不是一蹴而就的,是有着清晰的技术发展脉络的。作为一个技术人员,面对大模型相关的面试或者问题时候,需要知道的知识或技术是有限的,一直从事NLP行业,也前后面试数十人,对于大模型的常见知识点进行了罗列,书写一个大模型常见知识点系列的文章,一方面当做自己知识的沉淀,一方面如果能够普及大模型对别人有帮助属于意外之喜。
今天先写20个大模型常见知识性问题,后面对大模型在常见问题中的开放性问题以及每个问题的解答进行书写。
1、什么参数规模叫大模型
2、大模型微调的方法有哪些?
3、大模型的基础架构是什么?
4、什么是指令微调?
5、为什么是decoder only 的架构?
6、什么是RLHF方法?
7、全量微调和增量微调的区别和联系
8、SFT模型的训练是为了什么?
9、如何进行多轮对话的大模型微调?
10、模型量化是什么?作用和带来的影响是什么?
11、大模型推理常见的问题有哪些?
12、简要介绍下提示工程
13、提示工程与大模型的关系是什么?
14、什么是大模型幻觉问题?
15、如何缓解大模型幻觉问题?
16、大模型进行分布式训练的常见方法是什么?
17、大模型的streaming方式输出是怎么实现的?
18、受限解码是什么?
19、什么是大模型的涌现能力?
20、大模型常见的评估维度和方法有哪些?
原文作者:芝士AI吃鱼;如有侵权,请联系管理员删除。