我精选30个大模型高频面试题，分享给大家
- 介绍一下postlayernorm和prelayernorm的区别
- 什么是思维链（CoT）提示？
- 你觉得什么样的任务或领域适合用思维链提示？
- 你了解ReAct吗，它有什么优点？
- 解释一下langchainAgent的概念
- langchain有哪些替代方案？
- langchaintoken计数有什么问题？如何解决？
- LLM预训练阶段有哪几个关键步骤？
- RLHF模型为什么会表现比SFT更好？
- 参数高效的微调（PEFT）有哪些方法？
- LORA微调相比于微调适配器或前缀微调有什么优势？
- 有了解过什么是稀疏微调吗？
- 训练后量化（PTQ）和量化感知训练（QAT）与什么区别？
- LLMs中，量化权重和量化激活的区别是什么？
- AWQ量化的步骤是什么？
- 介绍一下GPipe推理框架
- 矩阵乘法如何做张量并行？
- 请简述下PPO算法流程，它跟TRPO的区别是什么？
- 什么是检索增强生成（RAG）？
- 自前主流的中文向量模型有哪些？
- 为什么LLM的知识更新很困难？
- RAG和微调的区别是什么？
- 大模型一般评测方法及基准是什么？
- 什么是KVCache技米，它真体是如何实现的？
- DeepSpeed推理对算子融合做了哪些优化？
- 简述一下FlashAttention的原理
- MHA，GQA，MQA三种注意力机制的区别是什么？
- 请介绍一下微软的ZeRO优化器
- PagedAttention的原理是什么，解决了LLM中的什么问题？
- 什么是投机采样技术，请举例说明？
用通俗易懂方式讲解系列
-
《大模型面试宝典》(2024版) 正式发布！
-
《大模型实战宝典》（2024版）正式发布！
-
用通俗易懂的方式讲解：自然语言处理初学者指南（附1000页的PPT讲解）
-
用通俗易懂的方式讲解：1.6万字全面掌握 BERT
-
用通俗易懂的方式讲解：NLP 这样学习才是正确路线
-
用通俗易懂的方式讲解：28张图全解深度学习知识！
-
用通俗易懂的方式讲解：不用再找了，这就是 NLP 方向最全面试题库
-
用通俗易懂的方式讲解：实体关系抽取入门教程
-
用通俗易懂的方式讲解：灵魂 20 问帮你彻底搞定Transformer
-
用通俗易懂的方式讲解：图解 Transformer 架构
-
用通俗易懂的方式讲解：大模型算法面经指南（附答案）
-
用通俗易懂的方式讲解：十分钟部署清华 ChatGLM-6B，实测效果超预期
-
用通俗易懂的方式讲解：内容讲解+代码案例，轻松掌握大模型应用框架 LangChain
-
用通俗易懂的方式讲解：如何用大语言模型构建一个知识问答系统
-
用通俗易懂的方式讲解：最全的大模型 RAG 技术概览
-
用通俗易懂的方式讲解：利用 LangChain 和 Neo4j 向量索引，构建一个RAG应用程序
-
用通俗易懂的方式讲解：使用 Neo4j 和 LangChain 集成非结构化知识图增强 QA
-
用通俗易懂的方式讲解：面了 5 家知名企业的NLP算法岗(大模型方向)，被考倒了。。。。。
-
用通俗易懂的方式讲解：NLP 算法实习岗，对我后续找工作太重要了！。
-
用通俗易懂的方式讲解：理想汽车大模型算法工程师面试，被问的瑟瑟发抖。。。。
-
用通俗易懂的方式讲解：基于 Langchain-Chatchat，我搭建了一个本地知识库问答系统
-
用通俗易懂的方式讲解：面试字节大模型算法岗(实习)
-
用通俗易懂的方式讲解：大模型算法岗(含实习)最走心的总结
