1. 问项目,大模型部署遇到的性能问题及解决方案 2. 训练和推理的显存如何估计? 3. peft方法介绍 4. LLM SFT的数据集规模,数据配比 5. 常见的LLM有哪些,做了哪些改进? 6. 位置编码:Bert,LLAMA的位置编码 7. 激活函数概念,ReLU, SiLU 8. Transformer推理加速技术?vLLM等 9. deepseek了解吗?讲一个创新点 ...