24年8月来自悉尼大学等的论文“From LLMs to LLM-based Agents for Software Engineering: A Survey of Current, Challenges and Future”。 随着大语言模型 (LLM) 的兴起,研究人员越来越多地探索其在软件工程等各种垂直领域的应用。LLM 在代码生成和漏洞检测等领域取得了显著成功。然而,它们也表现出许多限制和缺点。
Presentation: Implementation details; brief history; comparison to ChatGPT; advantages of Gemini for software engineering and technical work; privacy issues Hands-on exercises: Identify the purpose of a specific line of code; find the lines of code that do a specific thing; explain code; streamline...
完整论文请访问:Large Language Models for Software Engineering: A Systematic Literature Review。 论文名片 大型语言模型(LLMs)因其在参数规模上的显著提升。这项研究是首次全面回顾和分析2017至2023年间229篇与LLM4SE相关的论文,以展现LLMs在软件工程中的应用与趋势,展现应用效果、影响范围及潜在局限性的全面理解,...
How are LLMs used in requirements engineering? 需求工程的重要性 6.3LLM如何用于软件设计?How are LLMs used in software design? GUI检索的应用 快速原型设计 软件规格合成 总结 6.4 LLM在软件开发中是如何使用的? How are LLMs used in software development? 总结 未来方向:人类与机器的协作 6.5 LLM如何用...
论文标题：Large Language Model-Based Agents for Software Engineering: A Survey 论文链接：https://arxiv.org/pdf/2409.02977 介绍最新的针对软件工程(SE)领域基于大语言模型(LLM)的agent的综述 基于LLM的智能代理在软件工程领域已展示出卓越的效果。这项调查涵盖了106篇论文，并从软件工程和智能代理两个角度对...
5、BitFit: Simple Parameter-efficient Fine-tuning for Transformer-based Masked Language-models 6、Training and fine-tuning large language models 7、Large Language Models for Software Engineering: A Systematic Literature Review 8、POUF: Prompt-oriented unsupervised fine-tuning for large pre-trained models...
RAG理论来自于2020年Facebook的论文 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(知识密集型自然语言处理任务的检索增强生成,原文:https://arxiv.org/abs/2005.11401)。RAG的核心思想是在大模型生成回答之前,先从一个知识库中检索出与查询最相关的信息,然后基于这些信息生成准确的回答。
7、Large Language Models for Software Engineering: A Systematic Literature Review 面对软件工程的大型语言模型:综述 简述:本文探讨了LLM在软件工程中的应用,用以优化工作流和成果。文中解决了四个研究问题(RQ):RQ1 分类了SE任务中的LLM及其特点;RQ2 讨论了数据管理的方法对成功实施SE LLM的重要性;RQ3 分析了...
Engineering for large LMs: distributed training and inference on different hardware setups, training ...
[2] Zhang, Z., Chen, C., Liu, B., Liao, C., Gong, Z., Yu, H., Li, J., & Wang, R. (2023). Unifying the Perspectives of NLP and Software Engineering: A Survey on Language Models for Code. [3] https://huggingface.co/codefuse-ai/CodeFuse-CodeLlama-34B ...