论文介绍了一种创新方法,利用大型语言模型(LLM)进行时间序列预测,无需额外训练。通过将时间序列数据转换为数字字符序列,预测问题转变为文本预测任务。作者通过改进标记化技术和增强模型对连续值的适应性来优化LLM的预测能力。LLM的优势在于它们能自然处理多模态分布,偏好简洁与重复模式,而且可以直接处理缺失数据,整合文本信...
利用大语言模型(LLM)和智能体(Agent)实现时间序列预测。该方法已经在多个与人类活动和市场行为密切相关的领域得到了应用,包括电力市场、比特币、外汇和交通等,显示出其作为解决与社会事件相关的时间序列预测问题的通用方法的潜力。
我认为一些工作展示了时间序列的光明未来,例如使用LLMs实现的时间序列推理和理解(代理)等。 时间序列推理: 使用大型语言模型(LLMs)进行时间序列推理可以通过整合三种主要的分析任务来增强时间序列推理:因果推理、问答和辅助上下文预测。 因果推理涉及假设观察到的时间序列模式背后的潜在原因,使模型能够识别最有可能产生给定...
我认为一些工作展示了时间序列的光明未来,例如使用LLMs实现的时间序列推理和理解(代理)等。 时间序列推理: 使用大型语言模型(LLMs)进行时间序列推理可以通过整合三种主要的分析任务来增强时间序列推理:因果推理、问答和辅助上下文预测。 因果推理涉及假设观察到的时间序列模式背后的潜在原因,使模型能够识别最有可能产生给定...
要将大语言模型应用于时间序列预测,首先需要解决的关键问题是如何将时间序列数据输入到LLMs中。传统的LLMs主要处理文本数据,而时间序列数据通常是数值型的。为了解决这个问题,我们可以借鉴近期在图像和音频处理中的成功经验,使用patching技术对时间序列数据进行tokenize。具体来说,我们可以将时间序列数据视为一系列的小块(...
时间序列预测,作为一个重要且具有挑战性的任务,也逐渐开始尝试应用LLMs。本文旨在探讨如何利用LLMs进行时间序列预测,并给出具体的操作步骤和建议。 一、前期研究背景 预训练大语言模型(LLMs)是一类具有强大表示学习能力和少样本学习能力的模型。然而,将LLMs应用于时间序列预测面临两个关键问题:一是如何将时间序列数据...
使用大型语言模型(LLMs)进行时间序列推理可以通过整合三种主要的分析任务来增强时间序列推理:因果推理、问答和辅助上下文预测。 因果推理涉及假设观察到的时间序列模式背后的潜在原因,使模型能够识别最有可能产生给定时间序列数据的场景。 问答使模型能够解释和回应关于时间序列的事实性查询,如识别趋势或对数据变化进行反事实...
在2024年ICLR上,研究者们展示了一种创新的时间序列预测方法——Time-LLM。这种方法的核心在于利用大型语言模型(LLMs)的能力,通过一种称为重新编程(reprogramming)的技术,将LLMs应用于时间序列预测任务。这一框架不仅保持了LLMs原有的架构,还通过引入Prompt-as-Prefix(PaP)技术,提升了LLMs对时间序列数据的理解和推理...
近期,香港中文大学(深圳)赵俊华教授与悉尼大学邱靖教授的研究团队联合开发出一种创新的时间序列预测方法,名为《从新闻出发:大语言模型驱动的迭代事件推理》。这一成果已成功发表于国际知名AI大会NeurIPS上,备受关注。该方法利用大语言模型提炼时间序列数据和新闻文本之间的联系,极大提升了在突发事件及社会行为出现结构...
由香港中文大学(深圳)赵俊华教授课题组与悉尼大学邱靖教授课题组联合提出的基于新闻事件驱动和大语言模型的时间序列预测方法——《From News to Forecast: Iterative Event Reasoning in LLM-Based Time Series Forecasting》,近期被 AI 领域顶会 NeurIPS 接收。该方法通过大语言模型对时间序列数据和新闻文本的推理,显著提...