突破将序列分解作为预处理的传统方法,提出深度分解架构(Decomposition Architecture),能够从复杂时间模式中分解出可预测性更强的组分。 基于随机过程理论,提出自相关机制(Auto-Correlation Mechanism),代替点向连接的注意力机制,实现序列级(series-wise)连接和\mathcal{O}(L\log L)复杂度,打破信息利用瓶颈。 在长期预...
前段时间组里分享了Autoformer的论文,该模型在长期时序预测(Long output sequence forecasting)任务上,表现地让人影响深刻。长期时序预测问题,一般是发生在决策成本较大的场景下,比如变压器的负载控制成本很大,所以一般要预测未来更长一段时间的电压情况,此时预测长度会远大于输入长度。我们先看下Autoformer的表现: 图1...
Autoformer通过全面革新Transformer，采用深度分解架构，内嵌序列分解单元与自相关机制，实现高效预测与信息聚合。其核心创新在于将序列分解融入模型内部，通过交替进行预测优化与分解，以趋势与周期项逐步分离，实现渐进式分解与预测结果优化的协同作用。在自相关机制部分，Autoformer通过基于周期的依赖发现与时延信...
突破将序列分解作为预处理的传统方法,提出深度分解架构(Decomposition Architecture),能够从复杂时间模式中分解出可预测性更强的组分。 基于随机过程理论,提出自相关机制(Auto-Correlation Mechanism),代替点向连接的注意力机制,实现序列级(series-wise)连接和复杂度,打破信息利用瓶颈。 在长期预测问题中,Autoformer在能源...
Autoformer:基于深度分解架构和自相关机制的长期序列预测模型mp.weixin.qq.com/s/t0aAUYfurprtu7RPl5mqwg 本文介绍时间序列预测方向的最新工作:Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting 链接:https://arxiv.org/abs/2106.13008作者:吴海旭,徐介晖,王建民,...