给大家介绍一篇由新加坡科技研究局(A*STAR)与新加坡南洋理工大学联合发表的多元时间序列领域文献,目前已被AAAI2024录用。 01 研究背景 多元时间序列数据具有序列性和多源性,这使得数据内在地表现出空间-时间(ST)依赖性。这些依赖性包括时间戳之间的时间相关性以及每个时间戳内传感器之间的空间相关性。为了有效地利用这些...
Patch TST就应用掩码建模方法来进行时间序列分析,方法是将时间序列分割成片段(相邻值的片段)并应用片段级掩码策略,但本文作者观察到,以PatchTST为代表的掩码时间序列建模面临着一个困境:相对较低的掩码比例会降低学习有用特征的效率,此外被掩码的片段可以在不理解潜在模式的情况下被恢复,从而导致表面学习和过拟合,如图...
Patch TST就应用掩码建模方法来进行时间序列分析,方法是将时间序列分割成片段(相邻值的片段)并应用片段级掩码策略,但本文作者观察到,以PatchTST为代表的掩码时间序列建模面临着一个困境:相对较低的掩码比例会降低学习有用特征的效率,此外被掩码的片段可以在不理解潜在模式的情况下被恢复,从而导致表面学习和过拟合,如图...
对比学习作为一种自监督学习范式,在多变量时间序列(MTS)分类中得到广泛应用。它确保了未标记样本的不同视图之间的一致性,然后学习这些样本的有效表示。现有的对比学习方法主要是通过时间增强和对比技术来实现时间一致性,目的是保持MTS数据的时间模式不受扰动。然而,他们忽略了空间一致性,这需要单个传感器及其相关性的稳定...
MSGNet为每个时间尺度学习一个自适应邻接矩阵,并通过图卷积来捕捉序列间的相关性。 下面公式是自适应邻接矩阵的计算: 此公式定义了图卷积: 4. 多头自注意力和尺度聚合 (Multi-head Attention and Scale Aggregation) MSGNet使用多头自注意力机制来捕捉单个时间序列内的时序模式,并通过softmax函数根据振幅值对不同尺度...