AIxiv专栏是呆板之心宣布学术、技巧内容的栏目。从前数年，呆板之心AIxiv专栏接受报道了2000多篇内容，笼罩寰球各年夜高校与企业的顶级试验室，无效增进了学术交换与传布。假如你有优良的任务想要分享，欢送投稿或许接洽报道。投稿邮箱：
[email protected]；
[email protected]在人工智能范畴，现在有良多任务采取自回归方式来模仿或是替换分散模子，此中视觉自回归建模（Visual AutoRegressive modeling，简称 VAR）就是此中的典范代表，该任务应用自回归获得了比传统基于噪声的分散模子更好的天生后果，而且取得了人工智能顶级集会 NeurIPS 2024 的 best paper。但是在时光序列猜测范畴，以后主流的分散方式仍是传统的基于噪声的方式，未能充足应用自回归技巧实现时光序列建模。近期，来自上海交通年夜学跟西方理工的研讨团队推出了自回归挪动分散（Auto-Regressive Moving Diffusion，简称 ARMD）模子。ARMD 模子受经典的自回归挪动均匀（ARMA）实践启示，从新界说了时光序列的分散进程：如图一所示，与传统的基于噪声的分散方式差别，ARMD 将时光序列的演进当作是一个分散进程，并采取了基于链式分散的方法。它的前向进程由将来序列分散到汗青序列，并依据分散步数经由过程滑动序列的操纵天生旁边状况；反向进程则经由过程汗青序列‘采样’天生将来序列，实现了采样跟猜测目的的同一。比拟于传统基于分散的时序模子，ARMD 并不将时光序列猜测视为从噪声起步的前提天生义务，而是充足应用时光序列数据的持续演变特征，实现了分散机制与时光序列持续性之间的对齐，从而晋升了模子机能。该项研讨以《Auto-Regressive Moving Diffusion Models for Time Series Forecasting》为题，被 AAAI 2025 接受。论文题目：Auto-Regressive Moving Diffusion Models for Time Series Forecasting论文地点：https://arxiv.org/abs/2412.09328名目地点：https://github.com/daxin007/ARMD方式先容针对时序猜测义务，该研讨用汗青序列，此中 L 为汗青序列的长度，T 为将来序列的长度。在该义务中，研讨职员将汗青序列的长度设置为与将来序列雷同，即 L=T。去猜测将来序列在 ARMD 中，时光序列的演进被观点化为一个分散进程，时光序列的每一步都能够当作是分散模子的一个状况，如图二所示。将来序列，使其逐步濒临汗青序列。这一进程不只坚持了时光序列的持续性，还确保每其中间状况反应了时光序列演进的特定阶段。由初始状况到旁边状况增加的内容能够界说为演进趋向，相似于传统分散模子中的噪声。停止滑动操纵来天生旁边状况（序列）则是终极状况。差别于传统方式逐步增加噪声天生旁边状况，ARMD 经由过程对（下标表现在序列中的地位，上标表现在分散模子中的状况）作为前向分散（演进）进程的初始状况，而汗青序列反向去噪（逆演进）进程则应用汗青序列跟时光步 t 失掉时光序列的演进趋向。。ARMD 采取了一个基于间隔的去噪（逆演进）收集，依据旁边状况来迭代天生（猜测）将来序列图二: ARMD 分散模子表示图。在前向分散（演进）进程中，将来序列逐步被转化为汗青序列。相反，反向去噪（反演进）进程则应用汗青序列迭代地天生 / 猜测将来序列。在终极的采样（猜测阶段），ARMD 从汗青序列开端，迭代天生对将来序列的猜测，使采样进程跟终极的时光序列猜测目的对齐，从而使 ARMD 成为无前提的时序分散模子。采样进程遵守 DDIM（Denoising Diffusion Implicit Models）的方式，用猜测的演进趋向替换传统分散模子中猜测的噪声，并经由过程逐渐去噪（反演进）失掉对模子的终极猜测。模子成果经由在七个普遍应用的时序猜测数据集上的大批试验，ARMD 模子的表示超出了现有的基于分散的时光序列猜测模子，而且跟开始进的端到端时光序列猜测模子获得了相称的后果。模子的猜测成果如表一跟表二所示：表一：时光序列猜测试验之与基于分散的时光序列猜测基准模子的成果比拟。最佳成果以粗体凸起表现。“最佳次数” 列标明模子获得最佳成果的次数。表二：时光序列猜测试验之与端对端时光序列猜测基准模子的成果比拟。最佳成果以粗体凸起表现。“最佳次数” 列标明模子获得最佳成果的次数。别的，因为分散进程的优化，ARMD 模子在练习推理时光跟猜测的稳固性方面绝对于之前的时序分散模子也有显明的上风。ARMD 模子的猜测后果示比方图三所示：ARMD 在存在显明周期性或趋向特点的时光序列上展示了出色的猜测机能，可能无效地捕获这些时光序列中的相干特点，且绝对于其余分散模子猜测愈加稳固。总结综上所述，Auto-Regressive Moving Diffusion (ARMD) 模子经由过程从新解释时光序列的分散进程，联合时光序列的自回归特征，胜利弥合了分散机制与时光序列猜测目的之间的差距。差别于传统方式从白噪声开端逐渐增加噪声，ARMD 采取链式分散战略，经由过程滑动操纵将将来序列逐步转化为汗青序列，更正确地模仿时光序列的演变门路。该模子还引入了奇特的反向去噪（逆演变）进程，应用汗青序列迭代天生（猜测）将来序列，无效捕获时光序列的特点。试验成果跟实践剖析独特证实了 ARMD 作为一种持重且无效的时光序列猜测计划的宏大潜力。图三: ARMD 跟 Diffusion-TS 在给定雷同汗青序列的情形下，分辨做出的 10 次差别猜测的散布情形。ARMD 实现了更稳固且正确的猜测。© THE END 转载请接洽本大众号取得受权投稿或追求报道：
[email protected]
]article_adlist-->
申明：新浪网独家稿件，未经受权制止转载。 -->
