山东大学学报(工学版)

北大核心,CA,CSCD,WJCI,

国内刊号:37-1391/T

国际刊号:1672-3961

山东大学学报(工学版)杂志2024年第5期:基于分解式Transformer的联邦长期时间序列预测算法

发布日期:

作者:刘冬兰,刘新,刘家乐,赵鹏,常英贤,王睿,姚洪磊,罗昕

单位:1.国网山东省电力公司电力科学研究院, 山东 济南 250003;2.山东大学软件学院, 山东 济南 250101;3.国网山东省电力公司, 山东 济南 250001;4.山东省智能电网技术创新中心, 山东 济南 250003

关键词:隐私保护,联邦学习,长期预测,模型泛化,Transformer,

基金:国网山东省电力公司科技资助项目(520626220018)

为解决基于Transformer的方法存在计算成本高和无法捕捉时间序列总体趋势的问题,将Transformer与季节性趋势分解法相结合,提出基于分解式Transformer的联邦长期时间序列预测算法,其中分解方法用于捕捉时间序列的全局概况。在实际场景中,时间序列数据来自多个不同客户端。考虑数据隐私问题,利用联邦学习从多个客户端获得整体最优预测模型,采用基于局部锐度感知最小化的优化器提高全局模型的泛化性。与先进的方法相比,该方法在4个基准数据集的多变量和单变量时间序列预测任务中都有改进,在用电负荷(electricity consuming load, ECL)数据集上性能最高可提升26.9%。试验结果充分表明季节性趋势分解法与局部锐度感知最小化的优化器在长期时间序列预测任务上的有效性。

来源:2024年第5期

《山东大学学报(工学版)》期刊编辑部

查看山东大学学报(工学版)杂志2024年第5期

联系我们

  • 地址:山东省济南市山大南路27号
  • 电话:0531-88366735
  • E-mail:xbgxb@sdu.edu.cn

咨询工作人员