计算;推算;计数设备的制造及其应用技术基于时空卷积lstm的平均波向预报偏差订正方法技术领域1.本发明属于平均波向预报偏差订正技术领域,尤其涉及基于时空卷积 lstm的平均波向预报偏差订正方法。背景技术:2.已有的基于机器学习的波向预测模型通常采用点对点方式(树模型、多层感知机等)或面对点方式(残差卷积神经网络),而难以针对历史时刻时空信息以及其他海浪、气象特征建模;并且波向预测往往将其作为数值而忽略了其方位角特性,为解决方位角以及历史时刻时空特征建模问题,需要构建一种能更好融合时空特征、其他特征,同时考虑波向方向角特性的机器学习模型;在一些实际应用中以再分析数据作为真实值,而再分析数据并无法获取到最新的数据,譬如采用era-5数据,只能获取到最新前5天的再分析数据,无法满足实际应用需求。技术实现要素:3.有鉴于此,本发明提出了基于时空卷积lstm的平均波向预报偏差订正方法,包括以下步骤:4.s1:选取预报数据,选取待订正地区的逐小时海浪预报数据资料作为模式数据样本;5.s2:选取再分析格点数据资料,以再分析数据作为真实值,选取待检测订正地区逐小时平均波向再分析数据;6.s3:数据匹配,为使所述预报数据与所述再分析数据匹配,若所述预报数据为不规则格网数据,则对所述预报数据进行反距离权重插值,使得预报数据得以插值匹配到再分析数据的格网点上,此外,预报数据与再分析数据在时间尺度上匹配,最终两数据在空间、时间层面上实现匹配;7.s4:构建偏差订正训练集;8.s5:搭建基于层自注意力记忆的时空卷积lstm偏差订正模型的多层网络结构,包括以下三部分:9.第一层:基于层自注意力机制的时空卷积lstm层,采用3层基于自注意力机制的时空卷积lstm模块,时序上选择预报与再分析数据时空特征矩阵作为输入;10.第二层:通道卷积融合层,将未来时刻预报数据进行特征选择,之后将特征选择后的预报数据与144小时前再分析数据平均波向以及预报和再分析数据波向真实角度差拼接,之后与基于层自注意力机制的时空卷积lstm的输出,进行通道合并,之后将融合后的数据进行1×1通道卷积融合,此时通道卷积的输出为模型预测的预报与再分析波向真实角度差;11.第三层:偏差订正层,将模型预测的波向真实角度差,与未来时刻的预报数据平均波向相加,生成订正后的平均波向数据。12.进一步的,所述构建偏差订正训练集包括:13.求取预报数据与再分析数据平均波向真实角度差,此外,将时间上连续的再分析数据144小时之前平均波向也作为训练集的时序特征,最终将上述数据在空间上转换成二维图像形式的数据,以构建空间层面匹配、时间层面连续的偏差订正训练集,包括逐小时预报数据、逐小时再分析数据平均波向、逐小时预报数据与再分析数据真实角度差、逐小时再分析数据前144小时平均波向。14.进一步的,所述时空卷积lstm中采用3*3大小的卷积核进行空间特征提取,所述3层基于层自注意力机制的时空卷积lstm隐藏层分别为32、32、32,自注意力机制的隐藏层为12。15.进一步的,所述真实角度差的计算公式为:16.θbias=θf-θr-360×((θf-θr)>180)+360×((θf-θr)<-180)17.其中θf表示预报数据平均波向,θr表示再分析数据平均波向。18.进一步的,所述特征聚合的步骤包括如下:19.在同一时间步中,模型层与层向上传播过程中,聚集的特征z是zh和zm的融合,zh和zm分别对应于的特征;对于zh而言,上一时间步的通过predrnn输出在sam模块中被映射成不同的特征空间:[0020][0021][0022][0023]其中{whq,whk,whv}是1×1卷积的权重集合,和c是通道个数,并且n为特征图长度与宽度乘积,应用矩阵乘积计算点与点间相似度分数:[0024][0025]第i点和第j点间相似度表示为其中和ht,j是维度为c×1的特征向量,然后沿列归一化相似度分数:[0026][0027]通过对每一位置加权聚合出zh:[0028][0029]zh通过查询底层的通过权重wmk和wmv将底层的记忆1×1卷积映射到key和value接着通过query qh和key km之间的矩阵相乘来计算输入和记忆之间的相似性分数:[0030][0031]用于聚集特征的所有权重通过以下公式计算:[0032][0033]然后,通过对value vm中的n个位置的加权和来计算zm中第i个位置的“像素”:[0034][0035]其中,是记忆的第j列;最后,z通过wz[zh;zm]求得。[0036]进一步的,通过门控机制自适应得更新上层记忆信息,使sam能够在 predrnn模型基础上捕捉空间相关性与predrnn“之”字形记忆传递结构,这样记忆便可以把握全局的时空信息;通过聚合特征z和输入来产生输入门i″t和输入融合门g″t,此外,忘记门被替换为1-i″t以减少参数,所述记忆更新过程的数学表示如下:[0037][0038][0039][0040]进一步的,通过输出门o″t点乘输出自注意力记忆模块的公式如下所示:[0041][0042]进一步的,在时序模型lsa-predrnn中,预报数据f和6天前同一时刻的再分析数据r以及f和r之间的真实波向角度差作为时序数据输入;此外,对于未来t时刻预报数据,对其进行特征选择以筛选特征,将筛选后的预报数据ft与6天前同一时刻的再分析数据rt-144以及ft和rt-144之间的真实波向角度差进行拼接,并与lsa-predrnn的输出进行通道卷积融合,将时序模型学习到的信息与未来时刻预报数据和相关的再分析数据的多个特征,进一步特征学习,以更好学习真实角度偏差。[0043]进一步的,所述特征选择方式为包装法中不带启发式的后向搜索算法。[0044]本发明的有益效果如下:[0045]1)提出针对区域格网平均波向的机器学习偏差订正方法,过往基于平均波向的偏差订正方法多针对于特定浮标点,而采用面对面的区域订正方法,使得偏差订正更具应用价值。[0046]2)以深度学习图像识别模型为基础,提出了一种基于层自注意力机制的时空卷积lstm方法,该方法对时空特征进行了建模,并且相比其他时序预测模型更具竞争力。[0047]3)采用针对波向真实角度差的订正方法,通过先预测真实角度偏差,然后将角度差与预报数据相加完成偏差订正,克服了传统数值订正方法对于方位角的局限性。[0048]4)采用通道卷积融合方法,通过考虑未来时刻预报数据,使得模型顾及时序数据同时,也考虑了其他海浪与气象特征。[0049]5)将再分析数据也作为波向偏差订正的输入,将5天前同一时刻的再分析数据作为输入,使得输入的时序数据中,预报数据存在一种时序,再分析数据同样存在一种时序,提升了模型订正效果。附图说明[0050]图1本发明的波向真实角度差示意图;[0051]图2本发明的lsa-predrnn时序模型图;[0052]图3sam自注意力记忆模块图;[0053]图4本发明的时空卷积lstm波向偏差订正方法架构图;[0054]图5特征选择折线图。具体实施方式[0055]下面结合附图对本发明作进一步的说明,但不以任何方式对本发明加以限制,基于本发明教导所作的任何变换或替换,均属于本发明的保护范围。[0056]本发明的目的是提供基于时空卷积lstm的平均波向预报偏差订正方法。[0057]为达到该目的,本发明采用的技术方案包括步骤如下:[0058]一种基于层自注意力记忆的时空卷积lstm波向预报偏差订正方法,其特征在于,包括以下步骤:[0059]s1:选取预报数据资料,选取待订正地区的逐小时海浪预报数据资料作为模式数据样本;[0060]s2:选取再分析格点数据资料,以再分析数据作为真实值,选取待检测订正地区逐小时平均波向再分析数据资料;[0061]s3:数据匹配,为使预报数据与再分析数据匹配,若预报数据为不规则格网数据,则需要对预报数据进行反距离权重插值,使得预报数据得以插值匹配到再分析数据的格网点上,此外,预报数据与再分析数据在时间尺度上匹配,最终两数据在空间、时间层面上实现匹配;[0062]s4:构建偏差订正训练集,求取预报数据与再分析数据平均波向真实角度差,此外,将时间上连续的再分析数据144小时(6天*24)之前平均波向也作为训练集的时序特征,最终将上述数据在空间上转换成二维图像形式的数据,以构建空间层面匹配、时间层面连续的偏差订正训练集,包括逐小时预报数据、逐小时再分析数据平均波向、逐小时预报数据与再分析数据真实角度差、逐小时再分析数据前144小时平均波向;[0063]s5:搭建基于层自注意力记忆的时空卷积lstm偏差订正模型,使用 pytorch搭建多层网络结构,包括以下三部分:[0064]第一层:基于层自注意力机制的时空卷积lstm层,采用3层基于自注意力机制的时空卷积lstm模块,时序上选择预报与再分析数据时空特征矩阵作为输入,即选择过去5个时刻预报数据以及120小时前的5个时刻再分析数据;时空卷积lstm中采用3*3大小的卷积核进行空间特征提取,而3 层的基于层自注意力机制的时空卷积lstm隐藏层分别为32、32、lstm),具体实现方式如公式2所示,当模型层数为1时,模块输入为xt,当模型层数大于1时,则输入为下层模型输出[0078][0079][0080][0081][0082][0083][0084][0085][0086][0087][0088][0089]lsa-st-lstm中所引入sam自注意力记忆结构如图3所示,该结构包含上一时间步以及底层模型的记忆输出整个过程可分为特征聚合、记忆更新和输出三部分。[0090]1.特征聚合。在同一时间步中,模型层与层向上传播过程中,聚集的特征z是 zh和zm的融合,zh和zm分别对应于的特征;对于zh而言,上一时间步的通过predrnn输出在sam模块中被映射成不同的特征空间:[0091][0092][0093][0094]其中{whq,whk,whb}是1×1卷积的权重集合,和c是通道个数,并且n为特征图长度与宽度乘积,应用矩阵乘积计算点与点间相似度分数:[0095][0096]第i点和第j点间相似度表示为其中和ht,j是维度为c×1的特征向量,然后沿列归一化相似度分数:[0097][0098]最终通过对每一位置加权聚合出zh:[0099][0100]zh通过查询底层的通过权重wmk和wmv将底层的记忆1×1卷积映射到 key和value接着通过query qh和key km之间的矩阵相乘来计算输入和记忆之间的相似性分数:[0101][0102]与公式4相似,用于聚集特征的所有权重都是通过以下公式:[0103][0104]然后,通过对value vm中的n个位置的加权和来计算zm中第i个位置的“像素”:[0105][0106]其中,是记忆的第j列;最后,z通过wz[zh;zm]求得。[0107]2.记忆更新。通过门控机制自适应得更新上层记忆信息,使sam能够在 predrnn模型基础上捕捉空间相关性(层尺度)与时间依赖性(predrnn“之”字形记忆传递结构),这样memory便可以把握全局的时空信息。通过聚合特征z和输入来产生输入门i″t和输入融合门g″t,此外,忘记门被替换为1-i″t以减少参数,更新过程可以表示如下:[0108][0109][0110][0111]3.输出。通过输出门o″t点乘输出自注意力记忆模块的公式如下所示:[0112][0113]再分析数据输入[0114]由于本发明以再分析数据作为真实值,而再分析数据并无法获取到最新的数据,譬如本发明所采用的era-5数据,只能获取到最新前5天的再分析数据,为满足实际应用需求,因此本发明提出将6天前同一时刻再分析数据以及预报数据与6天前同一时刻再分析数据波向角度差作为模型输入的方法,如下图4中左侧lsa-predrnn模块所示,模型输入的历史时刻预报数据为ft-5、 ft-4、ft-3、ft-2、ft-1,而6天(6*24小时)前同一时刻分析数据rt-149、rt-148、 rt-147、rt-146、rt-145,以及历史时刻预报数据与6天前同一时刻再分析数据平均波向真实角度差rt-149-ft-5、rt-148-ft-4…rt-145-ft-1也作为模型输入。[0115]通道卷积融合针对平均波向之外的其他特征建模问题(海浪特征、气象特征),能够将这些融入偏差订正模型中,将有助于提升模型表现,如下图4所示,在时序模型lsa-predrnn中,预报数据f(forecast)和6天前同一时刻的再分析数据r(reanalysis)以及f和r之间的真实波向角度差已经作为时序数据输入;此外,对于未来时刻(t时刻)预报数据,对其进行特征选择以筛选特征,特征选择方式选择包装法中不带启发式的后向搜索算法,将筛选后的(1)预报数据ft与(2)6天前同一时刻的再分析数据rt-144(reanalysis)以及(3)ft和 rt-144之间的真实波向角度差进行拼接,并与时序模型(lsa-predrnn)的输出进行通道卷积融合,这一步操作类似于一维数据的全连接特征学习,将时序模型学习到的信息与未来时刻预报数据和相关的再分析数据的多个特征,进一步特征学习,以更好学习真实角度偏差。包装法(wrapper)基本思想:根据目标函数(往往是预测效果评分),每次选择若干特征,或者排除若干特征。对于每一个待选的特征子集,都在训练集上训练一遍模型,然后在验证集上根据误差大小选择出特征子集。一般欲训练什么算法,就选择该算法进行评估。后向搜索算法每次从现有特征集中选择一个特征删除并进行评价,直到达到阈值或者剩余特征集为空,然后从所有尝试过的特征子集f中选出在验证集上错误率最小的。包装法中不带启发式的后向搜索算法为本领域的现有技术,本发明不再赘述。[0116]预报偏差订正[0117]如图4所示,将通道卷积融合输出的真实角度差与预报数据相加,实现真正的角度偏差订正,生成订正后的平均波向数据。[0118]本发明实验主要分为两部分:模型对比实验、偏差订正实验。模型对比实验利用1872小时(2021/03/01~2021/05/16)南海部分区域(8.5°~16°n, 109.5°~125°e)来探索模型性能,该区域二维图像大小为16×16。预报数据为 fvcom无结构三角形网格数据;再分析数据集为era-5数据,再分析数据的分辨率为0.5°。发明用前1704个小时来训练,后168个小时用来测试。将预报数据做反距离权重插值(inverse distance weighted,是做大数据显示时使用的插值方法,为本领域的现有技术,本实施例不再赘述),映射到再分析数据上,使两种数据匹配在0.5°格网上,之后求取两数据集间波向角度差,并将6 天前同一时刻再分析数据平均波向也同上述数据进行映射,同时预报数据平均波向与6天前同一时刻再分析数据平均波向求取波向真实角度差,以便再分析数据也可作为后续模型输入,因而预报数据输入和再分析输入都具备时序特性。对于时空预测任务,需要对每一个时空格网填补数值,根据陆地、海洋的区分,海洋部分仍为波向角度差值以及其他特征数值(如波高、波周期等),而陆地部分均设为0。[0119]为验证所提出模型性能,提出四种模型变体:(1)不包括后续通道卷积融合、偏差订正模块,并且再分析数据也不作为输入的模型,这一模型输出结果加上预报数据得到订正后结果,称之为lsa-predrnn-v1;(2)在v2模型基础上,将未来时刻预报数据所有特征优先进行特征选择,之后加入模型中进行通道卷积融合,称之为lsa-predrnn-v2;(3)最后在v2基础上,将历史时刻预报数据6天前同一时刻再分析数据平均波向,以及再分析数据与预报数据真实波向角度差同样作为模型输入,此外,将未来时刻6天前同一时刻的再分析数据平均波向和再分析与预报数据真实波向角度差也加入通道融合模块,最终模型称之为lsa-predrnn-v3。[0120]在模型对比实验中,分别对比lstm、convlstm、predrnn、self-attentionconvlstm、lsa-predrnn-v1、lsa-predrnn-v2、lsa-predrnn-v3共计7 种模型进行对比实验,且在v2模型实验中进行了特征选择,特征选择均在400 小时(2021/03/01~2021/05/16)南海部分区域(9.5°~11.5°n,112.0°~114.0°e) 来探索模型性能,该区域二维图像大小为5×5,进行包装法中不带启发式的后向搜索方法,以完成对除去平均波向之外的所有特征实现特征选择,并且特征选择过程采用了pytorch的lambdalr调整学习率,并且为加快模型训练时间,部署了早停法(earlystopping);特征选择结果如图5所示,发现仅保留平均波向u分量(sin(wdir))、平均波向v分量(cos(wdir))、水深(h_center) 3个预报数据特征再加上平均波向(wdir)效果最佳,因而选择上述4个参数作为v2模型特征,以进行后续通道卷积融合;最后,7种模型评估指标选用 rmse,单位为度(°),实验结果如下表1所示。[0121]表1平均波向订正实验结果[0122]预测方式订正前rmse(°)订正后rmse(°)提升效果lstm(base)114.338267.623340.86%convlstm114.338258.474148.86%predrnn114.338248.668257.43%sa-convlstm114.338253.281053.87%lsa-predrnn-v1114.338247.742458.24%lsa-predrnn-v2114.338246.844159.03%lsa-predrnn-v3114.338236.976067.66%[0123]通过7种模型对比可以看出,lsa-predrnn-v3模型rmse指标优于其他 6种模型,该模型相比于未订正前提升67.66%,并且相比基线模型lstm提升45.32%,表明所提出时序模型具有一定先进性。[0124]此外,为了与相关研究进行比对,实验引入了相关研究者采用的多层感知机(mlp)模型,并且对比模型mlp是针对波向数值进行订正,此外为了验证本研究所提出波向真实角度差的可靠性,引入lsa-predrnn-v3-number 模型,该模型并未考虑波向方位角特性,仅针对波向数值进行偏差订正。结果表明,相比于过往研究的mlp方法,以及针对数值的偏差订正方法,本研究所提出方法具有一定先进性。[0125]表2平均波向订正实验结果[0126]预测方式订正前rmse(°)订正后rmse(°)提升效果mlp81.713947.192242.25%lsa-predrnn-v3-number94.726542.610855.02%lsa-predrnn-v3114.338236.976067.66%[0127]偏差订正实验:[0128]利用800小时(2021/4/13~2021/5/16)整个南海区域(0°~25°n,105°~122°e) 训练模型,区域图像尺寸为51×35;选择前632小时数据做训练,后168小时做测试,并进行偏差订正应用,以2021年5月16日23时为例,对模型偏差订正效果进行可视化,订正后显著消除了fvcom预报模式存在的系统误差影响。[0129]实施例2[0130]实施例1仅以再分析数据平均波向为真实值,阐述了模型订正效果,是由于研究区域没有格网点的观测数据,若存在格网点的观测数据,则观测数据也可同再分析数据一样作为输入,不过观测数据不必选择6天前的同一时刻,可同预报数据的时刻保持一致,因此本实施例在实施例1的基础上,用基于观测数据替代再分析数据平均波向为真实值,在此基础上形成平均波向偏差订正方法。[0131]实施例3[0132]峰值波向同样也是一种海浪参数,因而也可参照平均波向对峰值波向格网点区域数据进行偏差订正;因此本实施例在实施例1的基础上,用峰值波向替代再分析数据平均波向为真实值,在此基础上形成峰值波向偏差订正方法。[0133]实施例4[0134]本发明在案例中所选择的预报数据为不规则三角网数据,需要对其进行反距离权重插值以完成对再分析格点数据的匹配,然而,像ww3 (wavewatch‑ⅲ)海浪预报数据便是规则格网点预报数据,针对这种规则类型的预报数据进行订正时,可直接对预报数据进行双线性插值,以匹配规则格点的再分析数据或真实数据,以便对这种模式下预报数据进行波向偏差订正。[0135]实施例5[0136]在特征选择实验中,选择了5×5的区域,既不是51×35也不是16×16,但计算的rmse效果却大幅度降低,因而本实施例针对平均波向的偏差订正,也可分区域进行。[0137]本发明的有益效果如下:[0138]1)提出针对区域格网平均波向的机器学习偏差订正方法,过往基于平均波向的偏差订正方法多针对于特定浮标点,而采用面对面的区域订正方法,使得偏差订正更具应用价值。[0139]2)以深度学习图像识别模型为基础,提出了一种基于层自注意力机制的时空卷积lstm方法,该方法对时空特征进行了建模,并且相比其他时序预测模型更具竞争力。[0140]3)采用针对波向真实角度差的订正方法,通过先预测真实角度偏差,然后将角度差与预报数据相加完成偏差订正,克服了传统数值订正方法对于方位角的局限性。[0141]4)采用通道卷积融合方法,通过考虑未来时刻预报数据,使得模型顾及时序数据同时,也考虑了其他海浪与气象特征。[0142]5)将再分析数据也作为波向偏差订正的输入,将5天前同一时刻的再分析数据作为输入,使得输入的时序数据中,预报数据存在一种时序,再分析数据同样存在一种时序,提升了模型订正效果。[0143]本文所使用的词语“优选的”意指用作实例、示例或例证。本文描述为“优选的”任意方面或设计不必被解释为比其他方面或设计更有利。相反,词语“优选的”的使用旨在以具体方式提出概念。如本技术中所使用的术语“或”旨在意指包含的“或”而非排除的“或”。即,除非另外指定或从上下文中清楚,“x使用a或b”意指自然包括排列的任意一个。即,如果x使用a;x使用b;或x使用a和b二者,则“x使用a或b”在前述任一示例中得到满足。[0144]而且,尽管已经相对于一个或实现方式示出并描述了本公开,但是本领域技术人员基于对本说明书和附图的阅读和理解将会想到等价变型和修改。本公开包括所有这样的修改和变型,并且仅由所附权利要求的范围限制。特别地关于由上述组件(例如元件等)执行的各种功能,用于描述这样的组件的术语旨在对应于执行所述组件的指定功能(例如其在功能上是等价的)的任意组件(除非另外指示),即使在结构上与执行本文所示的本公开的示范性实现方式中的功能的公开结构不等同。此外,尽管本公开的特定特征已经相对于若干实现方式中的仅一个被公开,但是这种特征可以与如可以对给定或特定应用而言是期望和有利的其他实现方式的一个或其他特征组合。而且,就术语“包括”、“具有”、“含有”或其变形被用在具体实施方式或权利要求中而言,这样的术语旨在以与术语“包含”相似的方式包括。[0145]本发明实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以多个或多个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。上述提到的存储介质可以是只读存储器,磁盘或光盘等。上述的各装置或系统,可以执行相应方法实施例中的存储方法。[0146]综上所述,上述实施例为本发明的一种实施方式,但本发明的实施方式并不受所述实施例的限制,其他的任何背离本发明的精神实质与原理下所做的改变、修饰、代替、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
图片声明:本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!
内容声明:本文中引用的各种信息及资料(包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主体(包括但不限于公司、媒体、协会等机构)的官方网站或公开发表的信息。部分内容参考包括:(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供参考使用,不准确地方联系删除处理!本站为非盈利性质站点,发布内容不收取任何费用也不接任何广告!
免责声明:我们致力于保护作者版权,注重分享,被刊用文章因无法核实真实出处,未能及时与作者取得联系,或有版权异议的,请联系管理员,我们会立即处理,本文部分文字与图片资源来自于网络,部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理!的,若有来源标注错误或侵犯了您的合法权益,请立即通知我们,情况属实,我们会第一时间予以删除,并同时向您表示歉意,谢谢!
基于时空卷积LSTM的平均波向预报偏差订正方法
作者:admin
2022-07-30 06:29:59
771
关键词:
计算;推算;计数设备的制造及其应用技术
专利技术