社区网站建设难点,关键词带淘宝的网站不收录,友链交易交易平台,网站管理公司#x1f517; 运行环境#xff1a;Matlab #x1f6a9; 撰写作者#xff1a;左手の明天 #x1f947; 精选专栏#xff1a;《python》 #x1f525; 推荐专栏#xff1a;《算法研究》 #x1f510;#### 防伪水印——左手の明天 #####x1f510; #x1f497; 大家…  运行环境Matlab  撰写作者左手の明天  精选专栏《python》   推荐专栏《算法研究》 #### 防伪水印——左手の明天 #### 大家好我是左手の明天好久不见 今天分享Matlab深度学习 —— 时间序列预测   最近更新2024 年 03 月 03日左手の明天的第 316 篇原创博客  更新于专栏机器学习 #### 防伪水印——左手の明天 #### 一、LSTM 网络 LSTM 网络是一种循环神经网络 (RNN)它通过遍历时间步并更新 RNN 状态来处理输入数据。RNN 状态包含在所有先前时间步中记住的信息。可以使用 LSTM 神经网络通过将先前的时间步作为输入来预测时间序列或序列的后续值。要为时间序列预测训练 LSTM 神经网络训练具有序列输出的回归 LSTM 神经网络其中响应目标是将值移位了一个时间步的训练序列。也就是说在输入序列的每个时间步LSTM 神经网络都学习预测下一个时间步的值。 有两种预测方法开环预测和闭环预测。 开环预测仅使用输入数据预测序列中的下一个时间步。对后续时间步进行预测时需要从数据源中收集真实值并将其用作输入。例如假设要使用时间步 1 到 t−1 中收集的数据来预测序列的时间步 t 的值。要对时间步 t1 进行预测等到记录下时间步 t 的真实值并将其用作输入进行下一次预测。在进行下一次预测之前如果有可以提供给 RNN 的真实值则请使用开环预测。 闭环预测通过使用先前的预测作为输入来预测序列中的后续时间步。在这种情况下模型不需要真实值便可进行预测。例如假设要仅使用在时间步 1 至 t−1 中收集的数据来预测序列的时间步 t 至 tk 的值。要对时间步 i 进行预测使用时间步 i−1 的预测值作为输入。使用闭环预测来预测多个后续时间步或在进行下一次预测之前没有真实值可提供给 RNN 时使用闭环预测。 此图显示使用闭环预测的预测值的序列示例。 此示例使用 Waveform 数据集它包含生成的 2000 个不同长度的合成波形有三个通道。该示例训练一个 LSTM 神经网络以同时使用闭环和开环预测根据先前时间步提供的值来预测波形的将来值。 二、matlab时间序列预测 2.1 加载数据 从 WaveformData.mat 加载示例数据。数据是序列的 numObservations×1 元胞数组其中 numObservations 是序列数。每个序列都是一个 numChannels×-numTimeSteps 数值数组其中 numChannels 是序列的通道数numTimeSteps 是序列的时间步数。 load WaveformData 查看前几个序列的大小。 data(1:5) ans5×1 cell array{3×103 double}{3×136 double}{3×140 double}{3×124 double}{3×127 double} 查看通道数。为了训练 LSTM 神经网络每个序列必须具有相同数量的通道。 numChannels size(data{1},1) numChannels 3可视化绘图中的前几个序列。 figure tiledlayout(2,2) for i 1:4nexttilestackedplot(data{i})xlabel(Time Step) end 将数据划分为训练集和测试集。将 90% 的观测值用于训练其余的用于测试。 numObservations numel(data); idxTrain 1:floor(0.9*numObservations); idxTest floor(0.9*numObservations)1:numObservations; dataTrain data(idxTrain); dataTest data(idxTest); 2.2 准备要训练的数据 要预测序列在将来时间步的值请将目标指定为将值移位了一个时间步的训练序列。也就是说在输入序列的每个时间步LSTM 神经网络都学习预测下一个时间步的值。预测变量是没有最终时间步的训练序列。 for n 1:numel(dataTrain)X dataTrain{n};XTrain{n} X(:,1:end-1);TTrain{n} X(:,2:end); end 为了更好地拟合并防止训练发散请将预测变量和目标值归一化为零均值和单位方差。在进行预测时还必须使用与训练数据相同的统计量对测试数据进行归一化。要轻松计算所有序列的均值和标准差请在时间维度中串联这些序列。 muX mean(cat(2,XTrain{:}),2); sigmaX std(cat(2,XTrain{:}),0,2);muT mean(cat(2,TTrain{:}),2); sigmaT std(cat(2,TTrain{:}),0,2);for n 1:numel(XTrain)XTrain{n} (XTrain{n} - muX) ./ sigmaX;TTrain{n} (TTrain{n} - muT) ./ sigmaT; end 2.3 定义 LSTM 神经网络架构 创建一个 LSTM 回归神经网络。 使用输入大小与输入数据的通道数匹配的序列输入层。 接下来使用一个具有 128 个隐藏单元的 LSTM 层。隐藏单元的数量确定该层学习了多少信息。使用更多隐藏单元可以产生更准确的结果但也更有可能导致训练数据过拟合。 要输出通道数与输入数据相同的序列请包含一个输出大小与输入数据通道数匹配的全连接层。 最后包括一个回归层。 layers [sequenceInputLayer(numChannels)lstmLayer(128)fullyConnectedLayer(numChannels)regressionLayer]; 2.4 指定训练选项 指定训练选项。 使用 Adam 优化进行训练。 进行 200 轮训练。对于较大的数据集您可能不需要像良好拟合那样进行这么多轮训练。 在每个小批量中对序列进行左填充使它们具有相同的长度。左填充可以防止 RNN 预测序列末尾的填充值。 每轮训练都会打乱数据。 在绘图中显示训练进度。 禁用详尽输出。 options trainingOptions(adam, ...MaxEpochs200, ...SequencePaddingDirectionleft, ...Shuffleevery-epoch, ...Plotstraining-progress, ...Verbose0); 2.5 训练循环神经网络 使用 trainNetwork 函数以指定的训练选项训练 LSTM 神经网络。 net trainNetwork(XTrain,TTrain,layers,options); 2.6 测试循环神经网络 使用与训练数据相同的步骤准备用于预测的测试数据。 使用从训练数据计算出的统计量来归一化测试数据。将目标指定为值移位了一个时间步的测试序列将预测变量值指定为没有最终时间步的测试序列。 for n 1:size(dataTest,1)X dataTest{n};XTest{n} (X(:,1:end-1) - muX) ./ sigmaX;TTest{n} (X(:,2:end) - muT) ./ sigmaT; end 使用测试数据进行预测。指定与训练相同的填充选项。 YTest predict(net,XTest,SequencePaddingDirectionleft); 为了计算准确度对于每个测试序列请计算预测和目标之间的均方根误差 (RMSE)。 for i 1:size(YTest,1)rmse(i) sqrt(mean((YTest{i} - TTest{i}).^2,all)); end 在直方图中可视化误差。值越低表示准确度越高。 figure histogram(rmse) xlabel(RMSE) ylabel(Frequency) 计算所有测试观测值的 RMSE 均值。 mean(rmse) ans single0.50802.7 预测将来时间步 给定输入时间序列或序列要预测多个将来时间步的值请使用 predictAndUpdateState 函数一次预测一个时间步并在每次预测时更新 RNN 状态。对于每次预测使用前一次预测作为函数的输入。 在绘图中可视化其中一个测试序列。 idx 2; X XTest{idx}; T TTest{idx};figure stackedplot(X,DisplayLabelsChannel (1:numChannels)) xlabel(Time Step) title(Test Observation idx) 开环预测 开环预测仅使用输入数据预测序列中的下一个时间步。对后续时间步进行预测时需要从数据源中收集真实值并将其用作输入。例如假设您要使用时间步 1 到 t−1 中收集的数据来预测序列的时间步 t 的值。要对时间步 t1 进行预测请等到记录下时间步 t 的真实值并将其用作输入进行下一次预测。在进行下一次预测之前如果有可以提供给 RNN 的真实值则请使用开环预测。 首先使用 resetState 函数重置状态来初始化 RNN 状态然后使用输入数据的前几个时间步进行初始预测。使用输入数据的前 75 个时间步更新 RNN 状态。 net resetState(net); offset 75; [net,~] predictAndUpdateState(net,X(:,1:offset)); 要进行进一步的预测请遍历时间步并使用 predictAndUpdateState 函数更新 RNN 状态。通过遍历输入数据的时间步并将其用作 RNN 的输入预测测试观测值的其余时间步的值。第一个预测是对应于时间步 offset 1 的值。 numTimeSteps size(X,2); numPredictionTimeSteps numTimeSteps - offset; Y zeros(numChannels,numPredictionTimeSteps);for t 1:numPredictionTimeStepsXt X(:,offsett);[net,Y(:,t)] predictAndUpdateState(net,Xt); end 将预测值与目标值进行比较。 figure t tiledlayout(numChannels,1); title(t,Open Loop Forecasting)for i 1:numChannelsnexttileplot(T(i,:))hold onplot(offset:numTimeSteps,[T(i,offset) Y(i,:)],--)ylabel(Channel i) endxlabel(Time Step) nexttile(1) legend([Input Forecasted]) 闭环预测 闭环预测通过使用先前的预测作为输入来预测序列中的后续时间步。在这种情况下模型不需要真实值便可进行预测。例如假设您要仅使用在时间步 1 至 t−1 中收集的数据来预测序列的时间步 t 至 tk 的值。要对时间步 i 进行预测请使用时间步 i−1 的预测值作为输入。使用闭环预测来预测多个后续时间步或在进行下一次预测之前没有真实值可提供给 RNN 时使用闭环预测。 首先使用 resetState 函数重置状态来初始化 RNN 状态然后使用输入数据的前几个时间步进行初始预测 Z。使用输入数据的所有时间步更新 RNN 状态。 net resetState(net); offset size(X,2); [net,Z] predictAndUpdateState(net,X); 要进行进一步的预测请遍历时间步并使用 predictAndUpdateState 函数更新 RNN 状态。通过将先前的预测值迭代传递给 RNN 来预测接下来的 200 个时间步。由于 RNN 不需要输入数据来进行任何进一步的预测因此可以指定任意数量的时间步来进行预测。 numPredictionTimeSteps 200; Xt Z(:,end); Y zeros(numChannels,numPredictionTimeSteps);for t 1:numPredictionTimeSteps[net,Y(:,t)] predictAndUpdateState(net,Xt);Xt Y(:,t); end 在绘图中可视化预测值。 numTimeSteps offset numPredictionTimeSteps;figure t tiledlayout(numChannels,1); title(t,Closed Loop Forecasting)for i 1:numChannelsnexttileplot(T(i,1:offset))hold onplot(offset:numTimeSteps,[T(i,offset) Y(i,:)],--)ylabel(Channel i) endxlabel(Time Step) nexttile(1) legend([Input Forecasted]) 闭环预测允许您预测任意数量的时间步但与开环预测相比其准确度可能会降低因为 RNN 在预测过程中不会访问真实值。