用AI预测北京雾霾?有Keras在手，LSTM可分分钟解决

图：pixabay

原文来源：machine learning mastery

作者：Jason Brownlee

「机器人圈」编译：多啦A亮

神经网络诸如长短期记忆（LSTM）循环神经网络（RNN）能够几乎无缝地模拟多个输入变量的问题。

这是时间序列预测中的一大优点，而经典线性方法难以适应多变量或多输入预测问题。

在本教程中，你将发现如何在Keras深度学习库中开发多变量时间序列预测的LSTM模型。

完成本教程后，你将知道：

?如何将原始数据集转换为可用于时间序列预测的内容。

?如何准备数据并适应多变量时间序列预测问题的LSTM。

?如何做出预测并将结果重新调整到原始单位。

让我们开始吧。

教程概述

本教程分为3部分，他们是：

?空气污染预报

?基本数据准备

?多变量LSTM预测模型

Python环境

本教程假定你已安装Python SciPy环境。你可以在本教程中使用Python 2或3。

你必须使用TensorFlow或Theano后台安装Keras（2.0或更高版本）。

本教程还假定你已经安装了scikit-learn、Pandas、NumPy和Matplotlib。

如果你需要安装环境方面的帮助，请参阅这篇文章：

《如何用Anaconda设置机器学习和深度学习的Python环境》

空气污染预报

在本教程中，我们将使用空气质量数据集。

这是一个数据集，在美国驻北京的大使馆五年内每小时报告天气和污染水平。

数据包括日期时间， PM2.5污染物，以及天气信息，包括露点、温度、气压、风向、风速以及降雨和降雪的累积小时数。原始数据中的完整功能列表如下：

1.No: 行号

2.year: 这一行的一年数据

3.month: 这一行的月数据

4.day: d这一行的日数据

5.hour: 这一行的小时数据

6.pm2.5: PM2.5浓度

7.DEWP: 露点

8.TEMP: 温度

9.PRES:气压

10.cbwd: 组合风向

11.Iws: 累积风速

12.Is: 积雪时间

13.Ir: 累积的降雨时间

我们可以使用这些数据并构建一个预测问题，鉴于天气条件和前几个小时的污染，我们预测下一个小时的污染。

此数据集可用于构建其他预测问题。

你可以从UCI Machine Learning Repository下载数据集。

?北京PM2.5数据集

下载数据集并将其放在你当前的工作目录中，文件名为“raw.csv”。

基础数据准备

数据没还有准备好去使用。所以，我们必须先做好准备。

以下是原始数据集的前几行：

第一步是将日期时间信息整合到一个单独的日期时间，以便我们可以将其用作Pandas的索引。

快速检查显示前24小时pm2.5的NA值。 因此，我们需要删除第一行数据，在数据集中还有几个分散的“NA”值; 我们现在可以用0值标记它们。

以下脚本加载原始数据集，并将日期时间信息解析为Pandas DataFrame索引。No列被删除，然后为每列指定更清晰的名称。最后，将NA值替换为“0”值，并删除前24小时。

运行该示例打印转换后数据集的前5行，并将数据集保存到“pollution.csv”。

现在我们以简单易用的形式提供数据，我们可以创建每个系列的快速图，来看看我们得到的。

下面的代码加载了“pollution.csv”文件，并将每个系列作为单独的子图绘制，除了风速是分类的。

运行示例创建一个具有7个子图，显示每个变量的5年数据。

空气污染时间序列线图

多变量LSTM预测模型

在本节中，我们将使用LSTM解决问题。

LSTM数据准备

第一步是为LSTM准备污染数据集。

这涉及将数据集视为监督学习问题并对输入变量进行归一化。

考虑到上一个时间段的污染测量和天气条件，我们将把监督学习问题作为预测当前时刻（t）的污染情况。

这个构想是直接的，只是为了这个演示。你可以探索的一些替代方法包括：

?根据过去24小时的天气和污染情况，预测下一个小时的污染。

?预测下一个小时的污染，并给予下一个小时的“预期”天气条件。

我们可以使用在下列文章中开发的series_to_supervised（）函数来转换数据集：

?如何将时间序列转换为Python中的监督学习问题。

首先，加载“pollution.csv”数据集。风速特征是标签编码（整数编码）。如果你有兴趣探索，这可能会在将来进一步被热编码。

其次，所有功能都被归一化，然后将数据集转换为监督学习问题。然后删除要预测的小时的天气变量（t）。

完整的代码清单如下：

运行示例打印转换后的数据集的前5行。我们可以看到8个输入变量（输入序列）和1个输出变量（当前小时的污染水平）。

这个数据准备很简单，我们可以探索更多的东西。你可以看到的一些想法包括：

?独热编码风速。

?通过差分和季节性调整使所有系列固定。

?提供超过1小时的输入时间步长。

最后一点可能是最重要的，因为在学习序列预测问题时，LSTMs通过时间使用反向传播。

定义和拟合模型

在本节中，我们使用多变量输入数据的LSTM。

首先，我们必须将准备好的数据集分成训练集和测试集。为了加快对这次示范的训练速度，我们将仅适用于数据第一年的模型，然后对其余4年的数据进行评估。如果你有时间，请考虑浏览此测试工具的倒置版本。

下面的示例将数据集分成训练集和测试集，然后将训练集和测试集分成输入和输出变量。 最后，将输入（X）重构为LSTM预期的3D格式，即[样本，时间步长，特征。

运行此示例打印训练集的形状，并测试输入和输出集合约9000小时的数据进行训练，约35000小时的数据进行测试。

现在我们可以定义并配置LSTM模型

我们将在第一个隐藏层中定义具有50个神经元的LSTM以及输出层中用于预测污染的的1个神经元。输入形式将是一个时间具有8个特征的步长，。

我们将使用平均绝对误差（MAE）损失函数和随机梯度下降的高效Adam版本。

该模型将配置为适用于50个批量大小为72的训练周期。请记住，每个批处理结束时，Keras中的LSTM的内部状态都将重置，因此一个内部状态是一个有关大量天数的函数将会有所帮助。（不妨试一试）。

最后，我们通过在fit（）函数中设置validation_data参数来跟踪训练过程中的训练和测试损失，然后在运行结束时，绘制训练和测试损失曲线图。

评估模型

当模型配置好之后，我们可以对整个测试数据集进行预测。

我们将预测与测试数据集相结合，并进行反缩放，我们还用预期的污染数据对测试数据集进行反缩放。

以预测值和实际值为原始尺度，我们可以计算模型的误差值。在这种情况下，我们计算出在与变量本身相同的单位中产生误差的均方根误差（RMSE）。

完整示例

完整的示例如下所示：

想要运行示例的话，首先需要创建一个绘图，显示训练期间的训练和测试损失。

有趣的是，我们可以看到测试损失低于训练损失。该模型可能过度拟合训练数据。在训练过程中测量和绘制RMSE曲线可能会使这一点显现得更加明显。

训练期间多元LSTM的训练集和测试线路图

训练和测试损失在每个训练时期结束时都会打印出来。在运行结束时，打印测试数据集上模型的最终RMSE。

我们可以看到，该模型实现了3.836的可观RMSE，这显著低于用持续模型发现的30 RMSE。

进一步阅读

如果你想进一步深入了解，本部分将提供更多关于该主题的资源。

?在UCI机器学习库中的北京PM2.5数据集。

?Keras长短期记忆模型的5步生命周期。

?使用Python中的长短期记忆模型进行时间序列预测。

?用Python中的长短期记忆模型进行多步时间序列预测。

总结

在本教程中，你发现了如何将LSTM适用于多变量时间序列预测问题。

具体来说，通过本教程你将学到：

?如何将原始数据集转换为可用于时间序列预测的内容。

?如何准备数据并配置用于多变量时间序列预测问题的LSTM。

?如何做出预测并将结果重新调整到原始单元中。