机器学习在IoT的应用

机器学习开始在IoT系统中发挥越来越重要的作用。但因为一些限制，目前来看，进展是比较缓慢的。IoT中供给给ML的系统主要有两种类型：流数据（stream）和累积数据（accumulate）流数据以较小的间隔捕获或生成，而累积数据则在被存储在一个空间中，用来分析，存储或预测。各有用途。自动驾驶就不能依赖块数据，他必须依赖于流数据的预测，这让他能够在非常短的时间里进行响应。而在推荐系统，视频分析，气候预测，医疗诊断和经济预测中，累积数据就能起到很好的分析功能。

CONVOLUTIONAL NEURAL NETWORKS WITH IoT 

卷积神经网络（CNN）以处理像素数据和图像识别功能而闻名。CNN使用隐藏层的方式可以完成常规视觉任务经常失败的转换功能，例如旋转，翻译或反射等。隐藏层是卷积层的组合，并且与输出层完全连接。卷积层是CNN的核心。 CNN在物联网中被广泛使用，因为许多物联网设备使用摄像头作为传感器来感知周围的环境，能获得许多图像数据。例如无人机，智能连接的汽车和智能手机。

RECURRENT NEURAL NETWORKS WITH IoT

循环神经网络（RNN）是物联网中最有用的DL体系结构。 RNN是实时运行的。因此主要用在对设备中流数据的分析。RNN主要用于预测结果的特征。基于之前几个样本，分析流数据中输入顺序和变化速率。 RNN使用使用反向传播算法（BPTT）来训练网络。 RNN用于那些单个样本不够的应用中，但输入序列起着至关重要的作用。 RNN的结构如图1.2所示。

智能网格框架中智能家居的能源需求预测是基于IoT的RNN的产品之一。其他应用比如入侵检测系统和在一些资源约束设备的身份认证。

LONG SHORT-TERM MEMORY WITH IoT

长短期记忆网络（LSTM）是RNN的扩展。 LSTM由内存单元组成，因为RNN中的缺点是记忆很短，数据用过就忘。LSTM通过引入gates的概念克服了这一约束。有三种gate类型，忘记门，输入门，输出门。所有门一起工作，可输入，输出和删除中执行多个功能。 

LSTM和RNN之间的显着差异之一是忘记门。如果数据对时间有长期依赖，LSTM的性能则优于RNN。这种有对时间长期依赖的数据使LSTM成为预测模型的理想选择。例如在体育中识别人类活动，环境监测和学术绩效预测等应用，其他比如有许多产生大量数据的工业物联网应用，水质预测，QoS属性预测和PM10浓度预测等。

AUTOENCODERS AND VARIATIONAL AUTOENCODERS WITH IoT 

自动编码器（AES）具一个输入层和一个输出层，并且中间有多个隐藏层，它们的数量可能会从一个到数十个变化。已知AE具有相同数量的输入参数和输出参数，如图1.3所示。 AES的任务是将输入转换为输出而不更改输入。此类网络主要用于无监督的学习和转移学习。 AE的主要用途是在装配线性能中的故障检测，医学诊断和异常检测。自动编码器应用程序由IoT网络检测组成，并在WSN中分布异常检测。

后来，2013年将自动编码器修改为变异自动编码器（VAE）。VAE使用反向传播算法加快模型训练；该模型通常用于半监督学习。物联网的产生的多种缺乏标记的数据使VAE非常适合物联网。 VAE主要用于安全系统和故障检测。 

VAE背后的主体依赖两个网络：一个生成样本，另一个产生近似推断。VAE主要应用于在智慧城市和物联网网络安全。 VAE在智能城市的情况下提供了优势，因为大量传感器会产生巨大的没有标记的数据集。

GENERATIVE ADVERSARIAL NETWORKS WITH IoT

Ian Goodfellow和他的同事最近在2014年推出了生成对抗网络（GANS）。 GAN由两个神经网络组成，即生成和判别网络，如图1.4所示。生成网络负责在学习数据分布后使用可用数据集生成新数据。同时，判别网络试图区分真实数据和虚假数据。生成网络生成数据试图欺骗判别网络，而判别网络则试图分辨假和真实之间的区别。 GAN中的两个网络在Minimax游戏中相互竞争；一个网络试图最大化真实和假货之间的差异，而另一个则试图最大程度地减少它。在物联网中，GANS可以用作需要从可用数据集创建新数据的应用程序。例如，在导航功能中，生成网络在两个目的地之间生成多个路径，而识别网络中，试图识别最可行的路径。

RESTRICTED BOLTZMANN MACHINE WITH IoT

受限玻尔兹曼机（RBMS）是保罗·斯莫洛斯基（Paul Smolensky）于1986年生成的最古老的人工神经网络之一。今天经过几次修改，RBM用于分类，协作过滤，功能学习和主题建模。 RBM是一个两层模型，其中一个是可见层，我们称之为输入，另一个是负责潜在变量的隐藏层。在物联网中，RBM用于多个垂直领域，从能源消耗预测，交通拥堵预测，姿势分析到室内定位。可以用于应用程序从可用功能中提取出最基本功能。

DEEP LEARNING ON IoT ALONG WITH OTHER ALGORITHMS

自2015年以来，常规DL在IoT领域的应用很频繁；但是，使用其他技术也在发挥着重要作用。例如深度强化学习（DRL）是加强学习（RL）与DNN的融合。在物联网中，DRL用于半监督学习，以在校园内进行定位。转移学习和在线学习是更多与常规DL结合的方法，以获得更好的结果。截至目前，在IoT上使用DL进行转移学习是一个积极的研究主题，但其大部分工作仍在实验室中，还没有扩展到现实世界。