1 引言
无线通信设备的个体识别主要依靠设备的“射频指纹”[1-2]。射频指纹指的是无线发射机发送射频信号时产生的稳态或瞬态信号部分,这部分信号如同人的指纹各不相同,十分适合用于识别辐射源[3]。然而,辐射源瞬态特征的提取对设备的精密性和采集条件提出了较高的要求[4];基于稳态特征提取射频指纹的方法计算分析较为困难[5]。
因此,国内外的专家学者都将眼光投向新的特征提取工具。近年来,伴随着人工智能的第三次发展浪潮,深度学习作为一种十分有效的方法在计算机视觉[6]、自然语言处理[7]、图像生成[8]等领域都取得了很好的效果。深度学习模型相较传统方法,具有便捷性、多样性以及精确性的特点。相较于传统的射频指纹提取方法,深度网络可以不需要人工设计特征且具有强大的特征提取能力。
2014年,Goodfellow等人提出了一种基于二元零和博弈的深度网络结构,命名为GAN(Generative Adversarial Network)[9]。其基本思想是一个生成模型和一个判别模型在不断对抗中学习,生成器生成样本“骗过”判别器,判别器努力识别出生成器生成的样本和真实样本,其目的是使得生成器生成接近真实样本的样本,在与判别器对抗训练中达到“纳什均衡”。GAN模型提出以后,在图像生成[10]、音频生成[11]、风格迁移[12]等方面取得了相当好的效果,但是应用范围基本局限在数据生成领域。直到2017年,ACGAN(Auxiliary Classifier Generative Adversarial Network)出现了,它创造性地在判别器中加入了分类器,使得ACGAN在按标签生成样本的同时可以对样本进行分类,该网络也叫辅助分类生成式对抗网络[13]。
无论是卷积神经网络还是ACGAN,其经典应用场景都是图像特征的提取和生成[14]。因此,为了将深度学习用于射频指纹提取,如何将信号处理成网络能够识别的图像是其中的关键。
文献[15]绘制超短波电台的IQ两路数据的波形图,通过CNN提取波形图中出现的周期波形,从而识别不同电台。文献[16]提出了一种基于信号星座图的射频指纹提取方法,通过差分方法处理星座图实现射频指纹的提取并以此进行辐射源识别。
然而,上述工作一般都是在样本量充足、信噪比较好环境下进行,在实际应用环境,例如战场环境下很难保证采集到充足的信号样本。基于此,本文提出一种基于PACGAN(Pooling Auxiliary Classifier Generative Adversarial Network)和差分星座轨迹图的辐射源个体识别算法,利用PACGAN网络对样本集进行扩充,解决在小样本条件下对辐射源的个体识别问题。PACGAN将CNN中的平均池化层、最大池化层引入ACGAN的判别器中,提升了判别器的特征提取能力;同时根据样本特征较多分布于图像边缘的情况,向判别器中添加了零填充层并增大了卷积层感受野以提取高层次特征,达到了更好的分类效果。
2 ACGAN与差分星座轨迹图
2.1 ACGAN
ACGAN与GAN模型基本思想相似,但是结构上主要存在三点不同,ACGAN一方面在生成器的输入上加上辅助信息指导样本的生成,增强生成器所生成样本的稳定性;另一方面使用CNN代替GAN中的全连接层,增强网络的特征提取和拟合能力;此外,如图1所示,ACGAN还在判别器中加入了分类模块,将GAN的功能做了一大扩展。
图1中,两种网络所使用的样本集包括真实样本Xreal和生成样本Xfake,当生成样本越接近真实样本时即可有效扩充信号样本集。文献[13]中证明,ACGAN模型生成的图像不只是简单像素堆叠,而是确实含有低分辨率图像或重构的高分辨率图像中不存在的信息,且生成图像具有较好的多样性。
图1 ACGAN与GAN结构对比图
Fig.1 Structure comparison diagram of ACGAN and GAN
2.2 差分星座轨迹图
接收端使用较高采样率实现信号过采样,将过采样IQ信号直接绘制在复平面上,得到的星座图称为信号的星座轨迹图(Constellation Trace Figure, CTF)[16]。星座轨迹图可以反映出判决采样点的变化过程,全面衡量接收信号的特征。
在实际应用过程中,由于接收机和发射机之间的载频存在一定偏差,这将导致产生的星座轨迹图发生旋转,不利于射频指纹提取。
为解决频偏影响,可对接收到的信号按照一定的时间间隔进行差分处理得到稳定的星座轨迹图。经过差分处理后的信号所绘制的星座轨迹图称为差分星座轨迹图(DCTF, Differential Constellation Trace Figure)[16]。
图2(a)所示为加噪未差分星座轨迹图,由于相位旋转导致部分特征信息丢失。图2(b)所示为经延迟和差分处理后的星座轨迹图,消除随时间t产生的相位旋转后,图像显现出原有星座点团以及下采样点之间的变化轨迹,该特征可作为辐射源指纹特征。
图2 差分星座轨迹图的处理效果
Fig.2 Processing effect of DCTF
3 基于PACGAN的辐射源个体识别算法
基于PACGAN和差分星座轨迹图的辐射源个体识别算法流程图如图3所示。接收端接收信号后,首先对其进行高采样率采样、功率归一化等操作,而后对其进行差分处理并生成信号DCTF图像。生成的真实DCTF图像将作为基准指导PACGAN训练。PACGAN网络首先使用高斯噪声经生成器生成“伪数据”,而后通过生成器和判别器交替对抗训练使得伪数据分布不断逼近真实图像分布,最终达到提高生成器生成图像质量和判别器分类准确率的目的。
图3 基于PACGAN和差分星座轨迹图的个体识别模型
Fig.3 Individual identification model based on PACGAN and DCTF
3.1 生成器构造
模型中生成器网络结构如图4所示,包括一个全连接层、一个维度变换层、两个转置卷积层和三个卷积层。网络将高斯噪声和标签拼接成为噪声矢量后送入全连接层进行采样,随后进行维度变换将其变为图像格式。对变换后的图像进行上采样,并采用转置卷积的方式进行插值,随后送入卷积层进行特征学习和提取。所得结果再进行一次转置卷积,数据维度和真实样本一致后再经过两次卷积操作即为生成图像。
图4 PACGAN生成器结构
Fig.4 Structure of PACGAN generator
此过程中,1、2转置卷积层结构相同,卷积核大小为3×3,卷积步长为2;卷积层1、2、3结构相似,除过滤器个数外参数一致,卷积核大小为3×3、步长为1,填充方式为边缘填充。除了输入层和全连接层,其他网络层使用批量归一化,这一方法可以降低网络参数对网络参数的过度依赖并有效降低过拟合情况的发生;激活函数方面,网络层间使用ReLU函数激活以减少网络运算复杂度并提升学习速度;输出层使用tanh函数激活可使生成器输出数据均值为零,匹配输入端高斯噪声的数据特征。
3.2 判别器构造
本文的应用场景是从差分星座轨迹图中提取设备的射频指纹并进行分类。ACGAN的网络特征提取结构继承自DCGAN,为了提高生成图像质量,在卷积层中往往采用步进卷积代替池化层。但是在分类任务中,池化层具有独到作用,不仅可以有效提取样本特征,还可以使得生成样本更加多样[17]。
由样本特征角度分析,如图5所示,样本图像特征十分鲜明。样本图像有两大特点:一是图像特征全分布在“圆周”上,位于图像整体的边缘;二是图像的稀疏性较大,很多区域空白,无可提取特征。
图5 样本图像
Fig.5 Sample image
对于图像稀疏性较大问题,可以增大卷积核心大小,提高卷积层感受野以提取全局特征[18];针对图像普遍边缘分布的情况,除在卷积层可以用边缘填充方式外,也可以专门设置零填充层,保存图像的边缘特征。由此设计判别器结构如图6所示。
图6 PACGAN判别器结构
Fig.6 Structure of PACGAN discriminator
网络结构上,在卷积层2后引入最大池化层,针对性保留图像纹理信息。在卷积层3后增加一个零填充层,进一步加强边缘特征提取。在卷积过程结束之后,由于图像尺寸此时较小,故添加一个平均池化层用于保留图像的整体特征,有利于提升后续分类工作的准确率。
参数设置上,卷积层1、2、3卷积核大小由原来的3×3增大为5×5,增大感受野;步长设置为2,填充方式全部为边缘填充。卷积层4卷积核大小仍为3×3,步长为1,也采用边缘填充。卷积层间都加入了批量归一化和dropout操作,全部采用LeakyReLU函数激活。最后一层,用于图像分类和图像真伪判断的全连接层分别采用softmax函数和sigmoid函数激活。
3.3 损失函数定义和优化方法
生成器和判别器均采用Adam优化器进行优化,这种优化器实现简单、占用内存较少且收敛速度较快,参数调整较其他优化器也更为方便。PACGAN的损失函数由样本真伪判别损失函数与样本分类损失函数组成,如公式(1)与公式(2)所示。
Ls=Ex～Pdata[logD(x)]+Ez～Pz[log(1-D(G(z)))]
(1)
Lc=Ec～Pdata[logD(c)]+Ec～Pz[log(1-D(G(c)))]
(2)
其中,Ls表示数据为真的概率;Lc表示数据分类正确的概率;Pz、Pdata分别代表生成样本和真实样本的分布;z为输入噪声;x代表真实样本;c代表标签类别;E代表期望分布;D(x)与D(c)为判别器D对样本的真假判断和分类结果;G(z)与G(c)为生成器G生成样本及其标签。
判别器的优化目标为最大化Ls+Lc,即在样本分类和真伪判别方面取得最好效果;生成器的优化目标是最大化Lc-Ls,即使得生成样本尽可能骗过生成器并符合给定标签。
4 实验与结果分析
本文实验基于Python下的Tensorflow、Keras深度学习框架实现,所使用的硬件平台为Intel(R)Core(TM)i7-10875H CPU,GPU为NVDIA GeForce RTX 2060。实验所用数据来自于文献[19]中的部分ZigBee数据,该数据集由多种ZigBee设备实采信号制作而成。其信号接收设备使用Ettus Research N210 USRP,设备采样率为10M samples/s。ZigBee设备使用的是OQPSK(offset quadrature phase-shift keying)调制方式,且符合IEEE 802.15.4标准。
上述数据经matlabR2019a加高斯噪声并进行差分处理后制作成本文所用数据集。其中,训练集含有5类ZigBee设备共3000个样本,每类600个样本中包含0～22 dB,间隔为2 dB信噪比下的差分星座轨迹图各50张;测试集包含600个样本,每种Zigbee设备120个样本,包含信噪比为0～22 dB,间隔为2 dB的差分星座轨迹图各10张。
4.1 与原始ACGAN的性能对比实验
本节利用上述数据集输入本文设计模型中进行训练,迭代次数3000次,每批(batch)16张图像,在实际训练时,样本图像被处理成灰度图以减少运算量。图7为原始ACGAN和PACGAN网络训练的迭代次数与识别率曲线。其中“acc”与“op_acc”分别代表判别器对数据集的“真伪”判别准确率和设备分类准确率;“g_loss”和“d_loss”代表生成器和判别器的损失。
图7表明了网络迭代过程中识别率和损失的变化趋势。由于生成器和判别器训练思想是对抗训练、训练方法是分步训练,因此两个网络相关折线总是此消彼长,且在不断起伏震荡。随着迭代次数的增加,生成器识别率最终在50%左右震荡,判别器分类准确率趋于100%,两者的损失g_loss和d_loss则逐渐下降并趋于稳定。
从图7(b)中可以看出改进后判别器分类曲线收敛速度明显更快,且具有更高的准确率,真伪判别损失波动范围更小;图7(d)中,PACGAN中判别器网络与生成器网络的损失收敛速度更快,且波动幅度明显减小。不难看出,进行针对性改进后的网络结构较原始ACGAN更稳定。
图7 PACGAN与原始ACGAN训练曲线对比图
Fig.7 Comparison of PACGAN and ACGAN training curves
图8所示为ACGAN及PACGAN在测试集上性能对比曲线,从图8中可以看到,当信噪比大于2 dB时,相较于原始ACGAN网络,PACGAN网络在识别准确率上具有5%～10%左右的优势,随着信噪比进一步增大,两网络的识别准确率都接近于100%。
图8 PACGAN与ACGAN性能对比
Fig.8 Performance comparison between PACGAN and ACGAN
模型在信噪比8～20 dB,间隔为4 dB下的四类混淆矩阵如图9所示。
由图9可以看出,当信噪比为8 dB时,除设备1与设备3识别有一定混淆外,其他设备识别率均大于97%,且随着信噪比的不断增大,本文设计模型对各设备均可做到准确识别。
图9 分类混淆矩阵
Fig.9 Classification confusion matrix
此外,还可以从生成图像质量的角度来衡量网络性能的好坏,生成器生成图像越接近真实图像,那么判别器在与生成器对抗的过程中越能学到样本的真实特征。图10为生成器生成的样本图像与对应真实图像的对比,两图中每列为一类设备在不同信噪比下的DCTF图像。可以看到,生成器生成图像中包含了各类信噪比下的差分星座轨迹图,且学习到了真实图像的有效特征。
图10 生成样本图像与真实图像对比
Fig.10 Comparison between generated sample images and real images
4.2 与其他网络的性能对比实验
本节使用VGG16[20]、VGG19[21]、ResNet50[22]网络与本文设计的PACGAN模型进行不同信噪比下分类准确率对比实验,仿真结果如图11所示。
图11 与其他网络对比实验图
Fig.11 Comparison with other networks
由仿真结果可以看出,当信噪比大于2 dB时,本文所设计的PACGAN识别模型在各信噪比点下的识别准确率均明显高于其他对比网络。
4.3 不同样本数量下的性能对比实验
本节使用不同样本数量的训练集训练PACGAN网络并测试其性能。实验所使用训练样本集所含样本量分别为300、600、1200、1800、2400、3000张差分星座轨迹图,测试集与4.1节实验相同。仿真结果如图12所示。
图12 不同样本数量下性能对比实验图
Fig.12 Experimental chart of performance comparison under different sample numbers
在小样本条件下,本文设计的PACGAN模型分类准确率仍然保持较高水平。随着样本数量的增加,较低信噪比条件下模型的识别准确率进一步提升。
5 结论
本文在辐射源个体识别领域引入GAN的思想解决样本不足问题,构建了PACGAN的识别模型。该模型具有两大优点,一是利用PACGAN从差分星座轨迹图中提取特征生成逼真样本,实现数据集的有效扩充;二是引入了最大池化层和全局池化层以增强网络的特征提取能力,增大了卷积层感受野以提取全局特征,并针对图像边缘特征提取加入了零填充层,进一步提高了网络模型的分类效果和稳定性,提升了生成数据的质量。实验结果表明,在小样本条件下,本模型相较VGG16等经典CNN模型具有更高的准确率。
[1] HALL J, BARBEAU M, KRANKIES E.Detection of transient in radio frequency fingerprinting using signal phase[J].Wireless and Optical Communications, 2003: 13-18.
[2] HALL J, BARBEAU M, KRANKIES E.Enhancing intrusion detection in wireless networks using radio frequency fingerprinting[J].Communications, Internet, and Information Technology, 2004:201-206.
[3] REHMAN S U, SOWERBY K, COGHILL C.RF fingerprint extraction from the energy envelope of an instantaneous transient signal[C]∥2012 Australian Communications Theory Workshop(AusCTW).IEEE, 2012: 90-95.
[4] PENG Linning, HU Aiqun, ZHANG Junqing, et al.Design of a hybrid RF fingerprint extraction and device classification scheme[J].IEEE Internet of Things Journal, 2018, 6(1): 349-360.
[5] PADILLA P, PADILLA J L, VALENZUELA-Valdes J F.Radiofrequency identification of wireless devices based on RF fingerprinting[J].Electronics Letters, 2013, 49(22): 1409-1410.
[6] O’MAHONY N, CAMPBELL S, CARVALHO A, et al.Deep learning vs.traditional computer vision[C]∥Science and Information Conference.Springer, Cham, 2019: 128-144.
[7] STRUBELL E, GANESH A, MCCALLUM A.Energy and policy considerations for deep learning in NLP[J].ArXiv Preprint ArXiv:1906.02243, 2019.
[8] JAKAB T, GUPTA A, BILEN H, et al.Unsupervised learning of object landmarks through conditional image generation[C]∥Advances in Neural Information Processing Systems, 2018: 4016-4027.
[9] GOODFELLOW I, POUGET-Abadie J, MIRZA M, et al.Generative adversarial nets[J].Advances in Neural Information Processing Systems, 2014, 27: 2672-2680.
[10] RADFORD A, METZ L, CHINTALA S.Unsupervised representation learning with deep convolutional generative adversarial networks[J].ArXiv Preprint ArXiv:1511.06434, 2015.
[11] YANG L C, CHOU S Y, YANG Y H.MidiNet: A convolutional generative adversarial network for symbolic-domain music generation[J].ArXiv Preprint ArXiv:1703.10847, 2017.
[12] KARRAS T, LAINE S, AILA T.A style-based generator architecture for generative adversarial networks[C]∥Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition.2019: 4401-4410.
[13] ODENA A, OLAH C, SHLENS J.Conditional image synthesis with auxiliary classifier gans[C]∥International Conference on Machine Learning.PMLR, 2017: 2642-2651.
[14] REN Zhongle, HOU Biao, WU Qian, et al.A distribution and structure match generative adversarial network for SAR image classification[J].IEEE Transactions on Geoscience and Remote Sensing, 2020, 58(6): 3864-3880.
[15] 陈悦, 雷迎科, 李昕,等.基于IQ图特征的小样本通信辐射源个体识别[J].信号处理, 2021, 37(1): 120-125.
CHEN Yue, LEI Yingke, LI Xin, et al.Specific Emitter Identification of small sample communication radiation source based on IQ graph features[J].Journal of Signal Processing, 2021, 37(1): 120-125.(in Chinese)
[16] PENG Linning, ZHANG Junqing, LIU Ming, et al.Deep learning based RF fingerprint identification using differential constellation trace figure[J].IEEE Transactions on Vehicular Technology, 2019, 69(1): 1091-1095.
[17] GOODFELLOW I, BENGIO Y, COURVILLE A, et al.Deep learning[M].Cambridge: MIT Press, 2016:207-210.
[18] KRIZHEVSKY A, SUTSKEVER I, HINTON G E.Imagenet classification with deep convolutional neural networks[J].Advances in Neural Information Processing Systems, 2012, 25: 1097-1105.
[19] YU Jiabao, HU Aiqun, LI Guyue, et al.A robust RF fingerprinting approach using multisampling convolutional neural network[J].IEEE Internet of Things Journal, 2019, 6(4): 6786-6799.
[20] SIMONYAN K, ZISSERMAN A.Very deep convolutional networks for large-scale image recognition[J].ArXiv Preprint ArXiv:1409.1556, 2014.
[21] SWATI Z N K, ZHAO Qinghua, KABIR M, et al.Brain tumor classification for MR images using transfer learning and fine-tuning[J].Computerized Medical Imaging and Graphics, 2019, 75: 34-46.
[22] THECKEDATH D, SEDAMKAR R R.Detecting affect states using VGG16, ResNet50 and SE-ResNet50 networks[J].SN Computer Science, 2020, 1(2): 1-7.
