基于最大相关熵准则的恒模盲均衡算法

毕英杰 李 森

(大连海事大学信息科学技术学院,辽宁大连 116026)

摘 要: 针对恒模算法(constant modulus algorithm, CMA)在脉冲噪声环境下性能退化的问题,本文基于最大相关熵准则(maximum correntropy criterion, MCC)对恒模算法中基于最小均方误差(mean square error, MSE)准则的代价函数进行修正,推导出适用于脉冲噪声环境的基于MCC准则的恒模盲均衡算法(MCC_CMA)。该算法利用通信信号的恒模特性,首先得到发送信号与均衡器输出信号模值的误差信号,再通过使模值误差信号的相关熵最大来获得其迭代误差调节项,避免了传统高阶统计量算法在脉冲噪声环境下性能退化的问题。对高斯噪声以及α-稳定分布和混合高斯分布两种脉冲噪声环境下的信道均衡问题的仿真实验表明,相对于经典的自适应恒模盲均衡算法,MCC_CMA算法不依赖噪声的先验知识就能获得较快的收敛速度、较低的剩余码间干扰和误码率,并且在不同脉冲强度的脉冲噪声环境下都能够得到较好的均衡结果,表明MCC_CMA算法具有很好的鲁棒性。

关键词:盲均衡;最大相关熵准则;脉冲噪声;恒模算法

中图分类号:TN911.7

文献标识码:A

DOI:10.16798/j.issn.1003- 0530.2020.01.015

引用格式: 毕英杰, 李森. 基于最大相关熵准则的恒模盲均衡算法[J]. 信号处理, 2020, 36(1): 118-124. DOI: 10.16798/j.issn.1003- 0530.2020.01.015.

Reference format: Bi Yingjie, Li Sen. A Constant Modulus Blind Equalization Algorithm Based on Maximum Correntropy Criterion[J]. Journal of Signal Processing, 2020, 36(1): 118-124. DOI: 10.16798/j.issn.1003- 0530.2020.01.015.

文章编号: 1003-0530(2020)01-0118-07

收稿日期:2019-05-29;修回日期:2019-10-09

基金项目:国家自然科学基金资助项目(61301228,61971083,51939001);大连市科技创新项目(重点学科重大专项:2019J11CY015);中央高校基本科研业务费资助项目(3132019341)

A Constant Modulus Blind Equalization Algorithm Based on Maximum Correntropy Criterion

Bi Yingjie Li Sen

(Information Science and Technology College, Dalian Maritime University, Dalian, Liaoning 116026, China)

Abstract: In this paper, the mean square error (MSE) criterion used in the constant modulus algorithm (CMA) is modified by the maximum correntropy criterion (MCC) to solve the problem of performance degradation of the CMA blind equalization algorithm under impulse noise environment, and then the a constant modulus blind equalization algorithm based on MCC is derived, which is referenced as MCC_CMA. By utilizing the constant modulus property of the communication signals, the proposed algorithm first obtains the modulus difference signal between the transmitted signal and the equalizer output signal, and then the iterative error adjustment term is achieved by maximizing the correntropy of the modululs difference signal, thus the problem of the performance degradation of the traditional high-order statistics based algorithms under impulse noise environment is avoided. Under Gaussian noise environment and two kinds of impulse noise environment: α-stable distribution and mixture Gaussian distribution, the simulation experiments of channel equalization problem show that the MCC_CMA algorithm not only can obtain faster convergence speed, lower residual intersymbol interference and bit error ratio without relying on the prior knowledge of noise, comparing with the classical adaptive constant modulus blind equalization algorithm; but also has good robustness, that is, it can get good equalization results in impulse noise environments with different impulsiveness.

Key words blind equalization; maximum correntropy criterion; impulsive noise; constant modulus algorithm

1 引言

作为通信信号处理的重要研究内容,无需数据辅助的盲均衡理论和算法广泛应用于无线通信、水声通信等领域。其中Godard提出的恒模算法(constant modulus algorithm,CMA)是典型的盲均衡算法之一。在无需训练序列和信号调制方式等信息的情况下,CMA算法可以实现对信道的跟踪和均衡,有效提高了带宽效率[1-3]。然而研究表明基于最小均方误差(mean square error,MSE)准则的CMA算法,对脉冲噪声极度敏感,从而使其在脉冲噪声环境下收敛性能急剧退化[4-5]

在实际的通信信道中,尤其是在无线电信道和水声信道中存在着大量的脉冲噪声。针对这种脉冲特性噪声,文献[4]用α-稳定分布作为其数学模型并提出了利用分数低阶统计量(fractional lower order statistics,FLOS)作为代价函数的分数低阶恒模算法(FLOS_CMA),解决了在重拖尾噪声下的盲均衡问题。由于α-稳定分布是没有二阶及以上高阶矩的,因此要求FLOS_CMA算法中的分数阶p满足p<α/2,α为脉冲噪声的特征指数,在实际应用中需要预先估计。文献[5]在此基础上进一步扩展,提出了分数低阶恒模算法和最小平均p范数准则相结合的直接判决并行盲均衡算法,解决了FLOS_CMA算法中的相位偏移问题。文献[6]提出改进的变动量归一化p范数恒模算法,解决了FLOS_CMA算法收敛速度慢的问题,但其鲁棒性能较差。

相关熵作为能够同时反映信号的时间结构和统计特性的统计量近年来受到了极大的关注,Santamaria等人在文献[7]中首次给出了相关熵的定义并提出利用调制信号的相关熵统计特性代替恒模特性的盲均衡算法,但这种算法由于要计算调制信号的相关熵统计量所以计算复杂度较高且算法的稳态性能波动较大。Liu等人在文献[8]中由相关熵诱导出了一个的距离测度(correntropy induced metric,CIM),并提出了适合于脉冲噪声环境下的最大相关熵准则(maximum correntropy criterion, MCC)。文献[9]将最大相关熵准则应用于脉冲噪声环境下的DOA跟踪问题,提出了基于最大相关熵准则的子空间跟踪算法,仿真结果表明该算法在脉冲噪声环境下有很好的韧性。文献[10]将最大相关熵准则应用于脉冲噪声环境下的模糊神经系统,提出了一种基于相关熵的演化模糊神经系统,并推导出基于最大相关熵准则的模糊神经系统学习算法,仿真结果表明该算法具有抑制脉冲噪声的能力。文献[11]将相关熵的概念推广到复数域,给出了复相关熵的定义并提出了最大复相关熵准则(maximum complex correntropy criterion,MCCC)。文献[12]基于MCCC准则提出了一种基于训练序列的自适应均衡算法,解决了复最小均方误差自适应均衡算法在脉冲噪声环境下性能退化的问题。

CMA算法的代价函数利用了通信信号的恒模特性,即使均衡器输出信号的模与源信号的模之间的均方误差最小,在高斯噪声环境下CMA算法具有很好的均衡特性。但在脉冲噪声环境下,由于受到突发脉冲噪声的影响,模值之间的误差也具有非高斯脉冲特性,从而影响CMA算法的收敛甚至会导致算法发散。本文采用MCC准则代替CMA算法中的MSE准则,提出了一种适用于脉冲噪声环境下的自适应盲均衡算法,称为基于MCC准则的恒模盲均衡算法(MCC_CMA)。仿真实验表明,相对于传统的基于MSE准则的CMA算法,MCC_CMA算法在高斯噪声和脉冲噪声环境下都具有很好的收敛性能和稳态性能。同时在脉冲噪声环境下,对比文献[4]中提出的FLOS_CMA算法,MCC_CMA算法不仅具有更好的收敛性能,而且不依赖于脉冲噪声的先验知识。

2 最大相关熵准则

对于两个随机变量XY,其相关熵[8]的定义为

Vσ(X,Y)=E[κσ(X-Y)]

(1)

其中,E[·]为数学期望,为高斯核函数,σ为核长。

在实际应用中,由于随机变量XY的联合概率密度函数通常是未知的,可以通过有限的数据来近似估计随机变量XY的相关熵

(2)

Liu等人在文献[8]中提出相关熵可以诱导一个距离测度CIM,其表达式为

CIM(X,Y)=[κσ(0)-Vσ(X,Y)]1/2=

(3)

CIM越小两个变量越相似。最小化CIM(X,Y)等价于最大化相关熵Vσ(X,Y),由此提出了最大相关熵准则[8]。根据最大相关熵准则可以得出:当相关熵Vσ(X,Y)取得最大值时,两个随机变量XY的误差e(i)=x(i)-y(i)最小[13]

3 基于MCC准则的恒模盲均衡算法

3.1 系统模型

包含有均衡器的数字通信系统模型如图1所示。

图1 含有均衡器的数字通信系统模型
Fig.1 Model of a digital communication system with an equalizer

已调输入信号s(i)经脉冲响应长度为L的信道h=[h(0),h(1),…,h(L-1)]得到信号sr(i)与加性噪声ν(i)一起输入到均衡器,因此均衡器的接收信号x(i)可表示为

(4)

均衡器输出的恢复信号可表示为

(5)

式中,w(i)=[w0(i),w1(i),…,wM-1(i)]T是长度为M的均衡器抽头权值矢量,均衡器的输入信号矢量可表示为x(i)=[x(i),x(i-1),…,xM-1(i-M+1)]T

3.2 基于MCC准则的恒模盲均衡算法

基于最小均方误差准则[1]的CMA算法代价函数为

minJ(w)=minE{[|y(i)|2-R]2}

(6)

其中R=E|s(i)|4/E|s(i)|2为由信源符号序列s(i)确定的恒定常数。CMA算法的权矢量迭代更新公式[1]

w(i+1)=w(i)-μ[|y(i)|2-R]y(i)x*(i)

(7)

CMA算法在高斯噪声下具有良好的收敛性能,但由于其代价函数是基于MSE准则的,在脉冲噪声环境下,算法的收敛性能下降甚至出现不收敛的情况。由于MCC准则适用于脉冲噪声环境,因此本文用MCC准则代替MSE准则,提出了基于MCC准则的恒模盲均衡算法(MCC_CMA),它的代价函数为:

maxJMCC_CMA(w)=maxE[κσ(|y(i)|2-R)]

(8)

根据最速下降法[1],基于MCC准则的算法应沿性能曲面最速上升方向(即正梯度方向)调整均衡器权值向量w,其表达式为

w(i+1)=w(i)+μwJMCC_CMA(w)

(9)

其中:

wJMCC_CMA(w)=wE[kσ(|y(i)|2-R)]=
E{w[kσ(|y(i)|2-R)]}=

(10)

用瞬时梯度代替真实梯度wJMCC_CMA(w),可以得到基于MCC准则的恒模盲均衡算法的权矢量迭代更新公式为

w(i+1)=w(i)-

(11)

其中迭代步长μ中包含了

定义误差信号e(i)=|y(i)|2-R,对式(7)和式(11)的比较可以发现:MCC_CMA算法的权矢量迭代更新公式中比CMA算法多了一项误差函数的指数函数exp(-e(i)2/2σ2)。图2给出了核长σ取不同值时误差函数的指数函数曲线。可以看出当核长σ固定时,例如σ=0.5,MCC_CMA算法利用误差信号e(i)的指数函数达到抑制脉冲噪声的作用,即当误差信号e(i)由于受到脉冲噪声的影响而急剧增大时,它的指数函数将是一个趋近于0的值,此时迭代公式中权矢量w(i+1)的值仍为前一时刻的值w(i),即脉冲噪声对权矢量的更新不起作用,从而达到抑制脉冲噪声对算法收敛性影响的作用;并且随着核长σ的增大这种抑制作用会逐渐减弱,当核长σ趋近于无穷时误差函数的指数函数趋近于1,则MCC_CMA算法就等价于CMA算法,即CMA算法为MCC_CMA算法的一个特例。

图2 误差函数的指数函数曲线
Fig.2 Exponential function curves of error function

4 仿真实验

为了验证算法的性能,对CMA算法、FLOS_CMA算法和MCC_CMA算法进行了仿真。均衡器的收敛性能由剩余码间干扰(inter symbol interference,ISI)表示,其表达式为[5- 6]

(12)

式中,C(i)=hw(i);|Ck(i)|、|Ck(i)|max分别表示向量C(i)中元素的模和其模的最大值。仿真中采用的信道脉冲响应为h=[0.1,0.3,1,-0.1,0.5,0.2];均衡器的抽头个数M=21,采用中心抽头系数初始化方法,算法的迭代步长μ=5×10-5,输入信号是独立同分布的16-QAM信号,FLOS_CMA算法中的参数p=0.7。

例1: 在信噪比为20 dB的高斯噪声环境下,图3给出了CMA算法、FLOS_CMA算法和核长σ分别为2、6和10的MCC_CMA算法的剩余码间干扰收敛曲线。从图中可以看出:MCC_CMA算法在核长σ=2时收敛后的稳态剩余码间干扰比CMA算法低约10 dB,但随着σ的增大其稳态剩余码间干扰也逐渐增大并接近于CMA算法,这与前面CMA算法是核长为无穷大的MCC_CMA算法的理论分析是符合的。FLOS_CMA算法与核长σ=2的MCC_CMA算法的稳态性能接近,但是收敛速度较之要慢。图4给出了以上几种算法的误码率随信噪比变化的曲线,可以看出随着信噪比的增大,所有算法的误码率都是下降的,并且MCC_CMA算法的误码性能要优于CMA算法,核长越小误码率性能提高的越多。例如在信噪比为20 dB时,核长σ=10的MCC_CMA算法的误码率较CMA算法少了0.6%,而核长σ=2的MCC_CMA算法的误码率较CMA算法相差一个数量级。

图3 高斯噪声下的剩余码间干扰收敛曲线图
Fig.3 ISI convergence curves in Gaussian noise

图4 高斯噪声下的误码率
Fig.4 BER in Gaussian noise

图5 α=1.5稳定分布噪声下的剩余码间干扰收敛曲线图
Fig.5 ISI convergence curves in α=1.5 stable noise

例2: α-稳定分布是唯一满足广义中心极限定理的一种分布[14-15],它的特征指数α(0<α≤2)表征了噪声的脉冲特性。α越小噪声的脉冲性越强。当α=2时,α-稳定分布就是高斯分布。由于α稳定分布没有有限的二阶矩,定义广义信噪比为其中γα-稳定分布的离散参数。图5和图6分别给出了在特征指数α=1.5和α=1.85,广义信噪比GSNR=30 dB时CMA、FLOS_CMA和核长σ分别为2、6和10的MCC_CMA三种算法的剩余码间干扰收敛曲线;图7给出了α=1.85时三种算法的误码率随着广义信噪比变化的曲线。从图5和图6中可以看出在α-稳定分布脉冲噪声下CMA算法性能出现退化,并且随着噪声脉冲性的增强,算法的性能退化更加严重。虽然在α=1.85这样的弱脉冲噪声环境下,CMA算法经过波动后收敛到了一个稳定值,但它的眼图张开是最小的,因此CMA算法的误码率也必定要远远大于其他两种算法,图7中的仿真结果验证了这一点。FLOS_CMA算法和MCC_CMA算法在不同脉冲特性的α-稳定分布噪声环境下均能有效地抑制脉冲噪声,并最终稳定收敛。在MCC_CMA算法中,随着核长σ的减小,MCC_CMA算法的稳态剩余码间干扰和误码率特性逐渐下降。当核长σ=2时,MCC_CMA算法稳态剩余码间干扰和误码率特性与FLOS_CMA算法接近,但它的收敛速度要快于FLOS_CMA算法,而且MCC_CMA算法中核长参数σ的选取不像FLOS_CMA算法中参数p的选取那样要受到脉冲噪声先验信息的限制。

图6 α=1.85稳定分布噪声下的剩余码间干扰收敛曲线图
Fig.6 ISI convergence curves in α=1.85 stable noise

图7 α=1.85稳定分布噪声下的误码率
Fig.7 BER in α=1.85 stable noise environment

例3: 为进一步验证新算法对脉冲噪声抑制的性能,选取应用十分广泛的混合高斯分布作为脉冲噪声的数学模型[16]。图8给出了混合系数ε=0.05,噪声方差比γ2=3000,信噪比GSNR=20 dB时CMA、FLOS_CMA和核长σ分别为2、6和10的MCC_CMA三种算法的剩余码间干扰收敛曲线;图9给出了三种算法的误码率随着信噪比变化的曲线。从图8和图9可以得到同α-稳定分布脉冲噪声环境下同样的结论。值得一提的是,CMA算法虽然可以较好收敛,但其稳态剩余码间干扰和误码率特性仍远差于FLOS_CMA算法和MCC_CMA算法。且σ=2的MCC_CMA算法同时具有较低的稳态剩余码间干扰和误码率特性,以及较快的收敛速度。

图8 混合高斯分布噪声下的剩余码间干扰收敛曲线图
Fig.8 ISI convergence curves in contaminated Gaussian noise

图9 混合高斯分布噪声下的误码率
Fig.9 BER in contaminated Gaussian noise

5 结论

针对基于最小均方误差准则的恒模盲均衡算法(CMA)在脉冲噪声环境下性能退化的问题,本文利用通信信号的恒模特性,采用最大相关熵准则代替最小均方误差准则,推导出基于最大相关熵准则的恒模算法(MCC_CMA)。仿真实验结果表明:在高斯噪声和两种脉冲噪声环境下,MCC_CMA算法均比CMA算法具有较小的稳态剩余码间干扰及较低的误码率,比FLOS_CMA算法具有较快的收敛速度。并且MCC_CMA算法中参数的选取不受噪声先验信息的限制。

参考文献

[1] Johnson J C R, Schniter P, Endres T J, et al. Blind equalization using the constant modulus criterion: A review[J]. Proceedings of the IEEE, 1998, 86(10): 1927-1950.

[2] Khan Q U, Viqar S, Sheikh S A. Two novel blind equalization algorithms for rectangular quadrature amplitude modulation constellations[J]. IEEE Access, 2016, 4(12): 9512-9519.

[3] Zhou J, Zheng G, Wu J. Constant modulus algorithm with reduced probability of singularity enabled by PDL mitigation[J]. Journal of Lightwave Technology, 2017, 35(13): 2685-2694.

[4] Rupi M, Tsakalides P, Del E R, et al. Constant modulus blind equalization based on fractional lower-order statistics[J]. Signal Processing, 2004, 84(5): 881- 894.

[5] Li S, Wang Y, Lin B. Concurrent blind channel equalization in impulsive noise environments[J]. Chinese Journal of Electronics, 2013, 22(4): 741-746.

[6] 韩仿仿, 冯宝强. 一种改进的变动量项归一化p-范数短波信道盲均衡算法[J]. 重庆邮电大学学报: 自然科学版, 2015, 27(6): 717-721.

Han Fangfang, Feng Baoqiang. An improved normalized p-norm blind equalization algorithm with variable momentum for HF channel[J]. Journal of Chongqing University of Posts and Telecommunications: Natural Science Edition, 2015, 27(6): 717-721.(in Chinese)

[7] Santamaria I, Pokharel P P, Principe J C. Generalized correlation function: definition, properties, and application to blind equalization[J]. IEEE Transactions on Signal Processing, 2006, 54(6): 2187-2197.

[8] Liu W, Pokharel P P, Principe J C. Correntropy: properties and applications in non-Gaussian signal processing[J]. IEEE Transactions on Signal Processing, 2007, 55(11): 5286-5298.

[9] 张金凤, 邱天爽, 李森. 冲激噪声环境下基于最大相关熵准则的韧性子空间跟踪新算法[J]. 电子学报, 2015, 43(3): 483- 488.

Zhang Jinfeng, Qiu Tianshuang, Li Sen. A robust PAST algorithm based on maximum correntropy criterion for impulsive noise environments[J]. Acta Electronica Sinica, 2015, 43(3): 483- 488.(in Chinese)

[10] Bao R J, Rong H J, Angelov P P, et al. Correntropy-Based evolving fuzzy neural system[J]. IEEE Transactions on Fuzzy Systems, 2018, 26(3): 1324-1338.

[11] Guimaraes J P F, Fontes A I R, Rego J B A, et al. Complex correntropy: probabilistic interpretation and application to complex-valued Data[J]. IEEE Signal Processing Letters, 2017, 24(1): 42- 45.

[12] Guimaraes J P F, Fontes A I R, Rego J B A, et al. Complex correntropy function: properties, and application to a channel equalization problem[J]. Expert Systems with Applications, 2018, 107(4): 173-181.

[13] Singh A, Principe J C. Using Correntropy as a cost function in linear adaptive filters[C]∥2009 International Joint Conference on Neural Networks. Piscataway: IEEE, 2009: 2950-2955.

[14] Nikias C L, Shao M. Signal Processing With Alpha-Stable Distributions And Applications[M]. New York: John Wiley&Sons, 1995: 334-336.

[15] 邱天爽, 张金凤, 宋爱民, 等. 脉冲噪声下基于广义类相关熵的DOA估计新方法[J]. 信号处理, 2012, 28(4): 463- 466.

Qiu Tianshuang, Zhang Jinfeng, Song Aimin, et al. The generalized correntropy-analogous statistics based direction of arrival estimation in impulsive noise environments[J]. Signal Procesing, 2012, 28(4): 463- 466.(in Chinese)

[16] Poor H V, Tanda M. Multiuser detection in flat fading non-Gaussian channels[J]. IEEE Transactions on Communications, 2002, 50(11): 1769-1777.

作者简介

毕英杰 男, 1994年生, 山西阳泉人。大连海事大学硕士研究生, 主要研究方向为通信信号处理、信道均衡。

E-mail: biyj@dlmu.edu.cn

李 森 女, 1973年生, 辽宁盖州人。大连海事大学教授, 博士生导师, 主要研究方向为通信信号处理、非高斯信号处理、统计信号处理。

E-mail: listen@dlmu.edu.cn