摘要：给出了快速收敛的离散二进小波神经网络的初始化，构造和权值确定的详细方法。并将这类小波神经网络应用于传感器的非线性校正，并给出了仿真实验结果。相对使用随机贪心算法训练的神经网络，快速收敛小波神经网络利用离散二进小波变换的便利，采用启发式的构造算法；具有构造过程复杂度低，构造完成后高度接近目标模型，训练次数少，并可有效避免陷入局部极小点的优点。有效解决了小波神经网络尺度和平移系数在训练时需对小波函数进行求导而影响网络收敛速度的问题。
关键词：小波分析；小波神经网络；传感器；非线性校正
中图分类号：TN97 文献标识码：A文章编号：1009-3044(2007)05-11370-03
1 引言
传感器是各类控制系统和测量系统的核心部件。其精度直接影响到整个系统的性能。大多数传感器都容易受到环境的影响。同时，任何传感器自身存在无法避免非线性因素。因此，在实际应用中，对传感器进行非线性和环境影响的综合校正是必不可少的工作。因此有大量的工作关注传感器的修正问题。校正方法通常分为两类。一类是硬件电路法。另一类则是为传感器添加特殊的接口，对传感器的非线性和环境误差进行黑箱式的综合逆向建模。这一类校正的传统方法有：查表法，非线性AD编码和BP神经网络方法[4]。
小波神经网络是一种建立于小波分析理论基础之上，具有良好的多维函数逼近性能[2]，并存在高效的算法对网络进行初始化和获得权值[1]的新型网络。在构建传感器综合修正模型中有着重要的价值。文献[5]给出了使用小波神经网络进行虚拟仪器非线性修正的模型，但在网络的训练算法中并未充分利用小波神经网络具有的特性对网络进行初始化和训练，其训练复杂度类似于BP网络。本文采用离散二进小波框架来构造小波神经网络，对热电偶进行修正。并采用高效的构造算法对网络进行初始化和权值训练。通过数值仿真实验，可知这种网络收敛速度较传统方法快，并避免了局部极值点。
2 传感器神经网络校正模型
假设，传感器的系统传输函数可写为：y=f(x,c1,c2,...,ck)。其中，输入传感器的变量为x。ck(k=1,2,...,k)为第K个环境参变量。在这里需要修正的因素存在于两个环节。第一是当环境参量一定时，即 恒定不变的情况下，对f(x,c1,c2,...,ck)的非线性进行修正。另一因素则是传感器输入x一定的情况下环境参变量对f(x,c1,c2,...,ck)输出产生的综合影响。如果能够找到函数f(x,c1,c2,...,ck)的接口函数
f-1(x,c1,c2,...,ck)，也就能够实现传感器的精确读数。并能够根据环境变量对采集量测量的影响调整读数值。从而排除环境变量的干扰。一般情况下，系统的非线性是各个部分非线性综合作用的结果，情况复杂。接口函数f-1(x,c1,c2,...,ck)往往并不存在解析表达式；考虑到神经网络的非参数回归（Nonparametric Estimation）能力，可以通过高精度的测量系统采集校正数据，训练神经网络逼近f-1(x,c1,c2,...,ck)，从而实现对传感器的综合校正（如图1所示[5]）。实践中，一般以传感器输出t和K个环境参量作为小波神经网络的输入，待测物理量y为期望输出，对小波神经网络进行训练，当网络达到要求之后，网络推广训练样例的结果即可获得近似的传感器接口函数f-1(x,c1,c2,...,ck)。
图1 传感器神经网络校正原理
3 小波理论与小波神经网络
小波神经网络是建立在小波分析理论上的一种神经网络工具。函数ψ(t)∈L2(Rd)为径向函数，那么他的傅立叶变换 (ω)也为径向函数。设 (ω)=η(‖ω‖)（其中η唯一单值函数）。若式（1）满足，则函数ψ为一个小波函数。
如果函数ψ满足（1），则函数f∈L2(Rd)的连续小波变换可定义为：
同时f(x)的逆小波变换定义为：
其中a∈R+和t∈Rd分别被称为尺度系数和平移系数。
由于小波分解（变换）公式（2）将单变量函数f∈L2(Rd)映射到新的函数W(a,t)中，因此连续小波分解存在冗余。因此可以对其进行离散化处理而不必担心丢失目标函数的信息。在此我们仅仅给出离散小波逆变换公式：
式（4）同时定义了隐层节点传输函数为小波函数，输出层节点为线性神经元的小波神经网络。其中wi，ai，ti作为网络参数，取决于训练样本。
传统的小波神经网络采用BP法训练。这一训练算法确定尺度和平移系数ai，ti时，计算需要进行反传，即需要计算小波函数的导数。这一过程将消耗大量的时间。考虑到参数ai，ti计算的复杂性问题，如果能够在构造网络时，获得ai，ti的固定值，仅仅对参数wi进行调整，则可以使得训练时间大大缩短。
文献[1]给出了固定尺度和平移参数ai，ti的小波神经网络的一个构造方案，定义小波神经网络为式（5），其中w0为一常数，方便逼近平均值不为零的函数，实际应用过程中通常先移动目标函数使其平均值靠近零，从而可以忽略掉这一常数。
构造过程分为三步。
第一步：构造小波函数ψ扩张和平移后的集合：
其中xk为训练数据输入。由于W为无限集，不可能完全构造。考虑到一般的目标函数都支撑集有限，小波系数大部分是零元。因此，实际需要的小波集是有限的。于是，W的构造主要依据为目标函数的支集。计算各个参数，仅留下覆盖在目标函数支集上的小波，去掉无用的小波。根据离散二进小波的原理，设ai为2的n∈Z次方，t为ai-n·k,k∈Zd。采用了二进方式简化的W为：
确定n的范围后，精简过后的W包含的小波函数将大大减少。而参数n的范围确定较为复杂，我们将在后面详细讨论。
第二步：通过某种机制确定小波神经网络的隐层节点数目M。通常使用Akaike的最终预测误差条件（FPE）[4]：
npa为回归参数的数量。
第三步：从集合W中优化选择出M元集合I∈W，构成网络表达式：
其中wi为构造并初始化后的网络节点的权值。由于W中包含的小波数量较大，相应的状态空间无法进行全局的搜索。因此，文献[1]给出了启发式的选择算法。这一算法特点在于，每一次的选择都基于小波与目标函数的内积，即靠近程度。在选择“靠近”的小波后，使用Gramdchmidt正交算法对剩下的小波函数进行规范正交化处理。重复这一过程，直到选择出M个小波函数。同时，这一算法还给出了wi的初始值。
在小波集构造过程中，未能确定小波尺度函数范围的选择。根据小波理论，尺度参数范围的下限应该根据目标函数所属的多分辨空间来决定[6]。但在通常的情况下，目标函数属于哪一个多分辨空间并不能预先知道。我们只能够根据训练数据的采样情况来预估函数的多分辨空间。当尺度参数使小波函数支撑收缩到不能覆盖两个以上的数据采样点时，则可认为此时的小波函数与目标函数在同一个多分辨空间，可将此时的尺度参数作为下限。同时，文献[2]给出一种普通小波神经网络的尺度和平移参数的初始化建议，能够较为合理的初始化尺度和平移参数。在这里有一定的参考意义。综合考虑上述选择的启发式算法，我们给出一种改进到二进小波神经网络上的尺度函数范围选择方法。
考虑到所用二进小波。设所需逼近的函数区间为[a,b]，选择最大的二进尺度的指数n为：
设训练样本点间隔为?驻x，则有二进小波尺度指数的最小值nmin为：
经过以上步骤对小波神经网络（6）构造完成之后，网络（6）已经高度逼近目标函数。如果逼近效果仍未能够达到所需的要求，可继续采用LMS算法对网络继续进行训练。在之后的应用举例中可以看出，小波神经网络构造后训练次数较普通的网络少。在很多情况下，网络构造完成后就已经达到了精度要求。因此，整个网络可以在可控的时间内实现收敛。
4 网络仿真试验
使用所介绍的网络对传感器数据进行修正，并在Matlab上进行仿真。
热电偶传感器是一种温度传感器。根据比较两端温差产生的热电效应对温度进行检测。表1给出了热电偶传感器的读数表。表2为热电偶在参考端温度不为0℃时的修正值。
表1 铂铑30-铂铑6热电偶(B型)分度表（ITS-90）
表2 B型热电偶参考端温度非0℃时的校正表（修正值加上所查的热电势）
从Matlab对应的图（图2）上可以看出，热电偶在一端温度恒定的情况下，传感器曲线存在非线性。采用读数修正表本质是对传感器进行查表折线修正，在两个精准值之间，读数往往误差较大。构造单输入单输出小波神经网络，对表1所示曲线进行逆向建模，逼近表1函数的逆函数。设横坐标为传感器输出，纵坐标为环境温度。可得出逆向函数的大致图像（图3）。修正表的图标描述见（图4）。
同时，参考端温度非零时需要调整读数。将参考端温度列为环境参量输入系统进行校正。由于校正与测量的过程是简单的加合过程，可采用简化的模型[4]，即分开用两个网络进行建模，最终合成传感器读数。
修正采用单输入但输出的网络结构。神经元上的小波函数采用墨西哥草帽小波。
图4 B型热电偶参考端温度非0℃查表校正曲线
根据waveinfo函数提供的信息，墨西哥草帽小波的有效支撑为[-5，5]。训练采样点数量为19个，区间为[0，14]，由Akaike FPE标准可得，用于逆向函数建模的网络隐层节点的数量为10。
由于函数在定义域上积分不为0。w0将会影响逼近。为了获得良好的逼近效果。需要函数积分尽量靠近0。一个简单的做法是先将逆函数延纵坐标下移w0。即下移到函数重心位置，本例中w0=11。移动过后，函数的积分接近于0。最终重构时，再将这一常数加入网络。
需要注意的是，逆向函数训练节点在定义域上步进长度不均匀。为了不丢失信息，在构造W时，以最小步长为?驻x基准构造网络。由式（9），（10）计算，最终获得二进小波函数集：
确定式（12）中的参数kn，使得每一个小波函数的支集与目标函数支集相交，完成对W的构造。从图5中可看出小波函数集W包含44个小波，同时显示了每一个小波与目标函数的相关程度。
图5 小波函数元素与目标函数规内积示意图
根据启发式选择算法经过一系列的选择和正交归一化，最终获得权值集合wi。在采样点上的回归效果如图6，均方误差值为0.0022（相对误差0.016%）。可在这一基础上对网络采用LMS算法进行进一步训练，使网络均方误差小于10e-3。
图6 网络逼近效果
网络推广能力是一个重要的问题。重新设定传感器输出的电压，从0mV到13mV均匀步长为网络输入。输入网络对数据进行验证。最终逼近如图7所示。
图7 网络推广效果
与上述情况类似，构造环境参数修正网络。需要注意的是，为了使得逼近效果更佳，可以对数据进行对称延拓，根据数据表，在最左边增加数据点：（-10，0.002），以获得对称训练样例。计算网络节点为4时误差达到最小化。均方误差为：1.2499e-005（但是如果去除添加的点，余下数据逼近的均方误差为：8.5028e-006）修正表的网络逼近结果以及推广效果如图8（小于0的延拓数据需要忽略）。
图8 修正曲线逼近及推广效果图
5 结论
通过以上的神经网络仿真实验可以看出，这种快速收敛的小波神经网络能够在可控的范围内收敛到所需的最优值。并且，构造过程与问题规模大小成多项式复杂度。同时，小波神经网络的高度非线性模型，使得这一网络能够应用于任何一种传感器的非线性校正，而无需了解传感器本身的原理。考虑到需要进行统一尺度的小波网络构建，本文没有采用正交的小波神经元。理论证明，正交小波在权值的确定上有着更加高效的算法，并有着更为良好的逼近性能。有待进一步研究。
参考文献：
[1]Q. Zhang. Using Wavelet Network in Nonparametric Estimation [J]. IEEE trans., neural networks, 1997(8),2:227-236.
[2]Q. Zhang, A. Benveniste.Wavelet Networks[J].IEEE trans., neural networks,1992(13),6:889-898.
[3]Shengtun Li,Shuching Chen.Function Approximation using Robust Wavelet Neural Networks [J]. ICTAI2002.2002:483-488.
[4]Jagdish Chandra Patra, Alex C. Kot, and Ganapati Panda. An Intelligent Pressure Sensor Using Neural Networks [J]. IEEE trans. Instrum., Meas., Vol. 49, No. 4, Aug 2000.
[5]谭超，许泽宏，李维一．基于小波神经网络建立虚拟仪器非线性软校正模型[J]．传感器与仪器仪表．2005，13（1）：157-159．
[6]唐远炎，王玲．小波分析与文本文字识别[M]．北京：科学出版社，2002．
[7]詹友基，乐清洪，贾敏忠．基于SLFM为网络的传感器静态误差修正[J]．福州工程学院学报,2003，1（4）：38-41．
本文中所涉及到的图表、注解、公式等内容请以PDF格式阅读原文。