基于支持向量机回归树的内燃机振动信号趋势预测

第３７卷第５期　２０１５年５月　舰船科学技术　Ｖｏ１．３７，Ｎｏ．５　ＳＨＩＰ　ＳＣＩＥＮＣＥ　ＡＮＤ　ＴＥＣＨＮＯＬＯＧＹ　Ｍａｙ，２０１５　基于支持向量机回归树的内燃机振动信号趋势预测　万祥兰　，范明君　（１．湖北工业大学理学院，湖北武汉４３００６８；２．海军装备部武汉局，湖北武汉４３００６３）　摘　要：　针对标准回归树建立在统计分析基础上所存在的缺陷，提出一种基于支持向量机的回归树预测模　型。首先，根据原始振动信号趋势序列构建回归树；然后，针对回归树上包含样本数过少的节点，利用支持向量机，建　立能够反映重要变量与响应变量之间映射关系的回归模型。仿真结果表明：即便由于设备出现异常，导致振动信号趋　势序列出现非平稳、突变情况，该方法也能准确地预测，性能优于标准分析方法，具有一定的工程实用性。　关键词：　支持向量机；回归树；趋势预测；Ｃａｏ方法　中图分类号：ＴＰ１８；ＴＨ１７　文献标识码：Ａ　文章编号：１６７２—７６４９（２０１５）０５—００６７—０３　ｄｏｉ：１０．３４０４／ｊ．ｉｓｓｎ．１６７２—７６４９．２０１５．０５．０１３　Ｔｈｅ　ｔｒｅｎｄ　ｐｒｅｄｉｃｔｉｏｎ　ｏｆ　ｅｎｇｉｎｅ　ｖｉｂｒａｔｉｏｎ　ｓｉｇｎａｌｓ　ｂａｓｅｄ　ｏｎ　ＳＶＭ—－ＲＴ　ＷＡＮ　Ｘｉａｎｇ．１ａｎ　，ＦＡＮ　Ｍｉｎｇ．ｊｕｎ　（１．Ｓｃｈｏｏｌ　ｏｆ　Ｓｃｉｅｎｃｅ，Ｈｕｂｅｉ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ，Ｗｕｈａｎ　４３００６８，Ｃｈｉｎａ；　２．Ｗｕｈａｎ　Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｃｈｉｎｅｓｅ　Ｎａｖａｌ　Ａｒｍａｍｅｎｔ，Ｗｕｈａｎ　４３００６３，Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ：　Ｆｏｒ　ｔｈｅ　ｄｉｓａｄｖａｎｔａｇｅ　ｏｆ　ｓｔａｎｄａｒｄ　ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅｓ　ｗｈｉｃｈ　ｗａｓ　ｂａｓｅｄ　ｏｎ　ｔｈｅ　ｓｔａｔｉｓｔｉｃ　ａｎａｌｙｓｉｓ，　ａ　ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅｓ　ｐｒｅｄｉｃｔｉｏｎ　ｍｏｄｅｌ　ｂａｓｅｄ　ｏｎ　ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ　ｗａｓ　ｐｒｏｐｏｓｅｄ．Ｆｉｒｓｔｌｙ，ｔｈｅ　ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅｓ　ｗａｓ　ｅｓｔａｂｌｉｓｈｅｄ　ｔｈｒｏｕｇｈ　ｏｒｉｇｉｎａｌ　ｖｉｂｒａｔｉｏｎ　ｓｉｇｎａｌ　ｔｒｅｎｄ　ｓｅｒｉｅｓ．Ｔｈｅｎ，ｆｏｒ　ｔｈｅ　ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅｓ　ｎｏｄｅｓ　ｉｎ　ｗｈｉｃｈ　ｔｈｅ　ｓａｍｐｌｅ　ｎｕｍｂｅｒ　ｗａｓ　ｔｏｏ　ｓｍａｌｌ，ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ　ｗａｓ　ｅｍｐｌｏｙｅｄ　ｔｏ　ｅｓｔａｂｌｉｓｈ　ｒｅｇｒｅｓｓｉｏｎ　ｍｏｄｅｌ　ｗｈｉｃｈ　ｃａｎ　ｄｅｓｃｒｉｂｅ　ｍａｐｐｉｎｇ　ｒｅｌａｔｉｏｎｓｈｉｐ　ｏｆ　ｔｈｅ　ｉｍｐｏｒｔａｎｔ　ｖａｒｉａｂｌｅｓ　ｔｏ　ｔｈｅ　ｒｅｓｐｏｎｓｅ　ｖａｒｉａｂｌｅｓ．Ｔｈｅ　ｓｉｍｕｌａｔｉｏｎ　ｒｅｓｕｌｔｓ　ｉｎｄｉｃａｔｅ　ｔｈｅ　ｐｒｏｐｏｓｅｄ　ｍｅｔｈｏｄ　ｎｏｔ　ｏｎｌｙ　ｃａｎ　ａｃｃｕｒａｔｅｌｙ　ｐｒｅｄｉｃｔ　ｎｏｎ－ｓｔａｔｉｏｎａｒｙ　ａｎｄ　ｓｕｄｄｅｎ　ｃｈａｎｇｅ　ｏｆ　ｖｉｂｒａｔｉｏｎ　ｓｉｇｎａｌｓ　ｗｈｅｎ　ｅｑｕｉｐｍｅｎｔ　ｗｏｒｋｓ　ａｂｎｏｒｍａｌｌｙ，ａｎｄ　ｔｈｅ　ｐｅｒｆｏｒｍａｎｃｅ　ｏｕｔｐｅｒｆｏｒｍｓ　ｔｈｅ　ｓｔａｎｄａｒｄ　ｔｅｃｈｎｉｑｕｅｓ，ｗｈｉｃｈ　ｉｌｌｕｓｔｒａｔｅｓ　ｉｔｓ　ｐｒｏｊｅｃｔ　ｐｒａｃｔｉｃａｂｉｌｉｔｙ．　Ｋｅｙ　ｗｏｒｄｓ：　ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ；ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅｓ；ｔｒｅｎｄ　ｐｒｅｄｉｃｔｉｏｎ；Ｃａｏ　Ｓ　ｍｅｔｈｏｄ　０　引　言　趋势预测是指在获得当前时刻设备运行状态评　估信息的基础上，利用各种推理算法对系统未来某　占训练集数目很少一部分，由于ＳＶＭ不能选择合　适的样本输入，使得标准ＳＶＭ训练算法无法获得　令人满意的训练速度。相反，回归树（ＲＴ）是基　于统计理论的非参数识别技术　，它可以根据分　支规则自动地将所有输入数据分配到每一个节点　时刻的状态进行评估。因此，趋势预测作为故障诊　断中一个重要环节倍受重视。支持向量机（ＳＶＭ）　上。但是，每一叶节点上的输出值只能以这个节　点上所包含样本的平均值来表示；而且，如果某　一近年来逐渐成为人工智能领域的一个研究热点，在　许多实际应用中表现出了优于传统回归技术的预测　能力¨　。不足之处是：支持向量决定了支持向量　机回归　。实际应用中，通常样本的规模都很大，　且在绝大多数情况下，训练集中的支持向量数目只　收稿日期：２０１４—１２—１５；修回日期：２０１４—１２—２４　节点上包含的样本数太少的话，预测结果就失　去了统计意义上的可信度。机械设备在多数时间　内能够保持平稳运行，所以如果训练样本选择不　当或者即使所选样本中包含由于故障引起的突变　作者简介：万祥兰（１９７６一），女，硕士，主要从事高等数学、应用数学教学及工程数学算法与数据分析处理等研究。　・６８・　舰船科学技术　第３７卷　数据，根据建立回归树的评价标准，如果某一节　点上包含的样本数过少或者样本过于分散，那么　３　ＳＶＭ—ＲＴ算法设计　具体步骤如下：　１）根据训练样本建立回归树预测模型；　２）假设一个预测样本被划分到叶节点　。，而且　ｔ。属于第２类叶节点，返回到上一级根节点，假设　ｔ　和ｔ　由ｔ　而成，ｔ。由　而成。分别计算　ｔ，，ｔ　和ｔ，所包含样本响应变量标准差Ｄ。，Ｄ２和Ｄ　；　ｎ　』ｎ　将从新划分，但恰恰这类小概率事件就落在这样　的节点上，因此标准的回归树预测模型很难准确　预测到这种突然的变化情况。　为了解决上述问题，本文提出将支持向量机应　用到回归树模型中，利用时间序列建立回归树预测　模型，对回归树上包含样本数量少、样本差异程度　大的节点，将其所包含的样本作为工作子集，进行　支持向量机回归。　１　时间序列的构造　设时间序列｛　（１），　（２），…，　（Ⅳ）｝，时间　序列预测即是根据时间序列的历史数据｛　（ｔ），　（ｔ一１），…，　（ｔ—ｍ＋１）｝预测未来ｔ＋Ｊｒ时刻的　值　（ｔ＋丁），即寻找　（ｔ＋７－）与历史数据｛　（ｔ），　（ｔ—１），…，　（ｔ—ｍ＋１）｝之间的关系。参数ｆ　是预测步数，ｍ为嵌入维数，因为振动时间序列　具有非平稳，非线性特点　，本文借鉴混沌时间　序列重构相空间中确定嵌入维数的Ｃａｏ方法…来　确定嵌入维数ｍ。　２　回归树基本理论　定义￡是由（　。，Ｙ。），…，（　，Ｙ　）组成的ｎ维学　习样本集，其中　＝（　¨…，　）是由一组变量　构成的向量，而Ｙ　∈Ｒ是与　有关的响应变量。回　归树结构通过依次把学习样本按照一定规则成　两部分而建立起来。如图ｌ所示，其中ｔ．表示根节　点，由全部学习样本组成；ｔ　，ｔ　，ｔ　，ｔ。，ｔ　表示叶节　点，即不再往下分的节点。在图１中，节点ｔ：和ｔ　由ｔ。按一定的规则而成，ｔ　和ｔ　由ｔ　而成。　如果从节点ｔｉ到节点ｔ　之间有一条自上而下的通路　连接，则称ｔ　是ｔｊ的父节点，ｔｊ是ｔ　的子结点。ｔ　，ｔ　，　ｔ。，ｔ　都是ｔ：的子结点。　（　）　／ｇ（与）　图１　回归树模型　Ｆｉｇ．１　Ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅ　ｍｏｄｅｌ　３）定义离散率ＳＤＲ＝　２，１－１Ｉ　，当ＳＤＲ越　小，说明ｔ　和ｔ　包含的两类样本差别越大，设Ａ为　离散率的最大值，如果ＳＤＲ＜Ａ，说明根据拆　分规则，节点ｔ。被有效地拆分成２个相异的子集￡：　和ｔ　；如果ＳＤＲ＞Ａ，说明２个子集之间存在一定的　相似性。用　表示样本完全同质的节点，并将这些　样本作为支持向量机回归的训练样本。因此，如果　ＳＤＲ＜Ａ，则Ｔ＝ｔ，。如果不能满足上述条件，则从　新选取划分规则，对节点ｔ　进行划分，直到满足条　件为止；　４）将节点　和它所有子节点上的拆分变量作　为重要变量，例如，在图１中，如果ｔ　被认为是节　点　，那么重要的变量就包括　和　；如果节点ｔ　被认为是节点　，那么重要的变量就只有　，因为　没有与其他变量相关的。这些重要变量将　作为支持向量机输入变量部分；　５）将节点　所包含样本的响应变量和重要变　量组成训练样本，本文采用占一支持向量回归机　（８一ＳＶＲ）进行回归，具体算法推倒可参阅文献　［４］，建立能够反映重要变量与响应变量之间映射　关系的回归模型。　４　应用实例仿真　４．１试验方法　对某柴油机的运行情况进行监测，并连续记录　柴油机振动加速度信号，每隔５　ｈ提取一个振动的　峰峰值，从而组成一个单变量时间序列，如图１所　示，共５００个数据。在这个序列中，连续选取前　３００个点作为训练样本，剩余的２００个点作为测试　样本。采用样本的相对误差ＰＥ和平均绝对百分误　差ＭＡＰＥ作为模型性能的评价指标，即　阳＝Ｉ　ＩＶ．　ｌ　１ｘｌ０　册　ｉ’　　＝　１　ｌＩ　ｙ　Ｉ【　。　式中：Ⅳ为检测数据集中样本个数；Ｙ　为真实值；夕　第５期　万祥兰，等：基于支持向量机回归树的内燃机振动信号趋势预测　．・６９・　目疆　遮　—　蜷　为预测值。　４．２　ＳＶＲ—ＲＴ与ＲＴ预测模型的对比研究　本文使用２种方法分别进行预测并进行比较，　一是基于ＳＶＭ的ＲＴ预测模型；二是不使用ＳＶＭ直　接使用ＲＴ预测模型。仿真结果如图２所示。　样本　（ａ）ｌ～２５０组数据　样本　（ｂ）２５０￣３００组数据　图２不同模型的训练结果　Ｆｉｇ．２　Ｔｒａｉｎｉｎｇ　ｒｅｓｕｌｔｓ　ｏｆ　ｄｉｆｆｅｒｅｎｔ　ｍｏｄｅｌｓ　从图２（ａ）中可以看出，对于训练样本的前２５０　组数据而言，ＲＴ预测值曲线、ＳＶＭ—ＲＴ预测值曲线　与真实值曲线基本重合，这主要是由于这些样本都是　在柴油机正常运转情况下测得的，振动信号也相对平　稳，所以２种方法对预测的结果没有太大影响，说明　２种方法对平稳时间序列都有较强的学习能力；但是　对于前２５０组训练样本，ＲＴ模型ＭＡＰＥ＝０．０１６　７，　而ＳＶＭ—ＲＴ模型ＭＡＰＥ＝０．００８　４，从中可以看出，　由于本文方法主要是针对ＲＴ模型对突变点预测精度　不足进行改进，所以即使是在平稳时间序列中，也存　在相对的突变和不平稳，在此情况下，由于采用了改　进算法，预测精度还是有所提高。　如图２（ｂ）所示，训练样本中，第２５０～３００之间　的时间序列有明显的非平稳特性，在某些样本点处出　现振动加速度急剧变大或者变小，对于这类非平稳振　动信号，采用本文的预测模型，不仅能对在２５７—２９４　之间的平稳时间序列作出准确的预测，而且通过对原　始样本的学习，仍然可以预测到振动信号非平稳的变　化趋势，例如样本２５１、２５７和２９７的振动数据明显　与其他样本的值相差很大，但是通过训练，尽管训练　结果与真实值不能完全的吻合，但仍然能够反映振动　信号突然变化的趋势；同样是采用相同的训练样本，　采用ＲＴ预测模型的训练结果如图２（ｂ）中点线所　示，在振动信号为平稳的时间段内，仍然可以得到满　意的学习效果，但是当时间序列中出现非平稳的现象　时，原始的ＲＴ模型就很难准确的预测到这种突然的　变化趋势，即使预测到了这种变化趋势，例如第２５４　和第２５５样本的真实值分别为４９．４１０　３　ｍ／ｓ　和　１９６．８９６　３　ｍ／ｓ　，训练结果分别为６０．４５２　９　ｍ／ｓ　和　８０．７０７　７　ｍ／ｓ　，从训练结果上看，虽然预测到了在５　ｈ之后，有振动加剧的趋势，但是真实的变化幅度和　通过预测得到的变化幅度分别为１４７　ｍ／ｓ　和２０　ｍ／ｓ　，　预测结果要远远小于真实结果，导致对柴油机的运转　情况作出错误判断。　５　结　语　针对回归树模型是建立在统计理论基础之上所　带来了种种局限性，本文提出一种将支持向量机的　结构风险最小化原则和适合小样本学习与回归树能　够提取重要变量并且对输入空间能够进行自适应划　分的特点相结合的ＳＶＭ—ＲＴ预测模型，通过采用　支持向量机理论，建立能够反映回归树上失去统计　意义节点上的重要变量与所包含样本响应变量之间　映射关系的回归模型。仿真结果表明：改进算法无　论是在训练精度还是泛化能力方面，都明显优于标　准的回归树预测模型。　参考文献：　［１］　ＦＥＮＧ　Ｌ，ＹＡＯ　Ｙ，ＪＩＮ　Ｂ．Ｒｅｓｅａｒｃｈ　ｏｎ　ｃｒｅｄｉｔ　ｓｃｏｒｉｎｇ　ｍｏｄｅｌ　ｗｉｔｈ　ＳＶＭ　ｆｏｒ　ｎｅｔｗｏｒｋ　ｍａｎａｇｅｍｅｎｔ［Ｊ］．Ｊｏｕｒｎａｌ　ｏｆ　Ｃｏｍｐｕｔａｔｉｏｎａｌ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｙｓｔｅｍ，２０１２（６）：３５６７—３５７４．　［２］ＴＨＩＳＳＥＮ　Ｕ，ＢＲＡＫＥＬ　Ｒ　Ｖ，ＷＥＩＪＥＲ　Ａ　Ｐ　Ｄ，ｅｔ　ａ１．Ｕｓｉｎｇ　ｓｕｐｐｏ￣ｖｅｃｔｏｒ　ｍａｃｈｉｎｅｓ　ｆｏｒ　ｔｉｍｅ　ｓｅｒｉｅｓ　ｐｒｅｄｉｃｔｉｏｎ［Ｊ］．　Ｃｈｅｍｏｍｅｔｒｉｃｓ　ａｎｄ　Ｉｎｔｅｌｌｉｇｅｎｔ　Ｌａｂｏｒａｔｏｒｙ　Ｓｙｓｔｅｍｓ，２０　１　３，６９　（１—２）：３５—４９．　［３］　杨俊燕，张优云，赵荣珍．支持向量机在机械设备振动信　号趋势预测中的应用［Ｊ］．西安交通大学学报，２００５，３９　（９）：９５０—９５３．　［４］　邓乃扬，田英杰．数据挖掘中的新方法——支持向量机　［Ｍ］．北京：科学出版社，２００４．　［５］　ＢＲＥＩＭＡＮ　Ｌ，ＦＲＩＥＤＭＡＮ　Ｊ　Ｈ，ＯＬＳＨＥＮ　Ｒ　Ａ，ｅｔ　ａ１．　Ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ａｎｄ　ｒｅｇｒｅｓｓｉｏｎ　ｔｒｅｅｓ［Ｍ］．Ｍｏｎｔｅｒｅｙ，Ｃａｌｉｆ，　ＵＳＡ：Ｗａｄｓｗｏｒｔｈ，Ｉｎｃ．，１９８４．　［６］　石博强．机械故障诊断的分形方法［Ｍ］．北京：冶金工业　出版社，２００１．　［７］　ＣＡＯ　Ｌｉａｎｇ—ｙｕｅ．Ｐｒａｃｔｉｃａｌ　ｍｅｔｈｏｄ　ｆｏｒ　ｄｅｔｅｒｍｉｎｉｎｇ　ｔｈｅ　ｍｉｎ－　ｉｍｕｍ　ｅｍｂｅｄｄｉｎｇ　ｄｉｍｅｎｓｉｏｎ　ｏｆ　ａ　ｓｃａｌａｒ　ｔｉｍｅ　ｓｅｒｉｅｓ［Ｊ］．　Ｐｈｙｓｉｃａ　Ｄ，２０１２，１１０：４３—５０．