[发明专利]一个基于信息熵的数据流自适应集成分类方法

摘要

本发明公开了一个基于信息熵的数据流自适应集成分类方法，不仅能检测到概念漂移而且能识别重复概念，在该系统中，只有当检测到有新概念时才重建新的分类器并放入分类器池中，防止重复概念出现导致的重复训练的问题，减少模型更新频率，提高模型实时分类能力和分类效果，通过在人工合成数据集和真实数据集上与经典的数据流算法进行性能分析对比，实验表明该方法不仅能够应对多种类型概念漂移，提升了分类模型抗噪声能力，并在保证较高分类准确率前提下，消耗更少的时间代价，该方法可以应用于传感器网络异常检测、信用卡欺诈行为检测、天气预报和电价预测等众多实际问题中。 1

主权项

1.一个基于信息熵的数据流自适应集成分类方法，其特征在于：自适应集成分类方法，分两个阶段组成：概念检测阶段和集成分类阶段；其具体步骤包括如下：

步骤一：初始化集成分类器及缓存区；

步骤二：逐个将实例移入到滑动窗口中；

步骤三：利用所提出的基于两个窗口的检测模型描述如下：用W₁＝{x_t+1，x_t+2，...，x_t+n}和W₂＝{x_t+n+1，...，x_t+2n}分别表示t时刻两个连续的大小相等的窗口，W₁表示参考窗口，W₂表示当前窗口。用JSD(W₁||W₂)度量两个窗口之间分布的距离，当此值小于等于10^‑5(非常接近于零)时，表示两个窗口的数据分布相同，即发现重复概念；当大于10^‑5小于阈值τ时，认为两个窗口之间的分布无显著性差异，当大于阈值则表明此时有概念漂移发生。阈值采用bootstrap的方法计算得到。由于窗口每次向前滑动一个实例，因此能及时检测到突变式概念漂移；

步骤四：当检测到有概念漂移发生时，就与分类器池中的建立分类器的数据的分布进行比较，若是新概念则新建一个分类器加入到分类器池中，并把相应的数据放在缓存区；若是重复概念则重用已有分类器。分类器按照重复使用的频率从高到低排序，当分类器池中存放的分类器数达到最大值时，则替换最不经常使用的分类器；

步骤五：根据每个基分类器在最新窗口中实例的分类错误率，采用加权投票的方式对每个实例进行预测。