基于OSA算法和GMDH网络集成的电子商务客户流失预测_朱帮助

第１９卷　第５期 ２０１１年　　１０月　　　　　　　　　 　 中国管理科学 Ｃｈｉｎｅｓｅ　Ｊｏｕｒｎａｌ　ｏｆ　Ｍａｎａｇｅｍｅｎｔ　Ｓｃｉｅｎｃｅ 　 　　　　　　　　　 Ｖｏｌ．１９，Ｎｏ．５ Ｏｃｔ．，　２０１１ 文章编号：１００３－２０７（２０１１）０５－００６４－０７ 基于ＯＳＡ算法和ＧＭＤＨ网络集成的电子 商务客户流失预测 朱帮助１，２，张秋菊１，２，邹昊飞３，魏一鸣２ （１．五邑大学经济管理学院，广东 江门　５２９０２０；２北京理工大学管理与经济学院，北京　１０００８１； ３．中国国际工程咨询公司，北京　１０００４８） 摘　要：电子商务客户流失预测是一种典型的高维、非线性、数据不平衡问题，传统的方法已很难提高其预测精度。 本文将自组织数据挖掘方法（ＳＯＤＭ）引入电子商务客户流失预测，提出一种基于客观系统分析（ＯＳＡ）和数据分组 处理（ＧＭＤＨ）网络集成的电子商务客户流失预测模型。首先利用ＯＳＡ算法自动选择出重要的电子商务客户流失 关键属性，然后将训练样本送入ＧＭＤＨ网络进行学习与训练，进而对测试样本客户流失状态进行预测。为了提高 预测精度，本文还利用向上采样法进行数据平衡化，使得流失类和非流失类客户数量大致相等。应用该模型对某 网上商场客户流失状态进行预测，并将预测结果与神经网络、ＳＶＭ 等方法得到的结果进行了比较，验证了该模型 的有效性及实用性。 关键词：自组织数据挖掘；客观系统分析；数据分组处理；客户流失预测；电子商务 中图分类号：ＴＰ１８；Ｆ２７０　　　文献标识码：Ａ 收稿日期：２００９－１２－０４；修订日期：２０１１－０７－１２ 基金项目：国家自然科学基金资助项目（７０４７１０７４）；国家博士后 科学基金资助项目（２０１００４７０００８）；广东省自然科学 基金资助项目（９４５２９０２００１００４０６０） 作者简介：朱帮助（１９７９－），男（汉族），江苏宿迁人，五邑大学经 济管理学院副教授，北京理工大学管理与经济学院博 士后，研究方向：复杂系统分析与建模、ＣＲＭ建模、智 能信息处理理论与应用研究． １　引言 客户流失是指企业原来的客户中止继续购买企 业商品或接受企业服务，转而接受竞争对手的商品 或服务［１］。最近十多年，互联网技术与应用的快速 发展不仅给企业业务流程带来了巨大改变，也对消 费者行为模式产生了深刻影响。２００９年全球互联 网用户总数已突破１０亿人，我国约占１７．８％［２］。 网上商场越来越成为大量互联网用户光顾的场所， 其最大优势是能以极低的代价接触潜在客户，最大 劣势是转换率极低（通常只有约２％的潜在客户转 化为客户）和流失率奇高（８０％左右的客户只购买一 次就不再购买）。面对新的机遇和挑战，电子商务企 业的一个重要任务是识别出哪些客户可能会流失， 进而采取相应措施，尽量减少损失，实现利益最大 化［１］。由此电子商务客户流失预测研究成为目前国 际电子商务与商务智能研究的重大课题之一。 目前国内外理论界和企业界对电子商务客户流 失预测研究的主流是将其视为模式识别的分类问 题，根据客户在一段时间（例如３个月）内是否与企 业再发生交易行为，建立客户流失预测模型，将其判 为流失客户和非流失客户两类。对于客户流失预测 模型的构建，得到广泛应用的方法主要有两大类： （１）以多元判别分析和Ｌｏｇｉｓｔｉｃ回归分析等为代 表 关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf 的统计分析方法［３，４］；（２）以人工神经网络、支持向 量机、进化算法等为代表的人工智能方法［１，５－８］。由 于统计方法的可用性与建立分类模型时所需的多个 假设和条件紧密相关，而现实中大量客户数据极有 可能满足不了这些要求，因此难以满足实际需要。 近年来人工智能方法不断被应用于客户流失预测研 究，并在一些实证研究中取得了较好的效果［１，５－８］。 但上述人工智能方法应用效果大多依赖于研究者的 知识和经验，较难有效保证预测精度，极大限制了这 些方法在实际中的应用。因此，探索新的客户流失 预测方法显得尤为必要。 作为一种新型启发式自动建模技术，自组织数 据挖掘（ｓｅｌｆ－ｏｒｇａｎｉｚｅ　ｄａｔａ　ｍｉｎｉｎｇ，ＳＯＤＭ）是一类 多变量分析的复杂系统建模和识别方法［９，１０］。自组 织数据挖掘能够根据外准则和终止法则找到最优复 杂度模型，自动完成建模过程，有效解决了过度学习 问题，具有良好的推广性能。近年来，自组织数据挖 掘在工程、科学、经济等领域都得到了广泛应用，表 现出了很高的预测精度，但将其应用于客户流失预 测研究尚很罕见。本文尝试将自组织数掘挖掘中的 客观系统分析算法 （ｏｂｊｅｃｔｉｖｅ　ｓｙｓｔｅｍ　ａｎａｌｙｓｉｓ， ＯＳＡ）和数据分组处理网络（ｇｒｏｕｐ　ｍｅｔｈｏｄ　ｏｆ　ｄａｔａ ｈａｎｄｉｎｇ，ＧＭＤＨ）相结合，建立电子商务客户流失 预测模型，并通过对某网上商场实际客户数据进行 实证分析，取得了比其他算法更好的预测效果，说明 该方法具有较强的实际应用价值。 ２　基于ＯＳＡ算法和ＧＭＤＨ网络集成的电 子商务客户流失预测模型 ２．１　ＯＳＡ算法 在研究复杂系统时，为避免对因变量有重要影 响的因素的漏选，通常是尽可能多的选择对因变量 较有影响的因素（自变量）。当这些因素（自变量）较 多时，把它们都作为ＧＭＤＨ网络的输入，显然会增 加网络的复杂度，降低网络性能，增加计算运行的时 间，影响计算的精度。实际上，这些因素（自变量）在 对未知数据进行预测（分类）时并非都是有用的，或 者说并非都是十分有用的。从特征选择的角度考 虑，类别在很大程度上是由最能体现类别特征的少 数关键属性决定的［１１］。因此，可以用特征选择方法 挑选出一些对分类最有用的影响因素（自变量）作为 ＧＭＤＨ网络的输入。自组织数据挖掘中的客观系 统分析算法（ＯＳＡ）为解决这一难题提供了较好的 方法。ＯＳＡ被称为“发现规律”的算法，能够从众多 有相互关联的因素（自变量）中找出最本质的特征变 量，简化ＧＭＤＨ网络的输入。 假定一组由 Ｎ 个样本构成的样本全集Ｗ ＝ ｛ｘ１，ｘ２，…，ｘｍ，ｕ｝。其中，ｘ１，ｘ２，…，ｘｍ 为系统的ｍ 个属性变量，ｘｉｊ表示第ｉ个变量的第ｊ个样本值，ｕ 为目标变量。 ＯＳＡ算法的基本步骤如下： 第一步：对样本全集Ｗ 进行分割：Ｗ ＝Ａ∪Ｂ， Ａ∩Ｂ＝Φ，其中Ａ，Ｂ中的样本个数相等。记Ｐ＝ ｛１，２，…，ｍ｝，Ｑ＝ ｛１，２，…，Ｎ｝。 第二步：令ｈ＝１。 （１）对第ｉ个变量，用最小二乘法在样本全集Ｗ 上进行参数估计，得： ｘｉ＝ａ０＋ｂｘ０，ｉ∈Ｐ （１） 分别在数据集Ａ 和Ｂ 上用最小二乘法进行参 数估计，得： ｘｉＡ ＝ａ０Ａ ＋ｂＡｘ０，ｘｉＢ ＝ａ０Ｂ ＋ｂＢｘ０，ｉ∈Ｐ （２） （２）计算最小偏差准则值 ηｈｉ ２ ＝ １Ｎ∑ Ｎ ｋ＝１ （ｘｉ Ａ（ｋ）－ｘｉＢ（ｋ） ｘｉ（ｋ） ）２，ｉ∈Ｐ （３） 式（３）中，ｘｉ（ｋ）、ｘｉＡ（ｋ）和ｘｉＢ（ｋ）分别表示在 数据全集Ｗ、数据集Ａ和数据集Ｂ 上得到的参数估 计值。 记η＊ｈ ＝ｍｉｎ（ηｈｉ）。 第三步：令ｈ＝ｈ＋１ （１）在ｍ个属性变量中，任取ｈ个不同的属性 变量ｘｉ，ｘｊ，…，ｘｐ，ｘｒ，ｉ，ｊ，…，ｒ∈Ｐ，用最小二乘法 在样本全集Ｗ 上进行参数估计，得到ｈ元方程组： ｘｉ＝ａ０１＋ａ１１ｘｊ＋…＋ａ（ｈ－１）１ｘｒ＋ｂ１ｘ０ ｘｊ ＝ａ０２＋ａ１２ｘｉ＋…＋ａ（ｈ－１）２ｘｒ＋ｂ２ｘ０ … ｘｒ ＝ａ０ｈ＋ａ１ｈｘｉ＋…＋ａ（ｈ－１）ｈｘｐ＋ｂｈｘ 烅 烄 烆 ０ （４） 对ｘｉ，ｘｊ，…，ｘｐ，ｘｒ，ｉ，ｊ，…，ｒ∈Ｐ，用最小二乘 法分别在数据集Ａ，Ｂ上进行参数估计，得 ｘＡｉ ＝ａＡ０１＋ａＡ１１ｘｊ＋…＋ａＡ（ｈ－１）１ｘｒ＋ｂＡ１ｘ０ ｘＡｊ ＝ａＡ０２＋ａＡ１２ｘｉ＋…＋ａＡ（ｈ－１）２ｘｒ＋ｂＡ２ｘ０  ｘＡｒ ＝ａＡ０ｈ＋ａＡ１ｈｘｉ＋…＋ａＡ（ｈ－１）ｈｘｐ＋ｂＡｈｘ 烅 烄 烆 ０ ｘＢｉ ＝ａＢ０１＋ａＢ１１ｘｊ＋…＋ａＢ（ｈ－１）１ｘｒ＋ｂＢ１ｘ０ ｘＢｊ ＝ａＢ０２＋ａＢ１２ｘｉ＋…＋ａＢ（ｈ－１）２ｘｒ＋ｂＢ２ｘ０  ｘＢｒ ＝ａＢ０ｈ＋ａＢ１ｈｘｉ＋…＋ａＢ（ｈ－１）ｈｘｐ＋ｂＢｈｘ 烅 烄 烆 ０ （５） 　　（２）计算最小偏差准则值： ηｉｊ，…，ｒ ＝ １ ｈ （ηｈｉ＋ηｈｊ＋…＋ηｈｒ） （６） 其中，ηｈｉ，ηｈｊ，…，ηｈｒ 均按式（３）计算得到。 记η＊ｈ ＝ｍｉｎ（ηｉｊ，…，ｒ）。 第四步：比较η＊ｈ 与η＊ｈ－１ 的大小。 若η＊ｈ ≤η＊ｈ－１，回到第三步；否则停止算法，记系 统最小偏差准则值ｂｅｓｔη＝η＊ｈ 。ｂｅｓｔη对应的方程组 中的变量即为系统的“特征变量”。这些特征变量所 对应的属性变量，即为ＯＳＡ算法选取的关键属性。 ２．２　ＧＭＤＨ网络 数据分组处理（ＧＭＤＨ）是一种基于外准则的 自组织数据挖掘方法，其主要思想是从参考函数构 成的初始模型（函数）出发，按一定的法则产生第一 代中间候选模型（遗传、变异），经过筛选（选择），从 第一代中间候选模型中选出最优的若干项再按照一 ·５６·第５期　 　　　　　　　　朱帮助等：基于ＯＳＡ算法和ＧＭＤＨ网络集成的电子商务客户流失预测 定的法则（遗传、变异）产生第二代中间候选模型， 重复这样一个遗传、变异、选择和进化的过程，使中 间模型的复杂度不断增加，直到得到最优复杂度模 型为止。ＧＭＤＨ可以建立自变量与因变量之间存 在的高阶多项式关系，获得一个对因变量具有解释 能力的多项式模型。 ＧＭＤＨ网络结构图如图１所示。图中：Ｙ 为 ＧＭＤＨ的预测值（输出变量）；ｘｉｌ 为第ｌ个样本中 的第ｉ个输入变量，ｉ＝１，２，…，ｎ，ｎ为自变量的个 数；ｙｊｋｌ为第ｌ个样本在第ｊ层中第ｋ个神经元的预 测值，ｋ＝１，２，…，ｍ；ｒ２ｊｋ 为第ｊ层中第ｋ个神经元 的阈值集合的均方；Ｒｊ为第ｊ层选择的最大神经元 数量。 图１　ＧＭＤＨ网络结构［９］ ＧＭＤＨ 网络通常使用 Ｋｏｌｍｏｇｏｒｏｖ－Ｇａｂｏｒ多 项式参考函数来建立输入变量和输出变量之间的一 般函数关系： ｙ＝ａ０＋∑ Ｍ ｉ＝１ ａｉｘｉ＋∑ Ｍ ｉ＝１ ∑ Ｍ ｊ＝１ ａｉｊｘｉｘｊ ＋∑ Ｍ ｉ＝１ ∑ Ｍ ｊ＝１ ∑ Ｍ ｋ＝１ ａｉｊｋｘｉｘｊｘｋ＋… 式中，（ｘ１，ｘ２，…，ｘＭ）为输入变量，（ａ１，ａ２， …，ａＭ）为系数或权重矩阵，ｙ为输出变量。ＧＭＤＨ 网络通常采用多层迭代算法进行建模过程中的神经 元选择，通过学习实现输入输出间的非线性映射，用 最小偏差准则选取最优模型［１０］。 ＧＭＤＨ网络的学习过程如下： （１）数据准备。将样本集分为训练集ａ、验证集 ｂ和测试集ｃ（Ｎａ＋ｂ＋ｃ＝Ｎａ＋Ｎｂ＋Ｎｃ），并设定各层 选择的最大神经元数量Ｒｊ。 （２）选择一个外准则作为目标函数。ＧＭＤＨ通 常选用最小偏差准则作为神经元选择准则： ｒ２ｊｋ ＝ ∑ Ｎａ＋ｂ ｌ＝Ｎａ＋１ （Ｙ－ｙｉｊｌ）２ Ｙ２ 其中，Ｙ 为因变量的输出值。 （３）产生初始的网络架构。产生第１层 （ｊ＝１） 的ｍ个神经元，构建成初始的网络。 （４）计算与检查ｒ２ｊｋ。 ①将所有ｒ２ｊｋ 从小到大进行排序，从待选神经元 中，保留前Ｒｊ个ｒ２ｊｋ 对应的神经元继续转到步骤②， 剔除其余的神经元。 ②找出第ｊ层所保留重要神经元中最小ｒ２ｊｋ，并 与第ｊ－１层最小的ｒ２ｊ－１，ｋ比较，若ｒ２ｊｋ ＜ｒ２ｊ－１，ｋ，转到 步骤（５）；反之转到步骤（６）。 （５）产生下一层神经元，ｊ＝ｊ＋１。采用步骤 （４）保留下来的神经元，产生下一层的神经元，并回 到步骤（４）。 （６）完成ＧＭＤＨ训练。当第ｊ层最小的ｒ２ｊｋ 大 于第ｊ－１层最小的ｒ２ｊ－１，ｋ时，则视为第ｊ－１层第ｋ 个神经元找到了最佳的参数，完成第ｊ层的训练。 （７）在 ＧＭＤＨ 网络训练完成后，将测试集ｃ（ Ｎｃ个数据样本），输入ＧＭＤＨ网络进行预测，输出 预测结果。 ２．３　集成预测模型 ＯＳＡ算法的优势在于能够有效实现重要属性 提取，缺点是它本质上是一种知识约简技术，无法捕 捉变量间的非线性映射关系。恰好，ＧＭＤＨ网络的 主要优势在于它灵活的非线性建模能力，能够很好 地捕捉到数据中的非线性特征，但由于 ＧＭＤＨ 网 络在处理信息时一般不能将输入向量空间维数简 化，因此当输入信息空间维数较大时，可能会导致 ＧＭＤＨ网络训练时间较长。由此可见，ＯＳＡ算法 和ＧＭＤＨ 网络之间存在较强的互补性，两者集成 可能会产生一个更加鲁棒的方法，从而获得更好的 预测结果。 基于上述分析，本文将ＯＳＡ算法和ＧＭＤＨ网 络结合构建电子商务客户流失预测模型的基本思想 是：将ＯＳＡ算法作为 ＧＭＤＨ 网络的前置系统，通 过ＯＳＡ算法减少了客户流失预测系统的属性数 量，从而减少了ＧＭＤＨ网络系统的复杂性，也减少 了ＧＭＤＨ网络的训练时间。使用 ＧＭＤＨ 网络作 为后置的信息识别系统，具有容错和抗干扰的能力。 基于ＯＳＡ算法和 ＧＭＤＨ 网络集成的电子商务客 户流失预测模型具体步骤如图２所示。 ２．３．１　基于ＯＳＡ算法的客户流失关键属性选择 ·６６· 中国管理科学　　　　　　　　　　　　　　　　　　　　２０１１年 图２　ＯＳＡ算法和ＧＭＤＨ网络集成模型框图 由于电子商务客户数据是含有噪声的海量数 据，为提高运行效率，必须对客户数据进行分析，选 择出与客户流失相关的关键属性。客户流失关键属 性的选择对电子商务客户流失预测来说十分重要， 指的是从电子商务客户流失属性集中，寻求对客户 流失最有影响的若干核心因素的属性集。 基于 ＯＳＡ算法的基本原理，构建电子商务客 户流失关键属性选择算法： 第一步：记客户属性变量个数为ｍ，数据长度为 ｎ。目标变量为客户流失状态，记作ｘ０。用布尔逻辑 值０和１来表示客户流失状态，其中０表示客户不 流失，１表示客户流失。为消除量纲的影响，将各属 性变量数据进行了０－１ 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 化处理。 第二步：将样本全集 Ｗ 分成样本容量相等的两 组Ａ和Ｂ，使得Ｗ ＝Ａ∪Ｂ，Ａ∩Ｂ＝Φ。若ｎ不是 偶数，可将任意一条客户数据舍弃或者重复加入Ａ、 Ｂ中。由于ｎ通常较大，这样做几乎不会影响建模 结果。记Ａ和Ｂ的数据长度均为Ｎ。记Ｐ＝ ｛１，２， …，ｍ｝，Ｑ＝ ｛１，２，…，Ｎ｝。 第三步：令ｈ＝１。对第ｉ个变量，利用式（１）～ （３）得到 ｘｉ（ｋ）、ｘｉＡ（ｋ）、ｘｉＢ（ｋ）和ηｈｉ，令η＊ｈ ＝ ｍｉｎ（ηｈｉ）。 第四步：令ｈ＝ｈ＋１。从ｍ个客户属性变量中， 任取ｈ个不同的属性变量ｘｉ，ｘｊ，…ｘｒ，ｉ，ｊ，…，ｒ∈ Ｐ，利用式（３）～ （６）得到ηｋｉ，ηｋｊ，…，ηｋｒ，令η＊ｈ ＝ ｍｉｎ（ηｉｊ，…，ｒ）。 第五步：比较η＊ｈ 与η＊ｈ－１的大小。若η＊ｈ ≤η＊ｈ－１， 回到第四步；否则停止算法，令系统最小偏差准则值 ｂｅｓｔη＝η＊ｈ 。ｂｅｓｔη对应的方程组中的变量即为系统 的“特征变量”。这些特征变量所对应的客户属性， 即为ＯＳＡ算法选取的客户流失关键属性。 ２．３．２　基于ＧＭＤＨ网络的客户流失预测 在选取客户关键属性之后，可以进行客户流失 预测。预测最常用的方法之一是建立回归（分类）模 型。但传统的回归（分类）模型由于只考虑训练集的 拟合程度，即利用内准则作为判别模型是否最优的 标准，容易陷入局部最优，因此本文引入自组织数据 挖掘运用外准则来取舍模型的思想，建立基于ＧＭ－ ＤＨ网络的电子商务客户流失预测模型。 基于ＧＭＤＨ网络的基本原理，构建电子商务 客户流失预测模型： 第一步：数据准备。将ｎ条客户数据随机排列 形成样本全集Ｗ。将样本全集Ｗ 分为三个集合Ｗ１、 Ｗ２、Ｗ３，使Ｗ ＝Ｗ１∪Ｗ２∪Ｗ３，且Ｗ１、Ｗ２、Ｗ３两 两相交为Φ。记Ｗ１、Ｗ２、Ｗ３ 的样本长度依次为ｎ１、 ｎ２、ｎ３。其中，Ｗ１为训练集，Ｗ２为验证集，Ｗ３为测试 集。Ｗ１ 和Ｗ２ 用于建立客户流失预测的ＧＭＤＨ 模 型，Ｗ３ 则用于检验模型的预测能力。 由于电子商务客户流失数据集是不平衡数据 集，流失类客户数量远远大于非流失类客户数量，显 著降低了非流失客户的预测正确率［１２］。考虑到非 流失类客户误分代价远高于流失类客户误分代价， 为提高非流失类客户的预测精度，本文在建模时将 Ｗ１ 中的非流失类客户数据复制数次，使其数据量 与流失类客户数量大致相当。复制次数 Ｃ ＝ 流失客户量 非流失客户量－１ ，若Ｃ不为整数，则四舍五入取 整。将复制数据加入原来的Ｗ１ 中，得到新的Ｗ１。 第二步：以Ｗ１ 为训练集，Ｗ２ 为验证集，训练 ＧＭＤＨ网络。 （１）网络设置。首先，设置网络第ｊ层选择的最 大神经元数量Ｒｊ。本文取所有Ｒｊ均等于７５。其次， 设置网络训练停止条件。本文以 ＧＭＤＨ 网络在 Ｗ１上的误差平方和ｆ１、在Ｗ２上的误差平方和ｆ２的 加权和作为模型的适应度ｆｉｔｎｅｓｓ。为突出预测准 确率的重要性，取ｆ２ 权重为ｆ１ 权重的２倍，即 ｆｉｔｎｅｓｓ＝ｆ１＋２ｆ２。ＧＭＤＨ网络训练停止条件设置 为连续２代ｆｉｔｎｅｓｓ不再减少，此时可认为 ＧＭＤＨ 网络完成了学习过程。 （２）以Ｗ１ 为训练集，Ｗ２ 为验证集，利用 ＧＭ－ ＤＨ学习过程的步骤（２）～（６）对ＧＭＤＨ网络进行 训练，当满足停止条件时，ＧＭＤＨ 网络完成了学习 过程。在学习过程中，ＧＭＤＨ网络会给出Ｗ２ 的目 标变量预测值ｘ＾ｉ０。由于ｘ０用０和１来表示，则ｘ＾ｉ０越 接近０表示客户流失的可能性越小，越接近１则表 示客户流失可能性越大。若ｘ＾ｉ０ 接近０．５，则表示该 客户所属类别比较模糊，难以判断，此时需要确定一 ·７６·第５期　 　　　　　　　　朱帮助等：基于ＯＳＡ算法和ＧＭＤＨ网络集成的电子商务客户流失预测 个阈值来判断客户流失状态。 （３）令Ｄ０ ＝０ｔｏ１，步长为０．１，在Ｗ２ 上试验当 Ｄ０取不同值时的预测准确率。令λｉ＝ｘ＾ ｉ ０－０．５ ０．５ 。若 λｉ≥Ｄ０，则可认为第ｉ条数据对应的客户属于流失 类客户；若λｉ≤－Ｄ０，则可认为第ｉ条数据对应的客 户属于非流失类客户；若－Ｄ０ ＜λｉ ＜Ｄ０，则转到 （４）。 （４）将Ｗ１ 按客户流失状态分为两类，分别计算 两类客户数据中心。对每条待重新判断的客户数 据，测量其与两类客户数据中心的欧式距离，按最小 距离原则进行判断归类。即，若与ｘ０ ＝１类客户数 据中心距离较小，则判定为流失类客户，否则判定为 非流失类客户。 （５）根据（３）和（４）的综合判断结果，计算Ｗ２ 在 这两步的累计分类正确率，并将最高累计分类正确 率对应的Ｄ０ 作为ＢＥＳＴＤ０。 第三步：将 Ｗ３ 送入训练好的ＧＭＤＨ网络，输 出目标变量预测值ｘ＾ｉ０，计算λｉ ＝ｘ＾ ｉ ０－０．５ ０．５ 。若λｉ≥ ＢＥＳＴＤ０，则可认为第ｉ条数据对应的客户属于流 失类客户；若λｉ≤－ＢＥＳＴＤ０，则可认为第ｉ条数据 对应的客户属于非流失类客户；若－ＢＥＳＴＤ０ ＜λｉ ＜ＢＥＳＴＤ０，则转到第二步中的（４）进行判别。 ３　实证分析 ３．１　样本数据和指标变量的选取 以２００９年１月作为实证研究的起始，客户数据 的观测期限为３９周，观测中止时间为２００９年９月 （包括该月）。从某网上商场的客户海量数据库中， 选取前１２周首次进入商场购买商品的２５２５条客户 数据样本进行分析与预测。为了保证计算的准确 性，后２７周用于观测这２５２５名客户流失状态。至 观测期末，２５２５名客户中２０４２名客户流失（即后２７ 周内没再发生购买行为）和４８３名客户没有流失（即 后２７周内发生了购买行为）。 ２５２５名客户数据构成样本全集 Ｗ，从 Ｗ 的 ２５２５个样本中随机取５００个样本作为验证样本集 Ｗ２，然后从剩余２０２５个样本中再随机抽取５００个 样本作为测试样本集Ｗ３，其余１５２５个样本作为训 练样本集Ｗ１。最终形成的Ｗ１、Ｗ２、Ｗ３ 中流失客户 依次为１２６２、３５０、４３０名，非流失客户依次为２６３、 １５０、７０名。 综合考虑电子商务客户流失各种影响因素，参 考国内外电子商务客户流失相关文献，并考虑指标 数据的可获得性，最终确定出客户重复购买次数、最 后购买时间、第一次购买时间到第１２周末的时间间 隔、购买额、客户年龄、白天购买次数、晚上购买次 数、深夜购买次数、最后购买时刻、初始购买时刻、服 务呼叫次数、客户信用得分和客户所属省份１３项客 户属性作为本文研究的待选指标变量。其中，客户 所属省份（不包括台湾、香港和澳门，全国３１个省、 市、自治区按照拼音先后进行排序）依次用１－３１来 表示，其他变量值均取为实际发生值。同时，本文将 在前１２周内只发生了一次购买行为的顾客的购买 时刻算作是最初购买时刻。客户流失状态为目标变 量，用０表示客户不流失，１表示客户流失。 ３．２　客户流失关键属性的ＯＳＡ算法选择结果 本文采用ＯＳＡ算法对Ｗ１ 中的１３项客户流失 属性变量进行选择，得到电子商务客户流失关键属 性集｛客户重复购买次数、白天购买次数、晚上购买 次数、深夜购买次数｝，这４个因素是影响电子商务 客户流失的核心因素，其相应原始数据形成新的学 习样本Ｗ１ 对ＧＭＤＨ网络进行训练。 ３．３　ＧＭＤＨ网络学习结果 由于训练集Ｗ１ 中流失客户数量约是非流失客 户数量的４．８倍，本文将Ｗ１ 中所有非流失客户数 据均复制四次，放入Ｗ１ 中，形成新的训练集Ｗ１。 在Ｗ１ 上训练模型，Ｗ２ 上验证模型，最终当迭代代 数为６，模型的适应度ｆｉｔｎｅｓｓ＝４１．８２４１已经连续２ 代不再减少，满足了停止条件，ＧＭＤＨ 网络完成了 学习过程。 在学习过程中，ＧＭＤＨ网络给出了Ｗ２ 中每个 客户目标变量预测值ｘ＾ｉ０，通过计算λｉ 和比较不同 Ｄ０ 时的累计分类正确率，最终ＢＥＳＴＤ０ ＝０．３，此 时在Ｗ２ 上的累计分类正确率为９５．６０％。 ３．４　模型的预测精度检验比较 将测试集Ｗ３ 中的５００个样本输入到训练好的 ＧＭＤＨ网络中进行判别，以检验本文所构建的 ＯＳＡ算法和ＧＭＤＨ网络集成模型在电子商务客户 流失预测中的实用性，结果正确判断了４６１名客户 流失状态，其中５３名客户的λｉ 值在 （－０．３，０．３） 内，利用第二步中的（４）进行判断，４２名判断为流失 客户，与实际值对照，判断正确３６名，错判６名；１１ 名判断为非流失客户，与实际值对照，判断正确８ 名，错判３名。同时，本文将 ＯＳＡ算法和 ＧＭＤＨ 网络集成模型的预测精度与经典的ＢＰ神经网络、 ＳＶＭ模型的预测精度进行比较，模型对测试样本的 ·８６· 中国管理科学　　　　　　　　　　　　　　　　　　　　２０１１年 判断结果比较见表１，模型的预测精度见表２。 表１　模型对测试样本的预测结果比较 客户流失 目标值 客户流失 预测值 ＢＰ神经 网络 ＳＶＭ 本文方法 真 真 ３４７　 ３５１　 ３９７ 真 假 ８３　 ７９　 ３３ 假 真 ２０　 １８　 ６ 假 假 ５０　 ５２　 ６４ 　　注：表中的数字为相应预测的样本数。 表２　模型对测试样本预测精度比较 模型 非流失客户 正确判断率 流失客户 正确判断率 总体正确 判断率 ＢＰ神经网络 ５０（７１．４３％） ３４７（８０．７０％） ３９７（７９．４０％） ＳＶＭ　 ５２（７４．２９％） ３５１（８１．６３％） ４０３（８０．６０％） 本文方法 ６４（９１．４３％） ３９７（９２．３３％） ４６１（９２．２０％） 　　注：括号外的数字为被正确预测的样本数，括号内的数字为该正 确预测样本数占所属类样本总数的百分比 　　从表１可以看出，ＯＳＡ算法和ＧＭＤＨ 网络集 成模型的误判数量明显低于ＢＰ神经网络和ＳＶＭ 模型，前者误判数量为３９（３３＋６），后两者误判数量 分别为１０３（８３＋２０）和９７（７９＋１８）。从表２可以看 出，ＯＳＡ算法和ＧＭＤＨ网络集成模型的非流失客 户预测精度、流失客户预测精度和总体预测精度均 明显高于经典的ＢＰ神经网络和ＳＶＭ模型，前者分 别为９１．４３％、９２．３３％和９２．２０％，后两者分别为 ７１．４３％、８０．７０％、７９．４０％ 和 ７４．２９％、８１．６３％、 ８０．６０％，前者分别高出后两者２０．００、１１．６３、１２．８０ 个百分点和１７．１４、１０．７０、１１．６０个百分点，从而验 证了本文所构建的 ＯＳＡ算法和 ＧＭＤＨ 网络集成 模型在电子商务客户流失预测中是有效且可行的。 ４　结语 本文构建了基于 ＯＳＡ算法和 ＧＭＤＨ 网络集 成的电子商务客户流失预测模型，并采用某网上商 场的实际样本数据进行实证检验，结果表明： （１）利用 ＯＳＡ算法对客户流失属性变量进行 选择，在不损失信息的前提下得到影响电子商务流 失的４个关键属性｛客户重复购买次数、白天购买次 数、晚上购买次数、深夜购买次数｝，使得ＧＭＤＨ网 络输入端数据数量大大减少，简化了网络结构，提高 了网络系统的预测速度和学习效率。 （２）把ＧＭＤＨ网络作为后置的信息处理系统， 提高了模型的容错和抗干扰能力。用ＧＭＤＨ网络 对经约简后的样本数据进行训练，并对测试样本进 行判别，结果表明本文提出的电子商务客户流失预 测方法是有效的。与ＢＰ神经网络、ＳＶＭ 模型相 比，ＯＳＡ算法和ＧＭＤＨ网络集成模型对客户流失 判别的非流失客户预测精度、流失客户预测精度和 总体预测精度均有较大幅度地提高。该模型可以为 电子商务企业准确发掘客户流失的真实情况，全面 有效开展客户关系管理提供较好的决策支持，该模 型在我国具有广泛的应用前景。 当然，该模型也存在一些不足，如将流失客户误 判为非流失客户的数量较大，使得企业为非流失客 户提供某些特殊服务时所付出的代价较大。如何进 一步提高模型对电子商务客户流失预测的能力将很 可能是后续研究的重要内容之一。 参考文献： ［１］赵宇，李兵，李秀，刘文煌，任守榘．基于改进支持向量机 的客户流失分析研究［Ｊ］．计算机集成制造系统，２００７， １３（１）：２０２－２０７． ［２］ｈｔｔｐ：／／ｔｅｃｈ．ｓｉｎａ．ｃｏｍ．ｃｎ／ｉ／２００９－０１－２４／２２０９２７ ７７　２１０．ｓｈｔｍｌ［Ｚ］． ［３］Ａｌｌｅｍｂｙ，Ｇ．Ｍ．，Ｐｅｔｅｒ，Ｊ．Ｌ．．Ｍｏｄｅｌｉｎｇ　ｈｏｕｓｅｈｏｌｄ ｐｕｒｃｈａｓｅ　ｂｅｈａｖｉｏｒ　ｗｉｔｈ　ｌｏｇｉｓｔｉｃ　ｎｏｒｍａｌ　ｒｅｇｒｅｓｓｉｏｎ［Ｊ］． Ｊｏｕｒｎａｌ　ｏｆ　Ａｍｅｒｉｃａｎ　Ｓｔａｔｉｓｔｉｃｓ　Ａｓｓｏｃｉａｔｉｏｎ，２００５，１８９ （１２）：１２１８－１２３１． ［４］Ｍｉｎｇ，ｙ．，Ｗａｎ，Ｈ．，Ｌｉ，Ｌ．，ｅｔ　ａｌ．Ｍｕｌｔｉ－ｄｉｍｅｎｓｉｏｎａｌ ｍｏｄｅｌ　ｂａｓｅｄ　ｃｌｕｓｔｅｒｉｎｇ　ｆｏｒ　ｕｓｅｒ－ｂｅｈａｖｉｏｒ　ｍｉｎｉｎｇ　ｉｎ　ｔｅｌｅ－ ｃｏｍｍｕｎｉｃａｔｉｏｎｓ　ｉｎｄｕｓｔｒｙ［Ｃ］．Ｐｒｏｃｅｅｄｉｎｇ　ｏｆ　ｔｈｅ　Ｔｈｉｒｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｍａｃｈｉｎｅ　Ｌｅａｒｎｉｎｇ　ａｎｄ　Ｃｙ－ ｂｅｒｎｅｔｉｃｓ，Ｓｈａｎｇｈａｉ，２００４：２６－２９． ［５］Ｃｈｉｈ，Ｐ．Ｗ．，Ｃｈｉｕ，Ｉ．Ｔ．．Ｔｕｒｎｉｎｇ　ｔｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎｓ ｃａｌｌ　ｄｅｔａｉｌｓ　ｔｏ　ｃｈｕｒｎ　ｐｒｅｄｉｃｔｉｏｎ：Ａ　ｄａｔａ　ｍｉｎｉｎｇ　ａｐｐｒｏａｃｈ ［Ｊ］．Ｅｘｐｅｒｔ　Ｓｙｓｔｅｍｓ　ｗｉｔｈ　Ａｐｐｌｉｃａｔｉｏｎｓ，２００２，２３（２）： １０３－１１２． ［６］应维云，覃正，赵宇，李兵，李秀．ＳＶＭ 方法及其在客户 流失预测中的应用研究［Ｊ］．系统工程理论与实践， ２００７，（７）：１０５－１１０． ［７］夏国恩，金炜东．基于支持向量机的客户流失预测模型 ［Ｊ］．系统工程理论与实践，２００８，（１）：７１－７７． ［８］Ａｕ，Ｗ．，Ｃｈｅｎ，Ｋ．Ｃ．Ｃ．，Ｙａｏ，Ｘ．．Ａ　ｎｏｖｅｌ　ｅｖｏｌｕ－ ｔｉｏｎａｒｙ　ｄａｔａ　ｍｉｎｉｎｇ　ａｌｇｏｒｉｔｈｍ　ｗｉｔｈ　ａｐｐｌｉｃａｔｉｏｎｓ　ｔｏ　ｃｈｕｒｎ ｐｒｅｄｉｃｔｉｏｎ［Ｊ］．Ｅｖｏｌｕｔｉｏｎａｒｙ　Ｃｏｍｐｕｔａｔｉｏｎ，ＩＥＥＥ　Ｔｒａｎｓ－ ａｃｔｉｏｎｓ，２００３，７（６）：５３２－５４５． ［９］邹昊飞，夏国平，杨方廷．基于自组织算法的改进型 ＧＡＡＮＮ预测模型［Ｊ］．中国管理科学，２００５，１３（６）：７５－ ８０． ［１０］贺昌政．自组织数据挖掘与经济预测［Ｍ］．北京：科学 出版社，２００５． ［１１］凌锦江，陈兆乾，周志华．基于特征选择的神经网络 集成方法［Ｊ］．复旦学报（自然科学版），２００４，４３（５）： ６８５－６８８． ·９６·第５期　 　　　　　　　　朱帮助等：基于ＯＳＡ算法和ＧＭＤＨ网络集成的电子商务客户流失预测 ［１２］应维云，蔺楠，李秀．针对不平衡数据集的客户流失预 测算法［Ｊ］．系统工程，２００８，２６（１１）：９９－１０４． Ｅ－Ｂｕｓｉｎｅｓｓ　Ｃｕｓｔｏｍｅｒ　Ｃｈｕｒｎ　Ｐｒｅｄｉｃｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　Ｉｎｔｅｇｒａｔｉｏｎ　ｏｆ　Ｏｂｊｅｃｔｉｖｅ Ｓｙｓｔｅｍ　Ａｎａｌｙｓｉｓ　ａｎｄ　Ｇｒｏｕｐ　Ｍｅｔｈｏｄ　ｏｆ　Ｄａｔａ　Ｈａｎｄｌｉｎｇ　Ｎｅｔｗｏｒｋ ＺＨＵ　Ｂａｎｇ－ｚｈｕ１，２，ＺＨＡＮＧ　Ｑｉｕ－ｊｕ１，２，ＺＯＵ　Ｈａｏ－ｆｅｉ　３，ＷＥＩ　Ｙｉ－ｍｉｎｇ２ （１．Ｓｃｈｏｏｌ　ｏｆ　Ｅｃｏｎｏｍｉｃｓ　ａｎｄ　Ｍａｎａｇｅｍｅｎｔ，Ｗｕｙｉ　Ｕｎｉｖｅｒｓｉｔｙ，Ｊｉａｎｇｍｅｎ　５２９０２０，Ｃｈｉｎａ； ２．Ｓｃｈｏｏｌ　ｏｆ　Ｍａｎａｇｅｍｅｎｔ　ａｎｄ　Ｅｃｏｎｏｍｉｃｓ，Ｂｅｉｊｉｎｇ　Ｉｎｓｔｉｔｕｔｅ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ，Ｂｅｉｊｉｎｇ　１０００８１，Ｃｈｉｎａ； ３．Ｃｈｉｎａ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｅｎｇｉｎｅｅｒ　Ｃｏｎｓｕｌｔｉｎｇ　Ｃｏｒｐｏｒａｔｉｏｎ，Ｂｅｉｊｉｎｇ　１０００４８，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｆａｃｉｎｇ　ｗｉｔｈ　ｔｈｅ　ｈｉｇｈ　ｄｉｍｅｎｓｉｏｎａｌ，ｎｏｎｌｉｎｅａｒ　ａｎｄ　ｕｎｂａｌａｎｃｅｄ　ｄａｔａ　ｐｒｏｂｌｅｍｓ　ｏｆ　ｃｈｕｒｎ　ｐｒｅｄｉｃｔｉｏｎ　ｏｆ Ｅ－ｂｕｓｉｎｅｓｓ　ｃｕｓｔｏｍｅｒｓ，ｉｔ　ｉｓ　ｄｉｆｆｉｃｕｌｔ　ｔｏ　ｉｍｐｒｏｖｅ　ｔｈｅ　ａｃｃｕｒａｃｙ　ｏｆ　ｃｈｕｒｎ　ｐｒｅｄｉｃｔｉｏｎ　ｏｆ　Ｅ－ｂｕｓｉｎｅｓｓ　ｃｕｓｔｏｍｅｒｓ　ｂｙ ａｐｐｌｙｉｎｇ　ｔｒａｄｉｔｉｏｎａｌ　ｍｅｔｈｏｄｓ．Ｈｅｎｃｅ　ａｎ　ｉｎｔｅｇｒａｔｉｏｎ　ｍｏｄｅｌ　ｆｏｒ　ｃｈｕｒｎ　ｐｒｅｄｉｃｔｉｏｎ　ｏｆ　Ｅ－ｂｕｓｉｎｅｓｓ　ｃｕｓｔｏｍｅｒｓ ｂａｓｅｄ　ｏｎ　ｏｂｊｅｃｔｉｖｅ　ｓｙｓｔｅｍ　ａｎａｌｙｓｉｓ（ＯＳＡ）ａｎｄ　ｇｒｏｕｐ　ｍｅｔｈｏｄ　ｏｆ　ｄａｔａ　ｈａｎｄｌｉｎｇ（ＧＭＤＨ），ｔｗｏ　ｉｍｐｏｒｔａｎｔ　ｓｅｌｆ－ ｏｒｇａｎｉｚｅｄ　ｄａｔａ　ｍｉｎｉｎｇ（ＳＯＤＭ）ａｌｇｏｒｉｔｈｍｓ，ｉｓ　ｐｒｅｓｅｎｔｅｄ　ｉｎ　ｔｈｉｓ　ｐａｐｅｒ．Ｆｉｒｓｔｌｙ，ｔｈｅ　ｋｅｙ　ａｔｔｒｉｂｕｔｅｓ　ａｒｅ　ａｕｔｏ－ ｍａｔｉｃａｌｌｙ　ｓｅｌｅｃｔｅｄ　ｕｓｉｎｇ　ＯＳＡ　ａｌｇｏｒｉｔｈｍ．Ｔｈｅｎ　ＧＭＤＨ　ｎｅｔｗｏｒｋ　ｉｓ　ｔｒａｉｎｅｄ　ｗｉｔｈ　ｔｒａｉｎｉｎｇ　ｓａｍｐｌｅｓ，ｗｈｉｃｈ　ｉｓ ｕｓｅｄ　ｔｏ　ｉｄｅｎｔｉｆｙ　ｃｕｓｔｏｍｅｒ　ｃｈｕｒｎ　ｓｔａｔｕｓ　ｏｆ　ｔｅｓｔｉｎｇ　ｓａｍｐｌｅｓ．Ｕｐ－ｓａｍｐｌｉｎｇ　ｍｅｔｏｄ　ｉｓ　ａｌｓｏ　ｕｓｅｄ　ｉｎ　ｔｈｉｓ　ｐａｐｅｒ　ｔｏ ｂａｌａｎｃｅ　ｔｈｅ　ｃｈｕｒｎ－ｃｕｓｔｏｍｅｒ　ｄａｔａ　ａｎｄ　ｕｎｃｈｕｒｎ－ｃｕｓｔｏｍｅｒ　ｄａｔａ　ｔｏ　ｉｍｐｒｏｖｅ　ｔｈｅ　ｆｏｒｅｃａｓｔｉｎｇ　ａｃｃｕｒａｃｙ．Ｔｈｉｓ　ｐｒｏ－ ｐｏｓｅｄ　ａｐｐｒｏａｃｈ　ｉｓ　ａｐｐｌｉｅｄ　ｆｏｒ　ｃｈｕｍ　ｐｒｅｄｉｃｔｉｏｎ　ｏｆ　ａｎ　ｏｎｌｉｎｅ　ｓｈｏｐ，ｗｈｉｃｈ　ｐｒｏｖｅｓ　ｔｈａｔ　ｃｏｍｐａｒｅｄ　ｗｉｔｈ　ｓｏｍｅ ｃｏｍｍｏｎ　ａｐｐｒｏａｃｈｅｓ　ｓｕｃｈ　ａｓ　ａｒｔｉｆｉｃｉａｌ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋｓ　ａｎｄ　ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅｓ，ｍｏｒｅ　ａｃｃｕｒａｃｙ　ｆｏｒｅｃａｓ－ ｔｅｄ　ｒｅｓｕｌｔｓ　ｃａｎ　ｂｅ　ｏｂｔａｉｎｅｄ． Ｋｅｙ　ｗｏｒｄｓ：ｓｅｌｆ－ｏｒｇａｎｉｚｅｄ　ｄａｔａ　ｍｉｎｉｎｇ；ｏｂｊｅｃｔｉｒｅ　ｓｙｓｔｅｍ　ａｎａｌｙｓｉｓ；ｇｒｏｕｐ　ｍｅｔｈｏｄ　ｏｆ　ｄａｔａ　ｍｉｎｉｎｇ；ｃｈｕｒｎ　ｐｒｅ－ ｄｉｃｔｉｏｎ；Ｅ－ｂｕｓｉｎｅｓｓ ·０７· 中国管理科学　　　　　　　　　　　　　　　　　　　　２０１１年