设数据集D由记录组成，记录数为|D|，属性有{A1，A2，…，An，C}，其中，{A1，A2，…，An}是条件属性，C是类标号。仔细研究各算法就会发现，决策树分类算法、关联规则分类算法、贝叶斯分类算法都是基于规则“A→C”和其统计特性的。此处，A表示{A1，A2，…，An}全部或部分属性的一些取值组成的集合，C表示某个类标号。
C 4.5是决策树分类算法的代表[98]。C 4.5方法首先生成一棵未经剪枝的决策树，生成过程遵循如下的原则：
（1）决策树的每个内部节点对应样本的一个非类别属性，该节点的每棵子树代表这个属性的取值范围的一个子区间（子集）。一个叶节点代表从根节点到该叶节点的路径对应的样本所属的类别。
（2）构造决策树时，总选择增益比例大的属性作为下一分支节点。
（3）训练样本集中的未知属性用常用值代替，或者用该属性所有取值的平均值代替，从而处理缺少属性值的训练样本。
将决策树转换为IF…THEN规则集合，此集合中规则形如“A→C”，但其中存在大量的冗余和错误。C 4.5按K迭代交叉验证方法选择优化的模型。简化后的规则按类进行分组，形成最终的分类规则集。
朴素贝叶斯分类器是基于贝叶斯概率理论的算法[100]。算法假定在给定类变量的条件下各个属性变量之间条件独立。首先从训练集中计算出每个属性取不同值时各类记录出现的概率，以此作为先验概率。设类标号cj∈C，分类器利用式（4.3）来判断无类标号记录（a1，a2，…，an）属于类cj的后验概率，并且将此记录判定为属于后验概率最大的类。可见，贝叶斯分类器也是基于规则“A→C”的统计特性的。
决策树分类法是一种直观且精度较高的方法，但决策树有时也会变得很复杂，以至于难以解释。对于复杂的决策树，从中抽取的IF…THEN规则更加简洁和容易理解。
将决策树的每个分支从根节点开始写成逻辑与的条件，形成IF部分，将叶节点作为THEN部分，就形成了初始的规则集。在此规则集中的规则间隐含着逻辑或的关系，规则间是排他的和无遗漏的，规则间的顺序无关紧要。初始的规则集并不比决策树简单，甚至更难理解，其中可能含有无关和重复的条件，对其进行修剪是必需的[25]。
如何剪枝呢？一般来讲，任何不能提高分类精度的条件均可剪掉。悲观错误策略是常用的策略。其策略是，当欲从规则集中剪掉一个规则中的一个条件或删除一个规则时，判断剪除前和剪除后的错误率，如果错误率没有增加，则实施剪除，否则不剪除。使用这个策略可能使剩余的规则不再排他，也不再无遗漏，使用其进行分类之前应将规则排序，以避免冲突。
使用序列覆盖算法（sequential covering algorithm）可以从训练集中直接抽取IF…THEN规则，不需预先生成决策树[25]。所谓序列覆盖，是指规则的生成过程是每次一条的连续过程。每一条规则都覆盖训练集中的一些记录，希望这些记录均属于一类别。其基本思路是，每一次生成一条新的规则时，被此规则覆盖的记录将被删除，生成和删除过程反复进行，直到满足结束条件。结束条件可能是训练集中没有剩余记录，或者规则的质量已满足用户设置的条件。
一条规则的生成一般遵循由一般到特殊的方式[25]。从前件为空开始，逐步增加前件的条件（属性值），条件之间是“与”的关系。每增加一个条件进行一次测试，满足激励条件的则实施增加，否则不增加。激励条件一般为信息熵降低或信息增益增加等。全部规则生成后，一般还要剪枝，因为生成过程是一个乐观过程，其规则不一定适应后续的测试。
有关数据挖掘算法及在视频分析中的应用的文章
基于规则的分类器利用IF-THEN规则集进行分类。如一个规则R 1可以表示为：R 1:IF age=youth AND student=yes THEN buys_computer=yesR 1也可以表示为：R 1:^=＞其中，IF部分或=＞前面的部分称为前件，后一部分称为后件。那么，覆盖率和精度的定义如式（4.1）和式（4.2）。当X只满足规则集中的一个规则R 1时，就可以判定X属于R 1后件的类别。后件为同一类别的规则不需排序，因为它们判断的结果不会有冲突；在基于规则的排序策略中，规则按其前件的质量排序。......
2023-06-16
Weka工具的关联规则挖掘过程如图2-3所示。图2-4Weka选择函数设置Apriori算法的参数如下：car如果设为真，则会挖掘类关联规则而不是全局关联规则。delta以此数值为迭代递减单位，不断减小支持度直至达到最小支持度或产生了满足数量要求的规则。设置对规则进行排序的度量依据，可以是置信度、提升度、杠杆率、确信度。在Weka中设置了几个类似置信度的度量来衡量规则的关联程度，它们分别是，①Lift：P（A，B）/Lift=1时表示A和B独立。......
2023-11-08
如果后件“C”只有类别值，自然可以想到使用此规则进行分类。典型的关联规则分类算法有CBA、CMAR和CPAR[99]。CBA是由Liu B等人提出的，是最早的也是最简单的关联规则分类算法[99]。在一些典型的分类数据集的测试中，CBA算法的实验精度高于C 4.5。但与CMAR不同的是，CPAR只选择每组中的“最好的”K个规则进行分类计算。可见，关联规则分类算法是一类基于规则的算法，其基础是频繁项目的与运算。......
2023-06-16
图9-10MOEA算法框架9.5.1.2NSGA与NSGA-Ⅱ算法NSGA是多目标进化算法发展过程中非常重要的算法，NSGA-Ⅱ为其改进版本，下面分别描述这两种算法。1）非支配排序遗传算法基于Goldberg的方法，NSGA对个体分类，形成多个层次。NSGA具有非支配最优解分布均匀，同时允许存在多个不同等效解的优点。......
2023-07-02
基于规则是指根据条件语句的syntax预先确定条件范围并以此为基础制定执行计划。以下为RBO预先对性能定义规则的项目。使用 unique-key、primary-key的HASH cluster key的单个行访问。2） RBO中的 SQL调优创建连接语句的执行计划时，RBO对所有可能的连接顺序以指定的access path优先顺序为标准，尽量少执行FULL-TABLE SCAN，同样尽量少执行SORT-MERGE操作。此时，从底部选择用于五个条件子句的索引作为AND-EQUAL处理对象。若两个执行计划的优先顺序完全相同，RBO只能选择在行缓存内先发现的执行计划。......
2023-11-01
图9-4算法流程示意通过当前任务调度和后续任务更新两个步骤，可以实现对任务的调度安排。表9-2时间窗口更新（续表）根据上述的时间窗口更新策略，对于按照天线资源种类不同而划分的任务子集，可依次进行任务调度安排，具体调度流程如图9-5所示。后续时间窗口更新步骤主要根据时间窗口更新策略，针对不同任务与时间窗口时序关系情况进行更新操作。......
2023-07-02
在基于微波与激光混合链路的中继卫星系统资源调度问题中优先级总和、资源消耗和时间是不同量纲的目标参数，为了得到优化的调度结果，首先对目标参数进行无量纲的标准化处理，再根据基于模糊偏好对优化目标分别确定加权系数，最后利用线性加权法，在对各个目标函数进行分析的基础上，通过多个目标函数加权运算来构造单目标函数，将多目标问题转化为单目标的优化问题。......
2023-07-02
本实验目标是测试必要规则对分类的影响，将采用最简单的方法。但相对实验目标，方法是有效的。表4.1示例训练集D训练时，设充分置信度阈值为70%，必要置信度阈值为90%，K=3。表4.2第2次访问D后得到簇与类关联关系的统计数据依据表4.2数据计算双向置信度，得到的分类规则按类索引，结果如表4.3所示，表4.3就是训练得到的规则集R。表4.3D训练得到的分类规则表测试时，分两种方法。......
2023-06-16
相关推荐