利用信息增益法选择特征，是依据某个特征项ti为整个分类所能提供的信息量多少来衡量该特征项的重要程度，从而决定对该特征项的取舍。对此的改进方法是，首先对训练集中出现的每个特征项计算其信息增益，然后指定一个阈值，从特征空间中移除那些信息增益低于此阈值的特征项；或者指定保留的特征项个数，按照增益值从高到低的顺序选择特征项组成特征向量。......
2023-06-28
基于互信息法的特征选择方案
【摘要】：利用互信息法选择特征的基本原则是选择类别相关的特征，同时排除冗余的特征。因此，基于互信息的特征选择一般遵循这样一种模式：在顺序前向搜索中寻找与类别互信息最大而与前面已选特征互信息最小的特征项。在目标分类中可以简单认为：互信息越大，特征ti和类别Cj共现的程度越大。那么，ti和Cj的互信息可以由下式计算：式中，A、B、C、D的含义和6.4.3节中约定的完全相同。
根据熵的连锁规则，有
因此，
这个差叫做X和Y的互信息，记作I(X；Y)。或者定义为：如果(X，Y)～p(x，y)，则X，Y之间的互信息I(X；Y)=H(X)-H(X｜Y)。
互信息是一个均衡非负的信息测度，I(X；Y)反映的是在知道了Y的值以后X的不确定性的减少量。可以理解为Y的值透漏了多少关于X的信息量。互信息和熵之间的关系可以用图6-5表示。
图6-5 互信息和熵之间的关系示意图
如果将定义中的H (X)和H (X｜Y)展开，可得
I (X；Y)=H (X)-H (X｜Y)=H (X)+H (Y)-H (X，Y)
由于H (X｜X)=0，因此
这一方面说明了熵之所以称为自信息的原因，另一方面说明了两个完全相互依赖的变量之间的互信息并不是一个常量，而是取决于它们的熵。实际上，互信息体现了两变量之间的依赖程度：如果I (X；Y)﹥﹥0，表明X和Y是高度相关的；如果I (X；Y)=0，表明X和Y是相互独立的；如果I (X；Y)﹤﹤0，表明X和Y是互不相关的分布。
利用互信息法选择特征的基本原则是选择类别相关的特征，同时排除冗余的特征。特征与类别之间的互信息很好地度量了特征的相关性，特征与特征之间的互信息则度量它们之间的相似性（冗余性）。因此，基于互信息的特征选择一般遵循这样一种模式：在顺序前向搜索中寻找与类别互信息最大而与前面已选特征互信息最小的特征项。
在目标分类中可以简单认为：互信息越大，特征ti和类别Cj共现的程度越大。那么，ti和Cj的互信息可以由下式计算：
式中，A、B、C、D的含义和6.4.3节中约定的完全相同。如果特征ti和类别Cj无关，则P（ti，Cj）=P（ti）×P（Cj），那么，I（ti，Cj）=0。
为了选出对多类图像目标识别有用的特征，与上面的基于CHI统计量的处理方法类似，基于互信息法的特征选择也可以采用最大值和平均值两种实现方法：
有关图像目标的表示与识别的文章
- 详细阅读
-
基于局部特征和多分辨率技术的图像拼接方案详细阅读
航拍图像拼接技术是当前机器视觉领域的一个研究热点，已经被广泛应用于地理信息系统、地质灾害监测、城市规划和战场态势评估等许多方面。但是，由于是在飞行器上对地面场景的俯视拍摄，所以又有其自身的特点和难点，比如飞行器姿态变化导致的航拍视角改变、飞行器升降造成的图像分辨率不同、天气状况对图像质量的影响等。该方法比较适合于全景图像拼接。......
2023-06-28
- 详细阅读
-
基于因果机制的案例选择逻辑详细阅读
事实上，无论是忽视因素还是忽视机制的案例选择方法都是不恰当的，但是仍然没有研究者讨论一种基于因果机制的案例选择方法，这同基于因素性的案例选择方法在逻辑上存在一定差异。......
2023-08-16
-
选择基于服务领域的薪酬管理模块详细阅读
选取一个合适的案例还是很困难的。基于以上这些条件，结合我们这些年做过的项目，最终选择了基于服务领域的薪酬管理案例。所以，这样的一个案例对于学习一种分析方法来说，是最为合适的。薪酬管理案例，其实是一家公司整体信息化建设中OA系统的子系统，或者叫子模块。正是基于此原因，公司决定实施开发本模块，期望实现公司员工薪酬管理的信息化。......
2023-11-17
-
基于Agent交互协议的资源调度方案详细阅读
无论是哪种类型的资源受限项目调度问题，都需要将调度方案转化为有效的调度计划以便安排活动任务。调度计划是满足一系列优先级限制和资源限制的前提下制定的连续方法，主要有并行调度产生方案和串行调度产生方案两种。对于小规模和强资源限制的项目，并行调度计算结果优于串行调度，而大规模和适当资源限制的项目更适合串行调度方案。图3.5广义优先关系串行调度产生方案的目标流程初始化值及参数。......
2023-10-05
-
基于原型匹配的反馈技术方案详细阅读
而基于内容的图像检索需要对一类物体进行匹配，比如检索有汽车、飞机、坦克、人群、楼房的图像，这种情况下就需要对具体的局部特征进行组合优化，从而得到对某类物体的理想化表征——原型。原型匹配理论是这样描述知觉加工的：当一种视觉系统收到一个新刺激，该系统就会将它与原先存储的原型进行比较，但并不要求完全相匹配，事实上大致的匹配就可以了［13］。为了实现从模板匹配到原型匹配的转变，我们引入了相关反馈技术。......
2023-06-28
-
基于内容的服装图像情感语义特征分析详细阅读
但是作为同一个因子的组成成分，这些词义之间存在着非常密切的联系。表2－1图2－1男西装图像样本情感投票数据色彩的亮度也与第一个情感因子有一定的关系，亮度暗的男西装给人的感觉可能是“正式的”、“古典的”，如图2－1和2－1所示。图2－1男西装图像样本色彩的冷暖和亮度根据以上分析，因子1与色彩的亮度、冷暖具有直接的关系，因此可用图像的亮度和冷暖描述来反映该因子的图像特征。......
2023-08-23
相关推荐