利用互信息法选择特征的基本原则是选择类别相关的特征，同时排除冗余的特征。因此，基于互信息的特征选择一般遵循这样一种模式：在顺序前向搜索中寻找与类别互信息最大而与前面已选特征互信息最小的特征项。在目标分类中可以简单认为：互信息越大，特征ti和类别Cj共现的程度越大。那么，ti和Cj的互信息可以由下式计算：式中，A、B、C、D的含义和6.4.3节中约定的完全相同。......
2023-06-28
基于信息增益法的特征选择方法
【摘要】：利用信息增益法选择特征，是依据某个特征项ti为整个分类所能提供的信息量多少来衡量该特征项的重要程度，从而决定对该特征项的取舍。对此的改进方法是，首先对训练集中出现的每个特征项计算其信息增益，然后指定一个阈值，从特征空间中移除那些信息增益低于此阈值的特征项；或者指定保留的特征项个数，按照增益值从高到低的顺序选择特征项组成特征向量。
利用信息增益法选择特征，是依据某个特征项ti为整个分类所能提供的信息量多少来衡量该特征项的重要程度，从而决定对该特征项的取舍。某个特征项ti的信息增益是指有该特征或没有该特征时，为整个分类所能提供的信息量的差别，其中，信息量的多少就用熵来衡量。可以计算出不考虑任何特征时目标的熵以及考虑该特征后目标的熵，并将两者之间的差值定义为信息增益：
IG（ti）=H（T）-H（T｜ti）
其中，P（Cj）表示Cj类目标在样本集中出现的概率，P（ti）表示样本集中包含特征项ti的目标的概率，P（Cj｜ti）表示目标包含特征项ti时属于Cj类的条件概率，P（
）表示样本集中不包含特征项ti的目标的概率，P（Cj｜ti）表示目标不包含特征项ti时属于Cj类的条件概率，M表示类别数。
从信息增益的定义可知，一个特征的信息增益实际上描述的是它包含的能够帮助预测类别属性的信息量。从理论上讲，信息增益应该是最好的特征选择方法，但实际上由于许多信息增益比较高的特征出现频率往往较低，所以当使用信息增益选择的特征数目比较少时，往往会存在数据稀疏问题，此时识别效果也比较差。对此的改进方法是，首先对训练集中出现的每个特征项计算其信息增益，然后指定一个阈值，从特征空间中移除那些信息增益低于此阈值的特征项；或者指定保留的特征项个数，按照增益值从高到低的顺序选择特征项组成特征向量。
有关图像目标的表示与识别的文章
- 详细阅读
-
信息论特征选择方法：从理论到实践详细阅读
解决“维数灾难”现象是模式识别领域的一个非常重要的任务，因为提取出的原始特征往往数量庞大，不仅增加了计算复杂度，而且很大程度上影响了分类器的设计及其性能。显然，前者受到太多的条件限制不是很实用，而后者则是当前模式识别领域的研究热点。本书的2.4.1节对这些方法的特点也做了相应评述，基于这些分析以及目标分类的具体应用特点，本章分别采用了信息论中的信息增益法和互信息法对图像特征进行筛选。......
2023-06-28
-
图像检索方法：基于内容的图像特征相似度比较详细阅读
图像检索在生活工作中是一项常见的工作。随着图像数量的增多，这种基于文件系统的图像检索方法的检索效率会越来越低。基于内容的图像检索方法主要是采用了图像的颜色、形状、纹理、空间关系、相关反馈等特征进行索引和检索。实际上，这是对用图像内容特征表达的检索提问和被检索提问之间相似性的计算过程。基于内容的图像检索，实质上就是进行图像特征相似度的比较。......
2023-11-01
-
基于灰度纹理特征的纸币真伪鉴别方法详细阅读
图7-12100元人民币正面和背面的红外图像为了提取纸币红外图像中的灰度纹理特征，以便对纸币的真伪进行鉴别，本节采用本书第4章提出的DDT-CLBP算法来实现灰度纹理特征的提取。可以看出，由于光照条件以及纸币污染等因素的影响，利用其他方法提取的结果都不理想，尤其利用LBP算法提取的特征几乎完全被淹没在噪声之中，而本节提出的DDT-CLBPs-delta算法能够清晰准确地提取出纸币红外图像中的鉴别性纹理特征，为纸币的真伪鉴别奠定了良好的基础。......
2023-06-29
-
提高健康管理实践：选择资料与信息传播法详细阅读
一个完整的传播活动不仅是发送信息，同时要收集反馈信息，因此，通常把传播称为“交流”。其特点是直接、充分、准确、简便易行，不受机构、媒介、时空等条件限制；交流双方可以立即得到反馈，双方可以及时了解对方对信息的接受程度和传播效......
2023-12-06
-
基于深度信息的人体动作识别：底层视觉特征提取详细阅读
特征提取是人体动作识别的一个重要环节，高效、准确地提取特征可极大地提高动作识别率。学者们一般从两个方面进行底层视觉特征的提取：一是提取全局特征；二是提取局部特征。其目的是通过人体的形状轮廓信息获取全局特征。而对局部特征的提取方法，目前主要集中在提取时空兴趣点和动作运动轨迹两个方面。其优点是不易受到噪声和遮挡因素的影响，缺点是对提取的特征点准确性要求较高。下面简单介绍3 类特征提取方法。......
2023-10-28
-
特征粒径的计算方法及粒径表示法详细阅读
按照式，泥沙粒径分布的第P 个百分点对应的粒径Dp可确定为:式描述了D50t和D50的关系。考虑到Qs50∝CD5-0b和QsDe∝CDe-b，可变代表粒径可表示为:图2-10粒径等于输移泥沙中值粒径的床沙所占百分比 图2-10粒径等于输移泥沙中值粒径的床沙所占百分比 上文已经提到，Einstein 和Ackers-White公式曾建议使用D35作为非均匀沙输沙能力计算的代表粒径。......
2023-06-22
-
图像特征提取与选择的方法及应用详细阅读
图像特征的提取和选择是图像处理过程中很重要的环节，对后续图像分类有着重要的影响，并且具有样本少、维数高的特点。特征提取与特征选择就是最有效的降维方法，其目的是得到一个反映数据本质结构、识别率更高的特征子空间。上述特征提取方法是图像特征的初步获取，其各有利弊。针对不同的实际问题，可选择适当的图像特征提取方法。......
2023-11-08
相关推荐