特征选择算法的分类

① 图像特征选择优化方法有哪些以及他们的优缺点

大体讲一般分为封装式和滤波式两种，区别是封装式的是以分类器的性能作为评价准则。所以封装式的方法通用性比较差，而且计算量大，但好处就是获得的分类效果好。与之对比的是滤波式的方法，滤波式的一般从特征的结构性出发，计算量小，效率高，速度快，通用性好，但是获得的分类精度不稳定。

② MI算法是什么

是文本特征选择算法
特征选择在文本挖掘技术中是一个关键部分。训练集中的文本逐个经过分词后,可形成文本分类系统的全特征空间,一般情况下,这个空间的维数都会较大,可达到几十万维。经过特征选择之后,在降低噪声的同时,特征空间的维数得以压缩,最终能提高分类算法的速度和分类精度。本文从传统的MI(Mutual Infomation)出发,并对它进行改造,最后通过实验验证改进算法的有效性。

③ 文本分类 特征选择 怎么确定啊

文本中能观察到的量其实只有两个：词频和文档频率，所有的方法一律以这两个量为计算基础。简单综合这两者的TF-IDF选择出来的特征不具有类别区分度。
以文档频率为基础的特征选择算法有文档频次方法（直接依据文档频率大小排序的方法）、卡方检验、信息增益、互信息等。

④ 特征处理有哪些方法

、常用方法
1、时间戳处理
时间戳通常需要分离成多个维度比如年、月、日、小时、分钟、秒钟。但在很多的应用中，大量的信息是不需要的，因此我们在呈现时间的时候，试着保证你所提供的所有数据是你的模型所需要的，并且别忘了时区，加入你的数据源来自不同的地理数据源，别忘了利用时区将数据标准化。
2、离散型变量处理
举一个简单的例子，由{红，黄，蓝}组成的离散型变量，最常用的方式是吧每个变量值转换成二元属性，即从{0，1}取一个值，也就是常说的独热编码(one-hot code)。
3、分箱/分区
有时候，将连续型变量转换成类别呈现更有意义，同时能够使算法减少噪声的干扰，通过将一定范围内的数值划分成确定的块。举个例子，我们要预测具有哪些特征的人会购买我们网店的商品，用户的年龄是一个连续的变量，我们可以将年龄分为15以下、15-24、25-34、35-44、45及以上。而且，不是将这些类别分成2个点，你可以使用标量值，因为相近的年龄表现出相似的属性。
只有了解变量的领域知识的基础，确定属性能够划分成简洁的范围时分区才有意义，即所有的数值落入一个分区时能够呈现出共同的特征。在实际的运用中，当你不想让你的模型总是尝试区分值之间是否太近时，分区能够避免出现过拟合。例如，如果你感兴趣的是将一个城市作为总体，这时你可以将所有落入该城市的维度整合成一个整体。分箱也能减小小错误的影响，通过将一个给定值划入到最近的块中。如果划分范围的数量和所有可能值相近，或对你来说准确率很重要的话，此时分箱就不合适了。
4、交叉特征
交叉特征算是特征工程中非常重要的方法之一，它将两个或更多的类别属性组合成一个。当组合的特征要比单个特征更好时，这是一项非常有用的技术。数学上来说，是对类别特征的所有值进行交叉相乘。
假如拥有一个特征A,A有两个可能值{A1，A2}。拥有一个特征B，存在{B1，B2}等可能值。然后，A&B之间的交叉特征如下：{（A1，B1），（A1，B2），（A2，B1），（A2，B2）}，并且你可以给这些组合特征取任何名字。但是需要明白每个组合特征其实代表着A和B各自信息协同作用。
5、特征选择
为了得到更好的模型，使用某些算法自动的选出原始特征的子集。这个过程，你不会构建或修改你拥有的特征，但是会通过修建特征来达到减少噪声和冗余。
特征选择算法可能会用到评分方法来排名和选择特征，比如相关性或其他确定特征重要性的方法，更进一步的方法可能需要通过试错，来搜素出特征子集。
还有通过构建辅助模型的方法，逐步回归就是模型构造过程中自动执行特征选择算法的一个实例，还有像Lasso回归和岭回归等正则化方法也被归入到特征选择，通过加入额外的约束或者惩罚项加到已有模型(损失函数)上，以防止过拟合并提高泛化能力。
6、特征缩放
有时候，你可能会注意到某些特征比其他特征拥有高得多的跨度值。举个例子，将一个人的收入和他的年龄进行比较，更具体的例子，如某些模型(像岭回归)要求你必须将特征值缩放到相同的范围值内。通过特征缩放可以避免某些特征获得大小非常悬殊的权重值。
7、特征提取
特征提取涉及到从原始属性中自动生成一些新的特征集的一系列算法，降维算法就属于这一类。特征提取是一个自动将观测值降维到一个足够建模的小数据集的过程。

⑤ CFS的特征选择算法

基于关联规则的特征选择算法（correlation-based feature selection），是一种经典的过滤器模式的特征选择方法。源自论文“correlation-based feature selection for discrete and numeric class machine learning”，启发地对单一特征 对应于每个分类的作用进行评价，从而得到最终的特征子集。特别地，特征必须是离散的随机变量，如果是数值型变量，需要首先执行指导的离散化方法来进行离散化特征。

⑥ 数据挖掘，特征选择算法，机器学习的区别

机器学习（machine learning）是一个大的研究方向，其中特种选择（feature selection）和数据挖掘（data mining）都是机器学习下面的一个小分支，小研究方向。
特征选择一般用于分类，找到最好的特征进行分类。
数据挖掘的目的是用算法提取数据中的重要信息，比如聚类、频繁项集、分类……

⑦ 文本分类 测试集需要进行特征选择吗

文本中能观察到的量其实只有两个：词频和文档频率，所有的方法一律以这两个量为计算基矗简单综合这两者的TF-IDF选择出来的特征不具有类别区分度。 以文档频率为基础的特征选择算法有文档频次方法（直接依据文档频率大小排序的方法）、卡方检验、