邻域搜索算法优点

❶ 图像处理

第三章 图像处理

        输出图像的像素值仅仅由输入图像的像素值决定。

        1.1 像素变换

              根据像素产生输出像素，注意，这里的像素可以是多副图片的像素。

        1.2 颜色变换

              彩色图像的各通道间具有很强的相关性。

        1.3 合成和映射

              将前景对象从图像背景中提取出来，被称为抠图；将对象插入另一图像被称为合成。

        1.4 直方图均衡化

            对比度和亮度参数可以提升图像的外观，为了自动调节这两个参数，有两种方法，一种方法是寻找图像中最亮的值和最暗的值，将它们映射到纯白和纯黑，另一种方法是寻找图像的像素平均值，将其作为像素的中间灰度值，然后充满范围尽量达到可显示的值。

        局部自适应直方图均衡化，对于不同的区域采用不同的均衡化方法。缺点是会产生区块效应，即块的边界处亮度不连续，为了消除这一效应，常采用移动窗口，或者在块与块之间的转换函数进行平滑插值。

        1.5 应用:色调调整

        点算子的常用领域是对照片的对比度和色调进行操作。

        与点算子相对应的邻域算子是根据选定像素及周围的像素来决定该像素的 输出。邻域算子不仅用于局部色调调整，还用于图像平滑和锐化，图像的去噪。

        邻域算子的重要概念是卷积和相关，它们都是线性移不变算子，满足叠加原理和移位不变原理。

        填塞，当卷积核超出图像边界时，会产生边界效应。有多种填塞方法，0填塞，常数填塞，夹取填塞，重叠填塞，镜像填塞，延长。

        2.1 可分滤波器

        如果一个卷积运算可以分解为一维行向量卷积和一维列向量卷积，则称该卷积核可分离。2D核函数可以看作一个矩阵K，当且仅当K的第一个奇异值为0时，K可分离。

        2.2 线性滤波器举例

        最简单的滤波器是移动平均或方框滤波器，其次是双线性滤波器（双线性核），高斯滤波器（高斯核），以上均为低通核，模糊核，平滑核。对于这些核函数效果的度量采用傅里叶分析。还有Sobel算子和角点算子。

        2.3 带通和导向滤波器

        Sobel算子是带方向的滤波器的近似，先用高斯核平滑图像，再用方向导数（拉普拉斯算子)作用于图像，得到导向滤波器，导向具有潜在的局部性以及很好的尺度空间特性。导向滤波器常用来构造特征描述子和边缘检测器，线性结构通常被认为是类似边缘的。

        区域求和表是指一定区域内所有像素值的和，又称为积分图像，它的有效计算方法是递归算法（光栅扫描算法），区域求和表用于对其他卷积核的近似，人脸检测中的多尺度特征，以及立体视觉中的差分平方和的计算。

        递归滤波器称为无限脉冲响应(IIR)，有时用于二维距离函数和连通量的计算，也可计算大面积的平滑计算。

        3.1 非线性滤波器

        中值滤波可以去除散粒噪声，它的另一个优点是保边平滑，即在滤除高频噪声时，边缘不容易被柔化。

        双边滤波器思想的精髓在于，抑制与中心像素值差别较大的像素，而不是抑制固定百分比 的像素。在加权滤波器的基础上，对权重系数进行了控制，即取决于定义域核（高斯核）和值域核（与中心像素值的相似度），两者相乘得到双边滤波器核。

        迭代自适应平滑核各项异性扩散。

        3.2 形态学

        非线性滤波常用于二值图像处理，二值图像中最常见的算子是形态学算子，将二值结构元素与二值图像卷积，根据卷积结果的阈值选择二值输出，结构元素可以是任何形状。

        常见的形态学操作有膨胀，腐蚀，过半，开运算，闭运算。过半使锐利的角变得平滑，开运算和闭运算去除图像中小的点和孔洞，并使图像平滑。

        3.3 距离变换

        距离变换通过使用两遍光栅扫描法，快速预计算到曲线或点集的距离，包括城街距离变换和欧氏距离变换。符号距离变换是基本距离变换的扩展，计算了所有像素到边界像素的距离。

        3.4 连通域

        检测图像的连通量是半全局的图像操作，连通量定义为具有相同输入值的邻接像素的区域，二值或多值图像被分割成连通量形式后，对每个单独区域计算统计量，面积，周长，质心，二阶矩，可用于区域排序和区域匹配。

          傅里叶变换用于对滤波器的频域特征进行分析，FFT能快速实现大尺度核的卷积。

          思想：为了分析滤波器的频率特征，将一个已知频率的正弦波通过滤波器，观察正弦波变弱的程度。傅里叶变换可认为是输入信号为正弦信号s(x)，经过滤波器h(x)后，产生的输出响应为正弦信号o(x)=s(x)*h(x),即两者的卷积。傅里叶变换是对每个频率的幅度和相位响应的简单罗列。傅里叶变换不仅可以用于滤波器，还能用于信号和图像。

          傅里叶变换的性质：叠加，平移，反向，卷积，相关，乘，微分，定义域缩放，实值图像，Parseval定理。

      4.1 傅里叶变换对

      常见的傅里叶变换对，连续的和离散的。方便进行傅里叶变换。

        高频成分将在降采样中导致混叠。

      4.2 二维傅里叶变换

        为了对二维图像及滤波器进行处理，提出了二维傅里叶变换，与一维傅里叶变换类似，只不过用向量代替标量，用向量内积代替乘法。

        4.3 维纳滤波器

        傅里叶变换还可用于分析一类图像整体的频谱，维纳滤波器应运而生。假定这类图像位于随机噪声场中，每个频率的期望幅度通过功率谱给出，信号功率谱捕获了空间统计量的一阶描述。维纳滤波器适用于去除功率谱为P的图像噪声的滤波器。

        维纳滤波器的性质，对于低频具有 单位增益，对于高频，具有减弱的效果。

        离散余弦变换(DCT）常用于处理以块为单位的图像压缩，它的计算方法是将以N为宽度的块内的像素与一系列不同频率的余弦值进行点积来实现。

        DCT变换的实质是对自然图像中一些小的区域的最优KL分解（PCA主成分分析的近似），KL能有效对信号去相关。

        小波算法和DCT交叠变种能有效去除区块效应。

        4.4 应用:锐化，模糊，去噪

          锐化和去噪声能有效增强图像，传统的方法是采用线性滤波算子，现在广泛采用非线性滤波算子，例如加权中值和双边滤波器，各向异性扩散和非局部均值，以及变分方法。

          度量图像去噪算法效果时，一般采用峰值信噪比(PNSR)，结构相似性(SSIM)索引。

        迄今为止所研究的图像变换输出图像大小均等于输入图像的大小，为了对不同分辨率的图像进行处理，比如，对小图像进行插值使其与电脑的分辨率相匹配，或者减小图像的大小来加速算法的执行或节省存储空间和传输时间。

        由于不知道处理图像所需的分辨率，故由多幅不同的图像构建图像金字塔，从而进行多尺度的识别和编辑操作。改变图像分辨率较好的滤波器是插值滤波器和降采样滤波器。

      5.1 插值

        为将图像变大到较高分辨率，需要用插值核来卷积图像，二次插值常用方法是双线性插值，双三次插值，窗函数。窗函数被认为是品质最高的插值器，因为它既可以保留低分辨率图像中的细节，又可以避免混叠。

        5.2 降采样

        降采样是为了降低图像分辨率，先用低通滤波器卷积图像，避免混叠，再保持第r个样例。常用的降采样滤波器有线性滤波器，二次滤波器，三次滤波器，窗余弦滤波器，QMF-9滤波器，JPEG2000滤波器。

        5.3 多分辨率表示

        通过降采样和插值算法，能够对图像建立完整的图像金字塔，金字塔可以加速由粗到精的搜索算法，以便在不同的尺度上寻找物体和模式，或进行多分辨率融合操作。

        计算机视觉中最有名的金字塔是拉普拉斯金字塔，采用大小为2因子对原图像进行模糊和二次采样，并将它存储在金字塔的下一级。

      5.4 小波变换

        小波是在空间域和频率域都定位一个信号的滤波器，并且是在不同层次的尺度上定义的。小波可以进行多尺度有向滤波和去噪。与常规的金字塔相比，小波具有更好的方向选择性，并提供了紧致框架。

        提升小波被称为第二代小波，很容易适应非常规采样拓扑，还有导向可移位多尺度变换，它们的表述不仅是过完备的，而且是方向选择的。

      5.5 应用:图像融合

        拉普拉斯金字塔的应用，混合合成图像。要产生混合图像，每个原图像先分解成它自己的拉普拉斯金字塔，之后每个带被乘以一个大小正比于金字塔级别的平滑加权函数 。最简单的方法是建立一个二值掩膜图像，根据此图像产生一个高斯金字塔，再将拉普拉斯金字塔和高斯掩膜，这两个带权金字塔的和产生最终图像。

        相对于点操作改变了图像的值域范围，几何变换关注于改变图像的定义域。原先采用的方法是全局参数化2D变换，之后的注意力将转向基于网格的局部变形等更多通用变形。

        6.1 参数变换

        参数化变换对整幅图像进行全局变换，其中变换的行为由少量的参数控制，反向卷绕或反向映射的性能优于前向卷绕，主要在于其能够避免空洞和非整数位置重采样的问题。而且可以用高质量的滤波器来控制混叠。

        图像卷绕问题可形式化为给定一个从目标像素x'到原像素x的映射来重采样一副原图像。类似的反向法应用场合有光流法预测光流以及矫正透镜的径向畸变。

        重采样过程的插值滤波器有，二次插值，三次插值，窗插值，二次插值追求速度，三次插值和窗插值追求视觉品质。

        MIP映射是一种纹理映射的快速预滤波图像工具。   

        MIP图是标准的图像金字塔，每层用一个高质量的滤波器滤波而不是低质量的近似，重采样时，需要预估重采样率r。

        椭圆带权平均滤波器(EWA)，各向异性滤波，多通变换。

        有向二位滤波和重采样操作可以用一系列一维重采样和剪切变换来近似，使用一系列一维变换的优点是它们比大的，不可分离的二位滤波核更有效。

        6.2 基于网格扭曲

            为了获得更自由的局部变形，产生了网格卷绕。稀疏控制点，稠密集，有向直线分割，位移场的确定。

        6.3 应用:基于特征的形态学

            卷绕常用于改变单幅图像的外观以形成动画，也可用于多幅图像的融合以产生强大的变形效果，在两幅图像之间进行简单的渐隐渐显会导致鬼影，但采用图像卷绕建立了良好的对应关系，相应的特征便会对齐。

        用一些优化准则明确表达想要变换的目标，再找到或推断出这个准则的解决办法。正则化和变分法，构建一个描述解特性的连续全局能量函数，然后用稀疏线性系统或相关迭代方法找到最小能量解，贝叶斯统计学对产生输入图像的有噪声的测量过程和关于解空间的先验假设进行建模，通常用马尔科夫随机场进行编码。常见示例有散列数据的表面插值，图像去噪和缺失区域恢复，将图像分为前景和背景区域。

      7.1 正则化

        正则化理论试图用模型来拟合严重欠约束解空间的数据。即用一个平滑的表面穿过或是靠近一个测量数据点集合的问题。这样的问题是病态的和不适定的。这样由采样数据点d(xi,yi)恢复完整图像f(x,y)的问题被称为逆问题。

        为了定义平滑解，常在解空间上定义一个范数，对于一维函数，函数一阶导数的平方进行积分，或对函数二阶导数的平方进行积分，这种能量度量是泛函的样例，是将函数映射到标量值的算子，这种方法被称为变分法，用于度量函数的变化（非平滑性）。

        7.2 马尔科夫随机场

        7.3 应用:图像复原

❷ 几种常见物流选址模型的优劣和发展

1、连续型选址模型

连续模型认为设施的地点可在平面上取任意点, 较为典型的研究方法是和用重心法解决欧式距离选址问题。这个方法的优点是不限于在特定的备选地点进行选择, 灵活性较大。但由于自由度较大、城市的地理条件限制, 因此, 选出的地址很可能是无法实现的地点;同时将线路考虑为直线也是不符合实际的。鲁晓春对重心法选址作了深入的研究, 认为原有重心法存在问题, 并用流通费用偏微分方程来取代原有的计算公式。

由于重心法选址具有算法简单、应用灵活的特点, 人们将重心法与其它方法相结合, 并将其引入到多目标组合优化问题中, 但都只针对单一设施选址问题。其中, Point-Objective问题、连续型多目标( min-sum)选址问题、网络多目标中位数选址问题等被认为是最具代表性的研究。后来, 连续模型的扩展模型针对是多个设施的选址问题, 称其为多源Weber问题, 该问题是个NP难题。Rosing提出了求解该问题的精确算法, Goldengorin提出了求解该问题的启发式算法, 上述扩展模型只针对单一设施选址问题。对于选择两个设施的特例, Brimberg和Chen对该模型进行了进一步的研究和分析, 并提供相应的启发式算法。

2、离散型选址模型

这类方法认为配送中心的备选地点是有限的几个场所, 最合适的地点只能从中选出, 经典的方法有Kuehn-Hamburger模型法、鲍姆尔沃尔夫法、混合整数规划法、CFLP法(Capacitatied Facility Location Problem)和P-中值问题。

鲍姆尔沃尔夫法的优点是:将中心的可变费用表为凹函数, 可估计选定的配送中心流量, 提供的启发式算法较为简单易行。不足:没考虑配送中心的固定费用及容量限制, 可能造成选定的中心个数过多(或过少) 。

为弥补其缺陷, 又建立混合整数规划模型, 将中心的固定费用、经营管理费用、运输费用和库存费列入目标函数, 将容量限制及中心个数限制列入约束条件。不足:将可变费用改为按线性关系处理, 这种倒退主要来自求解的考虑, 但求解此模型的计算量仍很大。由于变量和约束条件众多、形式复杂, 一般用启发式算法求解。

设计使用法求解, 用组合进化方法求解该类问题。上述求解都是基于这两个基本假设:一是主要考虑运输费用;二

是不存在竞争对手。提出了九个基本的选址模型, 包括简单选址模型、有容量限制的选址模型、需求变动的选址模型、动态选址模型等, 目标函数是使运输费用和固定选址投资费用最小。除考虑了选址的固定费用、运输费用外, 还考虑了库存费用;用分解算法进行了求解。考虑了非线性运输费用的选址问题, 用分枝定界法求解。采用双层规划求解运输网络中公共物流转运站点的选址。魏巧云考虑运输成本和运营可变成本, 建立了多个配送中心的选址模型。卢安文建立了紧急情况下的配送模型, 以时间、费用为优化目标。刘海燕在分析了系统中库存管理、运输、配送中心之间的联系后,用最优化方法构建了选址模型。对进行一个较为全面的研究, 展示了以前的研究所没有考虑的一些问题, 如多商品问题等。研究的问题在结构上是两级的, 包括多个工厂、仓库和目的地。上述研究不足之处:均没有考虑设施的固定运行成本的问题。

P-中值问题是指在一个给定数量和位置的需求集合和一个候选设施位置的集合下, 分别为个设施找到合适的位置, 并指派每个需求点到一个特定的设施, 使之达到在设施和需求点之间的运费最低。研究基于欧式距离的中值问题。提出了使用禁忌搜索和可变邻域搜索方法来求解中值模型的启发式算法。尹传忠提出了使用局部搜索和可变邻域搜索方法来求解中值模型的启发式算法。提出了运用词典区域局部搜索法求解中值问题。用模拟退火算法、用遗传算法求解中值问题。

离散型选址问题的目标函数涉及到运输(交通成本)、投资成本(建设成本)、客户服务水平(在特定时间、距离为客户提供服务)、设施能力利用率等两个及以上的目标优化时, 就是所谓的多目标规划选址问题。与单目标选址问题比较, 多目标选址问题的求解更加困难。提出的应用整数目标规划来求解多目标选址问题。与对多目标问题的处理方法是将一个主要目标作为总目标, 将要实现的目标作为限制条件来将它转化为单目标规划问题。通过对对称解的研究, 解决离散型多目标选址问题。

3、动态模型

动态选址模型是解决如何在需求和成本变化的跨时间周期的规划期内对设施进行选址, 使得总的长期成本最小的问题。通过以下几种方法可以找到随时间变化的最优布局:

可以使用现期条件和未来某年的预期情况, 找出仓库最佳位置。

认为设施地点配置不能长期保证最优, 提出随时间变化的动态选址模型。研究多个设施在分阶段时期选址分配的问题, 并应用动态规划法来解决该问题。孙会君对新增配送中心如何进行有效的选址决策问题进行了研究, 并给出了求解的迭代算法。

( )可以找到一个随时间变化的最优布局变化轨迹, 精确地反映什么时候需要转换成新布局, 应该转换成什么样的布局。考虑了选址问题的动态特性和需求的随机变动性, 建立动态选址模型和随机选址模型。根据实际问题的特点, 建立了一个考虑时间因素的动态选址的基本模型。

( )找出目前最优网络布局, 并进行实施;随后, 利用未来的数据,找出新的最优布局。研究了在整个规划期内, 建立新的设施而原有的设施可以被关闭。模型考虑资金的时间价值, 目标函数是整个规划期内的成本最小。

5、随机模型

随机模型其研究方法主要分为两类:概率方法和情景计划方法, 这两种方法的系统输入参数都是不确定性的。

对随机的个中点问题和无能力限制的选址问题进行了研究, 模型中时间、距离、供应和需求为随机变量。袁庆达建立了优化区域公共物流中心规模和选址问题的二级非线性规划模型, 并设计了遗传模拟退火算法求解。先研究了行程时间状态随马尔可夫状态转移矩阵变化的多个设施选址问题, 后又扩展到需求服从均匀分布时的最大最小和最小最大选址问题。和在网络节点需求和行程时间都是不确定的情况下, 建立了目标函数为服务最小、需求最大的随机情景问题模型。杨波提出了一个随机化的模型, 给出单个配送中心选址问题的一个量化的处理方法。

选址分配问题的定性研究这类方法是将专家凭经验、专业知识做出的判断以数值形式表示, 再经过综合分析后对选址进行决策。首先, 根据影响物流设施选址的因素, 建立备选方案的评价指标体系;然后, 采用一定的评价方法(如:偏好理论、权重因素分析方法、专家评分法、层次分析法、模糊层次分析法、模糊综合评判法、或者模糊多准则决策方法等)得到所需的评价指标的权重;最后, 通过求出各备选方案的优劣排序, 得到最优方案。

和用偏好理论将所有主观因素两两比较从而为主观因素赋予了权重值。和提出了一种权重因素分析方法将定量的数据和定性的评价值相结合, 在多个备选项中选择合适的地址。先建立层次结构评价模型, 再用层次分析法确定配送中心最优位置。陆琳琳引入模糊评价方法, 全面考虑选址过程中的各项因素, 使选址评价更客观、合理。提出模糊多准则决策方法, 用于解决模糊环境下的配送中心选址问题。

值得注意的是, 在应用定性评价时有两个关键环节, 其中首要环节是评价指标体系的设计;其次是评价指标的量化。无论是定性还是定量, 评价指标的隶属度的量化都要科学合理。一方面, 要采取定性与定量分析相结合的方法准确地进行评价指标隶属度的刻画, 另一方面, 要注意不同评价指标的隶属度在量级上的一致性与可比性。

在综合考虑各种影响因素的基础上, 对影响选址的因素划分为两层指标体系;构建出包括自然条件、经济因素、投资环境情况与其他因素个一级指标和个二级指标。通过真实的案例对军事物流系统的选址进行了研究, 划分为两层指标体系;包括气候、地质、军事、经济和基础设施个一级指标和个二级指标。

采用模糊定量的方法, 对转运型的国际配送中心进行评价, 构建出包括内在因素和外在因素个一级指标和个二级指标的两层评价体系。傅新平结合物流中心的职能, 从经济和社会效益两个方面出发, 建立了个一级指标和个二级指标。吴迎学设计了多因素评价指标体系, 第一层次是物流环境、生产能力、经济效益指标, 它们是决定物流中心设计方案优劣的主要因素;第二层次是对上述指标进一步评价而细分的因素集, 共计个二级指标。韩世莲运用多准则模糊层次分析法进行配送中心选址的综合评价与决策, 从自然环境、交通运输、经营环境、地理条件和公共设施五个方面综合考虑, 并建立了由三层共计条准则构成的评价指标体系。夏景虹设计了包括区位条件、交通设施、其他设施、建设条件和社会环境个一级指标和个二级指标。刘文歌用德尔斐法建立了配送中心选址方案评价指标体系, 采用成本型、效益型和区间型三个指标为级指标, 并设计了个二级指标。刘晓峰将经济效益、社会效益及技术效能作为级指标, 又建立了个二级指标。

总体而言, 国内外相关研究对选址的评价指标主要考察社会效益、经济效益以及技术效能个方面.

❸ 采用准确优化技术和启发式优化技术解决一个问题会存在什么不同

采用准确优化技术和启发式优化技术解决一个问题会存在的不同之处：

①确定性算法和随机性算法是目前求解优化问题的方法。随机性算法一般是对社会行为和自然现象的模拟，具有对优化函数的解析性质要求低的特点，甚至对无显示解析表达式的问题也可以求解，能较好解决优化中的噪声、不可微、高维等问题。

②启发式算法作为随机性算法的一种，其良好的应用更加快了人们对各种优化方法的探索脚步。 近些年来不断有学者将分形应用于优化中来，试图运用分形思想来处理复杂的优化问题。

③其中，分形算法通过对可行域的分形分割来寻优，是一种新颖的确定性算法，但其局限性较大，只适用于低维简单的问题，对于当今社会中高维复杂问题则几乎无能为力，也使得该算法的影响力微乎其微。

④启发式技术是基于特征值扫描技术上的升级,与传统反病毒特征值扫描技术相比,优点在于对未知病毒的防御.是特征值识别技术质的飞跃。

(3)邻域搜索算法优点扩展阅读

启发式：简化虚拟机和简化行为判断引擎的结合 Heuristic(启发式技术=启发式扫描+启发式监控) 重点在于特征值识别技术上的更新、解决单一特征码比对的缺陷.目的不在于检测所有的未知病毒,只是对特征值扫描技术的补充.主要针对：木马、间谍、后门、下载者、已知病毒(PE病毒)的变种。

一、启发式发展方向

现代启发式算法的研究,在理论方面还处于不断发展中,新思想和新方法仍不断出现。分析目前的现状和发展方向,其发展方向有如下几个方面:

①整理归纳分散的研究成果,建立统一的算法体系结构。

②在现有的数学方法(模式定理、编码策略、马尔可夫链理论、维数分析理论、复制遗传算法理论、二次动力系统理论、傅立叶分析理论、分离函数理论、Walsh函数分析理论)的基础上寻求新的数学工具。

③开发新的混合式算法及开展现有算法改进方面的研究。

④研究高效并行或分布式优化算法。

二、启发式算法算法机制特点

现代启发式算法在优化机制方面存在一定的差异,但在优化流程上却具有较大的相似性,均是一种“邻域搜索”结构。算法都是从一个(一组)初始解出发,在算法的关键参数的控制下通过邻域函数产生若干邻域解,按准则(确定性、概率性或混沌方式)更新当前状态,而后按关键参数修改准则调整关键参数，一直优化到最优结果。

❹ 剩余矩形填充算法是优化算法吗

是，针对矩形件排样问题提出的一种新的空白矩形填充优化算法.
首先,设计空白矩形填充算法时,提出了消除多余空白矩形的方法,以减小计算时间复杂度.其次,利用邻域搜索算法优化矩形件排放顺序,通过挖掘矩形件排样的问题特征,设计了受限距离的交叉和插入两种邻域算子,并提出了特殊算子执行点选择策略.然后,设计了基于两种邻域算子交替迭代的邻域搜索算法.最后,对文献中的21个经典案例进行试验计算,4个案例的排样利用率达到了100％,绝大多数案例的排样利用率超过了99％,最小排样利用率超过了98％.将其他常用算法和文献中算法进行比较,验证了本文算法的有效性

❺ pso的算法结构

对微粒群算法结构的改进方案有很多种，对其可分类为：采用多个子种群；改进微粒学习对象的选取策略；修改微粒更新迭代公式；修改速度更新策略；修改速度限制方法、位置限制方法和动态确定搜索空间；与其他搜索技术相结合；以及针对多模问题所作的改进。
第一类方案是采用多个子种群。柯晶考虑优化问题对收敛速度和寻优精度的双重要求并借鉴多群体进化算法的思想，将寻优微粒分成两组，一组微粒采用压缩因子的局部模式PSO算法，另一组微粒采用惯性权重的全局模式PSO算法，两组微粒之间采用环形拓扑结构。对于高维优化问题，PSO算法需要的微粒个数很多，导致计算复杂度常常很高，并且很难得到好的解。因此，出现了一种协作微粒群算法（Cooperative ParticleSwarm Optimizer, CPSO-H），将输入向量拆分成多个子向量，并对每个子向量使用一个微粒群来进行优化。虽然CPSO-H算法使用一维群体来分别搜索每一维，但是这些搜索结果被一个全局群体集成起来之后，在多模问题上的性能与原始PSO算法相比有很大的改进。Chow使用多个互相交互的子群，并引入相邻群参考速度。冯奇峰提出将搜索区域分区，使用多个子群并通过微粒间的距离来保持多样性。陈国初将微粒分成飞行方向不同的两个分群，其中一分群朝最优微粒飞行，另一分群微粒朝相反方向飞行；飞行时，每一微粒不仅受到微粒本身飞行经验和本分群最优微粒的影响，还受到全群最优微粒的影响。Niu在PSO算法中引入主—从子群模式，提出一种多种群协作PSO算法。Seo提出一种多组PSO算法（Multigrouped PSO），使用N组微粒来同时搜索多模问题的N个峰。Selleri使用多个独立的子群，在微粒速度的更新方程中添加了一些新项，分别使得微粒向子群历史最优位置运动，或者远离其他子群的重心。王俊年借鉴递阶编码的思想，构造出一种多种群协同进化PSO算法。高鹰借鉴生态学中环境和种群竞争的关系，提出一种基于种群密度的多种群PSO算法。
第二类方案是改进微粒学习对象的选取策略。Al-kazemi提出多阶段PSO算法，将微粒按不同阶段的临时搜索目标分组，这些临时目标允许微粒向着或背着它自己或全局最好位置移动。Ting对每个微粒的pBest进行操作，每一维从其他随机确定的维度学习，之后如果新的pBest更好则替换原pBest；该文还比较了多种不同学习方式对应的PSO算法的性能。Liang提出一种新颖的学习策略CLPSO，利用所有其他微粒的历史最优信息来更新微粒的速度；每个微粒可以向不同的微粒学习，并且微粒的每一维可以向不同的微粒学习。该策略能够保持群体的多样性，防止早熟收敛，可以提高PSO算法在多模问题上的性能；通过实验将该算法与其它几种PSO算法的变种进行比较，实验结果表明该算法在解决多模复杂问题时效果很好。Zhao在PSO算法中使用适应值最好的n个值来代替速度更新公式中的gBest。Abdelbar提出一种模糊度量，从而使得每个邻域中有多个适应值最好的微粒可以影响其它微粒。Wang也采用多个适应值最好的微粒信息来更新微粒速度，并提出一种模糊规则来自适应地确定参数。崔志华提出一种动态调整的改进PSO算法，在运行过程中动态调整极限位置，使得每个微粒的极限位置在其所经历的最好位置与整体最好位置所形成的动态圆中分布。与原始PSO算法相反，有一类方法是远离最差位置而非飞向最优位置。Yang提出在算法中记录最差位置而非最优位置，所有微粒都远离这些最差位置。与此类似，Leontitsis在微粒群算法中引入排斥子的概念，在使用个体最优位置和群体最优位置信息的同时，在算法中记录当前的个体最差位置和群体最差位置，并利用它们将微粒排斥到最优位置，从而让微粒群更快地到达最优位置。孟建良提出一种改进的PSO算法，在进化的初期，微粒以较大的概率向种群中其他微粒的个体最优学习；在进化后期，微粒以较大的概率向当前全局最优个体学习。Yang在PSO算法中引入轮盘选择技术来确定gBest，使得所有个体在进化早期都有机会引领搜索方向，从而避免早熟。
第三类方案是修改微粒更新公式。Hendtlass在速度更新方程中给每个微粒添加了记忆能力。He在速度更新方程中引入被动聚集机制。曾建潮通过对PSO算法的速度进化迭代方程进行修正，提出一种保证全局收敛的随机PSO算法。Zeng在PSO算法中引入加速度项，使得PSO算法从一个二阶随机系统变为一个三阶随机系统，并使用PID控制器来控制算法的演化。为了改进PSO算法的全局搜索能力，Ho提出一种新的微粒速度和位置更新公式，并引入寿命（Age）变量。
第四类方案是修改速度更新策略。Liu认为过于频繁的速度更新会弱化微粒的局部开采能力并减慢收敛，因此提出一种松弛速度更新（RVU）策略，仅当微粒使用原速度不能进一步提高适应值时才更新速度，并通过试验证明该策略可以大大减小计算量并加速收敛。罗建宏对同步模式和异步模式的PSO算法进行了对比研究，试验结果表明异步模式收敛速度显着提高，同时寻优效果更好。Yang在微粒的更新规则中引入感情心理模型。Liu采用一个最小速度阈值来控制微粒的速度，并使用一个模糊逻辑控制器来自适应地调节该最小速度阈值。张利彪提出了对PSO算法增加更新概率，对一定比例的微粒并不按照原更新公式更新，而是再次随机初始化。Dioan利用遗传算法（GA）来演化PSO算法的结构，即微粒群中各微粒更新的顺序和频率。
第五类方案是修改速度限制方法、位置限制方法和动态确定搜索空间。Stacey提出一种重新随机化速度的速度限制和一种重新随机化位置的位置限制。Liu在[76]的基础上，在PSO算法中引入动量因子，来将微粒位置限制在可行范围内。陈炳瑞提出一种根据微粒群的最佳适应值动态压缩微粒群的搜索空间与微粒群飞行速度范围的改进PSO算法。
第六类方案是通过将PSO算法与一些其他的搜索技术进行结合来提高PSO算法的性能，主要目的有二，其一是提高种群多样性，避免早熟；其二是提高算法局部搜索能力。这些混合算法包括将各种遗传算子如选择、交叉、变异引入PSO算法，来增加种群的多样性并提高逃离局部最小的能力。Krink通过解决微粒间的冲突和聚集来增强种群多样性，提出一种空间扩展PSO算法（Spatial ExtensionPSO，SEPSO）；但是SEPSO算法的参数比较难以调节，为此Monson提出一种自适应调节参数的方法。用以提高种群多样性的其他方法或模型还包括“吸引—排斥”、捕食—被捕食模型、耗散模型、自组织模型、生命周期模型（LifeCycle model）、贝叶斯优化模型、避免冲突机制、拥挤回避（Crowd Avoidance）、层次化公平竞争（HFC）、外部记忆、梯度下降技术、线性搜索、单纯形法算子、爬山法、劳动分工、主成分分析技术、卡尔曼滤波、遗传算法、随机搜索算法、模拟退火、禁忌搜索、蚁群算法（ACO）、人工免疫算法、混沌算法、微分演化、遗传规划等。还有人将PSO算法在量子空间进行了扩展。Zhao将多主体系统（MAS）与PSO算法集成起来，提出MAPSO算法。Medasani借鉴概率C均值和概率论中的思想对PSO算法进行扩展，提出一种概率PSO算法，让算法分勘探和开发两个阶段运行。
第七类方案专门针对多模问题，希望能够找到多个较优解。为了能使PSO算法一次获得待优化问题的多个较优解，Parsopoulos使用了偏转（Deflection）、拉伸（Stretching）和排斥（Repulsion）等技术，通过防止微粒运动到之前已经发现的最小区域，来找到尽可能多的最小点。但是这种方法会在检测到的局部最优点两端产生一些新的局部最优点，可能会导致优化算法陷入这些局部最小点。为此，Jin提出一种新的函数变换形式，可以避免该缺点。基于类似思想，熊勇提出一种旋转曲面变换方法。
保持种群多样性最简单的方法，是在多样性过小的时候，重置某些微粒或整个微粒群。Lvbjerg在PSO算法中采用自组织临界性作为一种度量，来描述微粒群中微粒相互之间的接近程度，来确定是否需要重新初始化微粒的位置。Clerc提出了一种“Re-Hope”方法，当搜索空间变得相当小但是仍未找到解时（No-Hope），重置微粒群。Fu提出一种带C-Pg变异的PSO算法，微粒按照一定概率飞向扰动点而非Pg。赫然提出了一种自适应逃逸微粒群算法，限制微粒在搜索空间内的飞行速度并给出速度的自适应策略。
另一种变种是小生境PSO算法，同时使用多个子种群来定位和跟踪多个最优解。Brits还研究了一种通过调整适应值计算方式的方法来同时找到多个最优解。Li在PSO算法中引入适应值共享技术来求解多模问题。Zhang在PSO算法中采用顺序生境（SequentialNiching）技术。在小生境PSO算法的基础上，还可以使用向量点积运算来确定各个小生境中的候选解及其边界，并使该过程并行化，以获得更好的结果。但是，各种小生境PSO算法存在一个共同的问题，即需要确定一个小生境半径，且算法性能对该参数很敏感。为解决该问题，Bird提出一种自适应确定niching参数的方法。
Hendtlass在PSO算法中引入短程力的概念，并基于此提出一种WoSP算法，可以同时确定多个最优点。刘宇提出一种多模态PSO算法，用聚类算法对微粒进行聚类，动态地将种群划分成几个类，并且使用微粒所属类的最优微粒而非整个种群的最好微粒来更新微粒的速度，从而可以同时得到多个近似最优解。Li在PSO算法中引入物种的概念，但是由于其使用的物种间距是固定的，该方法只适用于均匀分布的多模问题；为此，Yuan对该算法进行扩展，采用多尺度搜索方法对物种间距加以自适应的调整。
此外，也有研究者将PSO算法的思想引入其他算法中，如将PSO算法中微粒的运动规则嵌入到进化规划中，用PSO算法中的运动规则来替代演化算法中交叉算子的功能。

❻ 邻域的定义是唯一的吗邻域的定义与搜索效率及结 果有关联吗简要说明你的结

不是。有关联。
邻域：邻域是指集合上的一种基础的拓扑结构。在集合论中，它是以点a为中心的任何开区间，记作：U(a)。在拓扑学和相关的数学领域中，邻域是拓扑空间中的基本概念。有邻域公理（邻域公理是现代数学拓扑结构的基础概念）、开邻域和闭邻域、去心邻域等相关研究的着作。
广义邻域搜索算法的统一结构：
1.对优化过程作两方面分解处理：方面1、基于优化空间的分层（原问题分解为子问题求解，最后将各子问题的解逆向综合为原问题的解）方面2、基于优化进程的分层（进程层次分为若干阶段，各阶段采用不同的搜索算法或邻域函数进行优化）目前混合算法的结构类型主要可归纳为串行、镶嵌、并行及混合结构。
串行结构。
镶嵌结构。
并行结构（又分为同步式并行、异步式并行、网络结构）。
同步式：各子算法相对独立但与主过程的通讯必须同步。
异步式：子算法与主过程的通讯不受其他子算法的限制。
网络结构：各算法分别在独立的存储器上执行独立的搜索，算法间的通信是通过网络相互传递的。

❼ 什么是局部搜索算法

局部搜索算法是从爬山法改进而来的。
简单来说，局部搜索算法是一种简单的贪心搜索算法，该算法每次从当前解的临近解空间中选择一个最优解作为当前解，直到达到一个局部最优解。
在计算机科学中，局部搜索是解决最优化问题的一种元启发式算法。局部搜索从一个初始解出发，然后搜索解的邻域，如有更优的解则移动至该解并继续执行搜索，否则返回当前解。
1、局部搜索算法的基本思想：
在搜索过程中，始终选择当前点的邻居中与离目标最近者的方向搜索。
2、局部搜索的优点：
简单、灵活及易于实现，缺点是容易陷入局部最优且解的质量与初始解和邻域的结构密切相关。常见的改进方法有模拟退火、禁忌搜索等。
3、局部搜索广泛应用：
计算机科学（主要是人工智能）、数学、运筹学、工程学、生物信息学中各种很难找到全局最优解的计算问题。

❽ 智能算法的算法分类

模拟退火算法的依据是固体物质退火过程和组合优化问题之间的相似性。物质在加热的时候，粒子间的布朗运动增强，到达一定强度后，固体物质转化为液态，这个时候再进行退火，粒子热运动减弱，并逐渐趋于有序，最后达到稳定。
模拟退火的解不再像局部搜索那样最后的结果依赖初始点。它引入了一个接受概率p。如果新的点（设为pn）的目标函数f（pn）更好，则p=1，表示选取新点；否则，接受概率p是当前点（设为pc）的目标函数f（pc），新点的目标函数f（pn）以及另一个控制参数“温度”T的函数。也就是说，模拟退火没有像局部搜索那样每次都贪婪地寻找比现在好的点，目标函数差一点的点也有可能接受进来。随着算法的执行，系统温度T逐渐降低，最后终止于某个低温，在该温度下，系统不再接受变化。
模拟退火的典型特征是除了接受目标函数的改进外，还接受一个衰减极限，当T较大时，接受较大的衰减，当T逐渐变小时，接受较小的衰减，当T为0时，就不再接受衰减。这一特征意味着模拟退火与局部搜索相反，它能避开局部极小，并且还保持了局部搜索的通用性和简单性。
在物理上，先加热，让分子间互相碰撞，变成无序状态，内能加大，然后降温，最后的分子次序反而会更有序，内能比没有加热前更小。就像那只兔子，它喝醉后，对比较近的山峰视而不见，迷迷糊糊地跳一大圈子，反而更有可能找到珠峰。
值得注意的是，当T为0时，模拟退火就成为局部搜索的一个特例。
模拟退火的伪码表达：
procere simulated annealing
begin
t:=0;
initialize temperature T
select a current string vc at random;
evaluate vc;
repeat
repeat
select a new string vn in the neighborhood of vc; (1)
if f(vc)<f(vn)
then vc:=vn;
else if random [0,1] <exp ((f (vn)-f (vc))/T) (2)
then vc:=vn;
until (termination-condition) (3)
T:=g(T,t); (4)
T:=t+1;
until (stop-criterion) (5)
end;
上面的程序中，关键的是(1)新状态产生函数，(2)新状态接受函数，(3)抽样稳定准则，(4)退温函数，(5)退火结束准则（简称三函数两准则）是直接影响优化结果的主要环节。虽然实验结果证明初始值对于最后的结果没有影响，但是初温越高，得到高质量解的概率越大。所以，应该尽量选取比较高的初温。
上面关键环节的选取策略：
（1）状态产生函数：候选解由当前解的邻域函数决定，可以取互换，插入，逆序等操作产生，然后根据概率分布方式选取新的解，概率可以取均匀分布、正态分布、高斯分布、柯西分布等。
（2）状态接受函数：这个环节最关键，但是，实验表明，何种接受函数对于最后结果影响不大。所以，一般选取min [1, exp ((f (vn)-f (vc))/T)]。
（3）抽样稳定准则：一般常用的有：检验目标函数的均值是否稳定；连续若干步的目标值变化较小；规定一定的步数；
（4）退温函数：如果要求温度必须按照一定的比率下降，SA算法可以采用，但是温度下降很慢；快速SA中，一般采用 。目前，经常用的是 ，是一个不断变化的值。
（5）退火结束准则：一般有：设置终止温度；设置迭代次数；搜索到的最优值连续多次保持不变；检验系统熵是否稳定。
为了保证有比较优的解，算法往往采取慢降温、多抽样、以及把“终止温度”设的比较低等方式，导致算法运行时间比较长，这也是模拟退火的最大缺点。人喝醉了酒办起事来都不利索，何况兔子？ “物竞天择，适者生存”，是进化论的基本思想。遗传算法就是模拟自然界想做的事。遗传算法可以很好地用于优化问题，若把它看作对自然过程高度理想化的模拟，更能显出它本身的优雅——虽然生存竞争是残酷的。
遗传算法以一种群体中的所有个体为对象，并利用随机化技术指导对一个被编码的参数空间进行高效搜索。其中，选择、交叉和变异构成了遗传算法的遗传操作；参数编码、初始群体的设定、适应度函数的设计、遗传操作设计、控制参数设定五个要素组成了遗传算法的核心内容。作为一种新的全局优化搜索算法，遗传算法以其简单通用、健壮性强、适于并行处理以及高效、实用等显着特点，在各个领域得到了广泛应用，取得了良好效果，并逐渐成为重要的智能算法之一。
遗传算法的伪码：
procere genetic algorithm
begin
initialize a group and evaluate the fitness value ; （1）
while not convergent （2）
begin
select; （3）
if random[0,1]<pc then
crossover; （4）
if random (0,1)<pm then
mutation; （5）
end;
end
上述程序中有五个重要的环节：
（1）编码和初始群体的生成：GA在进行搜索之前先将解空间的解数据表示成遗传空间的基因型串结构数据，这些串结构数据的不同组合便构成了不同的点。然后随机产生N个初始串结构数据，每个串结构数据称为一个个体， N个体构成了一个群体。GA以这N个串结构数据作为初始点开始迭代。
比如，旅行商问题中，可以把商人走过的路径进行编码，也可以对整个图矩阵进行编码。编码方式依赖于问题怎样描述比较好解决。初始群体也应该选取适当，如果选取的过小则杂交优势不明显，算法性能很差（数量上占了优势的老鼠进化能力比老虎强），群体选取太大则计算量太大。
（2）检查算法收敛准则是否满足，控制算法是否结束。可以采用判断与最优解的适配度或者定一个迭代次数来达到。
（3）适应性值评估检测和选择：适应性函数表明个体或解的优劣性，在程序的开始也应该评价适应性，以便和以后的做比较。不同的问题，适应性函数的定义方式也不同。根据适应性的好坏，进行选择。选择的目的是为了从当前群体中选出优良的个体，使它们有机会作为父代为下一代繁殖子孙。遗传算法通过选择过程体现这一思想，进行选择的原则是适应性强的个体为下一代贡献一个或多个后代的概率大。选择实现了达尔文的适者生存原则。
（4）杂交：按照杂交概率（pc）进行杂交。杂交操作是遗传算法中最主要的遗传操作。通过杂交操作可以得到新一代个体，新个体组合了其父辈个体的特性。杂交体现了信息交换的思想。
可以选定一个点对染色体串进行互换，插入，逆序等杂交，也可以随机选取几个点杂交。杂交概率如果太大，种群更新快，但是高适应性的个体很容易被淹没，概率小了搜索会停滞。
（5）变异：按照变异概率（pm）进行变异。变异首先在群体中随机选择一个个体，对于选中的个体以一定的概率随机地改变串结构数据中某个串的值。同生物界一样，GA中变异发生的概率很低。变异为新个体的产生提供了机会。
变异可以防止有效基因的缺损造成的进化停滞。比较低的变异概率就已经可以让基因不断变更，太大了会陷入随机搜索。想一下，生物界每一代都和上一代差距很大，会是怎样的可怕情形。
就像自然界的变异适和任何物种一样，对变量进行了编码的遗传算法没有考虑函数本身是否可导，是否连续等性质，所以适用性很强；并且，它开始就对一个种群进行操作，隐含了并行性，也容易找到“全局最优解”。 为了找到“全局最优解”，就不应该执着于某一个特定的区域。局部搜索的缺点就是太贪婪地对某一个局部区域以及其邻域搜索，导致一叶障目，不见泰山。禁忌搜索就是对于找到的一部分局部最优解，有意识地避开它（但不是完全隔绝），从而获得更多的搜索区间。兔子们找到了泰山，它们之中的一只就会留守在这里，其他的再去别的地方寻找。就这样，一大圈后，把找到的几个山峰一比较，珠穆朗玛峰脱颖而出。
当兔子们再寻找的时候，一般地会有意识地避开泰山，因为他们知道，这里已经找过，并且有一只兔子在那里看着了。这就是禁忌搜索中“禁忌表（tabu list）”的含义。那只留在泰山的兔子一般不会就安家在那里了，它会在一定时间后重新回到找最高峰的大军，因为这个时候已经有了许多新的消息，泰山毕竟也有一个不错的高度，需要重新考虑，这个归队时间，在禁忌搜索里面叫做“禁忌长度（tabu length）”；如果在搜索的过程中，留守泰山的兔子还没有归队，但是找到的地方全是华北平原等比较低的地方，兔子们就不得不再次考虑选中泰山，也就是说，当一个有兔子留守的地方优越性太突出，超过了“best to far”的状态，就可以不顾及有没有兔子留守，都把这个地方考虑进来，这就叫“特赦准则（aspiration criterion）”。这三个概念是禁忌搜索和一般搜索准则最不同的地方，算法的优化也关键在这里。
伪码表达：
procere tabu search;
begin
initialize a string vc at random,clear up the tabu list;
cur:=vc;
repeat
select a new string vn in the neighborhood of vc;
if va>best_to_far then {va is a string in the tabu list}
begin
cur:=va;
let va take place of the oldest string in the tabu list;
best_to_far:=va;
end else
begin
cur:=vn;
let vn take place of the oldest string in the tabu list;
end;
until (termination-condition);
end;
以上程序中有关键的几点：
（1）禁忌对象：可以选取当前的值（cur）作为禁忌对象放进tabu list，也可以把和当然值在同一“等高线”上的都放进tabu list。
（2）为了降低计算量，禁忌长度和禁忌表的集合不宜太大，但是禁忌长度太小容易循环搜索，禁忌表太小容易陷入“局部极优解”。
（3）上述程序段中对best_to_far的操作是直接赋值为最优的“解禁候选解”，但是有时候会出现没有大于best_to_far的，候选解也全部被禁的“死锁”状态，这个时候，就应该对候选解中最佳的进行解禁，以能够继续下去。
（4）终止准则：和模拟退火，遗传算法差不多，常用的有：给定一个迭代步数；设定与估计的最优解的距离小于某个范围时，就终止搜索；当与最优解的距离连续若干步保持不变时，终止搜索；
禁忌搜索是对人类思维过程本身的一种模拟，它通过对一些局部最优解的禁忌（也可以说是记忆）达到接纳一部分较差解，从而跳出局部搜索的目的。 人工神经网络（Artificial Neural Network，ANN）
神经网络从名字就知道是对人脑的模拟。它的神经元结构，它的构成与作用方式都是在模仿人脑，但是也仅仅是粗糙的模仿，远没有达到完美的地步。和冯·诺依曼机不同，神经网络计算非数字，非精确，高度并行，并且有自学习功能。
生命科学中，神经细胞一般称作神经元，它是整个神经结构的最基本单位。每个神经细胞就像一条胳膊，其中像手掌的地方含有细胞核，称作细胞体，像手指的称作树突，是信息的输入通路，像手臂的称作轴突，是信息的输出通路；神经元之间错综复杂地连在一起，互相之间传递信号，而传递的信号可以导致神经元电位的变化，一旦电位高出一定值，就会引起神经元的激发，此神经元就会通过轴突传出电信号。
而如果要用计算机模仿生物神经，就需要人工的神经网络有三个要素：（1）形式定义人工神经元；（2）给出人工神经元的连接方式，或者说给出网络结构；（3）给出人工神经元之间信号强度的定义。
历史上第一个人工神经网络模型称作M－P模型，非常简单：
其中，表示神经元i在t时刻的状态，为1表示激发态，为0表示抑制态；是神经元i和j之间的连接强度；表示神经元i的阈值，超过这个值神经元才能激发。
这个模型是最简单的神经元模型。但是功能已经非常强大：此模型的发明人McCulloch和Pitts已经证明，不考虑速度和实现的复杂性，它可以完成当前数字计算机的任何工作。
以上这个M－P模型仅仅是一层的网络，如果从对一个平面进行分割的方面来考虑的话，M－P网络只能把一个平面分成个半平面，却不能够选取特定的一部分。而解决的办法就是“多层前向网路”。
为了让这种网络有合适的权值，必须给网络一定的激励，让它自己学习，调整。一种方法称作“向后传播算法（Back Propagation，BP）”，其基本思想是考察最后输出解和理想解的差异，调整权值，并把这种调整从输出层开始向后推演，经过中间层，达到输入层。
可见，神经网络是通过学习来达到解决问题的目的，学习没有改变单个神经元的结构和工作方式，单个神经元的特性和要解决的问题之间也没有直接联系，这里学习的作用是根据神经元之间激励与抑制的关系，改变它们的作用强度。学习样本中的任何样品的信息都包含在网络的每个权值之中。
BP算法中有考察输出解和理想解差异的过程，假设差距为w，则调整权值的目的就是为了使得w最小化。这就又包含了前文所说的“最小值”问题。一般的BP算法采用的是局部搜索，比如最速下降法，牛顿法等，当然如果想要得到全局最优解，可以采用模拟退火，遗传算法等。当前向网络采用模拟退火算法作为学习方法的时候，一般成为“波尔兹曼网络”，属于随机性神经网络。
在学习BP算法学习的过程中，需要已经有一部分确定的值作为理想输出，这就好像中学生在学习的时候，有老师的监督。如果没有了监督，人工神经网络该怎么学习？
就像没有了宏观调控，自由的市场引入了竞争一样，有一种学习方法称作“无监督有竞争的学习”。在输入神经元i的若干个神经元之间开展竞争，竞争之后，只有一个神经元为1，其他均为0，而对于失败的神经元，调整使得向对竞争有利的方向移动，则最终也可能在一次竞争中胜利；
人工神经网络还有反馈网络如Hopfield网络，它的神经元的信号传递方向是双向的，并且引入一个能量函数，通过神经元之间不断地相互影响，能量函数值不断下降，最后能给出一个能量比较低的解。这个思想和模拟退火差不多。
人工神经网络应用到算法上时，其正确率和速度与软件的实现联系不大，关键的是它自身的不断学习。这种思想已经和冯·诺依曼模型很不一样。 粒子群优化算法(PSO)是一种进化计算技术(evolutionary computation)，1995 年由Eberhart 博士和kennedy 博士提出，源于对鸟群捕食的行为研究 。该算法最初是受到飞鸟集群活动的规律性启发，进而利用群体智能建立的一个简化模型。粒子群算法在对动物集群活动行为观察基础上，利用群体中的个体对信息的共享使整个群体的运动在问题求解空间中产生从无序到有序的演化过程，从而获得最优解。
PSO同遗传算法类似，是一种基于迭代的优化算法。系统初始化为一组随机解，通过迭代搜寻最优值。但是它没有遗传算法用的交叉(crossover)以及变异(mutation)，而是粒子在解空间追随最优的粒子进行搜索。同遗传算法比较，PSO的优势在于简单容易实现并且没有许多参数需要调整。目前已广泛应用于函数优化，神经网络训练，模糊系统控制以及其他遗传算法的应用领域。
PSO模拟鸟群的捕食行为。设想这样一个场景：一群鸟在随机搜索食物。在这个区域里只有一块食物。所有的鸟都不知道食物在那里。但是他们知道当前的位置离食物还有多远。那么找到食物的最优策略是什么呢。最简单有效的就是搜寻目前离食物最近的鸟的周围区域。
PSO从这种模型中得到启示并用于解决优化问题。PSO中，每个优化问题的解都是搜索空间中的一只鸟。我们称之为“粒子”。所有的粒子都有一个由被优化的函数决定的适应值(fitness value)，每个粒子还有一个速度决定他们飞翔的方向和距离。然后粒子们就追随当前的最优粒子在解空间中搜索。
PSO 初始化为一群随机粒子(随机解)。然后通过迭代找到最优解。在每一次迭代中，粒子通过跟踪两个极值来更新自己。第一个就是粒子本身所找到的最优解，这个解叫做个体极值pBest。另一个极值是整个种群目前找到的最优解，这个极值是全局极值gBest。另外也可以不用整个种群而只是用其中一部分作为粒子的邻居，那么在所有邻居中的极值就是局部极值。 模拟退火，遗传算法，禁忌搜索，神经网络在解决全局最优解的问题上有着独到的优点，并且，它们有一个共同的特点：都是模拟了自然过程。模拟退火思路源于物理学中固体物质的退火过程，遗传算法借鉴了自然界优胜劣汰的进化思想，禁忌搜索模拟了人类有记忆过程的智力过程，神经网络更是直接模拟了人脑。
它们之间的联系也非常紧密，比如模拟退火和遗传算法为神经网络提供更优良的学习算法提供了思路。把它们有机地综合在一起，取长补短，性能将更加优良。
这几种智能算法有别于一般的按照图灵机进行精确计算的程序，尤其是人工神经网络，是对计算机模型的一种新的诠释，跳出了冯·诺依曼机的圈子，按照这种思想来设计的计算机有着广阔的发展前景

❾ 用极小造句怎么造呀

极小，亦称为最小，最小值。在数学分析中，在给定范围内（相对极值）或函数的整个域（全局或绝对极值），函数的最大值和最小值被统称为极值（极数）。按照该词义造句有：

1，临界点可能是局部极小，局部极大，或者鞍点。

2，首先，给出整数规划问题的离散局部极小解的定义，并设计找离散局部极小解的邻域搜索算法。

3，极小值时间剖面可直接作时深转换。

4，吉事多专柜有不少圆形或长圆形盆，配合极小的台面，非常秀气。

5, 即使极小的错误都可能会破坏整个项目。例如，过梁裁剪错误就不能正确的安放在石头上面。

6，本文给出了极小化最大函数问题的一个可行方向算法，它把问题归结为求解线性规划问题，并证明了该算法的收敛性。

9，由于遍历性可作为避免搜索过程陷入局部极小的有效机制，因此混沌理论已成为一种新颖且有潜力的优化工具。

10，需要大量的烟，但极小量的明火。

11，我家有一只小花猫，它圆圆的脑袋上有一双明亮的眼睛，使它晚上能看清东西。它还有一双灵活的耳朵，极小的声音它都能辨别出来。它的身后长着一条长长的尾巴，走路时总是高高的翘着。

12，因为宇宙的结构是最完善的而且是最明智的上帝的创造，因此，如果在宇宙里没有某种极大的或极小的法则，那就根本不会发生任何事情。

13，紫鹃道：＂我只当是宝二爷再不上我们这门了，谁知这会子又来了。＂宝玉笑道：＂你们把极小的事倒说大了。好好的为什么不来？我便死了，魂也要一日来一百遭。妹妹可大好了？＂

14, 有一种杀人利器“激光枪，”它一次能射出500英里，这种枪体形极小，能随时带在身上。而且不象21世纪的枪，有防弹衣可以配用，现在这种枪只要射中哪里，哪里就会烟消云散。