第1章 绪论
1.1 研究背景与意义
在经济管理与工程设计中，很多问题的数学模型都可归结为求一个优化问题的最优解。最优化问题已被广泛应用到各个不同领域，其中包括经济模型、金融、网络与运输、数字集成设计、图像处理、化学工程设计与控制、分子生物学等，由于其应用广泛，已成功发展许多理论和方法用于解决多极值优化问题。
随着时代的进步与社会的发展，优化理论的研究领域也越来越广泛。它所研究的问题是在众多方案中寻求最优方案。关于优化的理论及方法，已经有很深的基础研究。优化理论的研究到目前为止出现了很多分支（线性规划、非线性规划、整数规划、动态规划、几何规划、随机规划、网络流等）。
随着人类认识与改造世界的范围与强度的不断扩大，传统的优化方法（牛顿法、共轭梯度法、模式搜索法、单纯形法等[1]）已无法处理一些复杂的实际问题。比如，运输中的最优调度、生产流程的最优编排、建筑工程设计领域中坝体断面的优化设计、水利优化设计等问题，这些可以归结为一类变量维数高、非线性强且不易求解的优化问题[2]。为此，对于高效优化算法的寻求成为科学工作者的研究目标之一。
随着计算机领域的活跃及在其他学科中的应用不断深入，也为复杂优化问题的求解提供了技术保障。因此，基于计算机技术，优化理论和方法迅速发展起来，形成一门新的学科，优化方法在解决实际问题的应用中比传统的优化方法有了显著的提高[3]。
智能优化算法是指在工程实践中，经常会接触到一些比较“新颖”的算法或理论，比如模拟退火算法、遗传算法、禁忌搜索算法、神经网络算法、粒子群优化算法、和声搜索算法等。这些算法的理论都有一些共同的特性，比如模拟自然过程。智能优化算法[4]以其解决实际问题的有效性而快速发展起来，凭借着算法简单、容易实现、易与其他学科相结合等优点，智能优化算法被越来越多的专家与学者认可并应用。粒子群优化算法以及和声搜索算法较其他智能优化算法具有实现过程简单、容易跳出局部最优解等优点，可以较方便地运用到数学中目标函数值的求得以及实际问题中。粒子群优化算法以及和声搜索算法具有很强的适用性，且运用参数较少，因此其应用领域非常广泛，智能优化算法是一种很有研究潜力的优化算法。
每年很多有关进化算法的国际会议的召开，为推动进化算法的发展提供了有利平台，同时每年发表的有关进化算法的文章也是不可胜数[5][6]。至今，新的进化算法不断地涌现，每一种新的算法都经历着最初的提出、不断地合理改进以提高算法优化性能或以适应不同的优化问题的求解[5][7]（如蚁群算法非常适合求解离散优化问题，但不适合求解连续优化问题，所以将蚁群算法用于连续优化就是一个有意义的研究课题），到对算法的收敛性证明，最终达到成熟。
粒子群优化（Particle Swarm Optimization，PSO）算法是由Kennedy和Eberhart于1995年提出的一种基于群搜索（swarm search）的演化计算（evolutionary computation）技术。Kennedy和Eberhart从诸如鸟类这样的群居性动物的觅食行为中得到启示，发现鸟类在觅食等搜寻活动中，通过群体成员之间分享关于食物位置的信息，可以大大地加快找到食物的速度，也即是通过合作可以加快发现目标的速度，通常群体搜寻所获得的利益要大于群体成员之间争夺资源而产生的损失[8]。社会心理学家在研究人的行为时也发现，单个人在行动时，往往是根据自身曾有过的经验以及周围“杰出人物”的建议做出决策[9][10]。粒子群优化算法由于算式简洁，易于编程实现，无须梯度信息，只需利用目标取值信息，且具有群搜索性能与各粒子间的协同特性，自提出后就在很多领域得到广泛的应用与迅速地完善发展[11][12]。但是，粒子群优化算法的历史尚短，在理论基础上与应用推广上都还存在一些亟待解决的问题[5][13][14]，例如，PSO的收敛结果与所采用的参数取值情况有较大的关系，参数的选取情况仍然是PSO算法一个待解决的问题；PSO应用于高维复杂问题优化时，往往会遇到早熟收敛的问题；PSO在接近或进入最优点区域时的收敛速度也比较缓慢；等等。
和声搜索（Harmony Search，HS）算法是2001年韩国学者Geem等人提出的一种新的基于音乐创作原理的启发式全局搜索的智能优化算法[15]。在创作音乐的过程中，乐师们通过经验记忆调节每个乐器音节的高低，从而使创作的音乐达到一个美妙的和声状态。音乐创作以寻求美妙的和声状态就类似于优化过程中寻求最优解以获得最优目标的过程。和声搜索算法结构简单、参数较少、鲁棒性强、全局搜索能力强等特点，可以较好地应用在不同领域的优化问题中。目前，和声搜索算法已经被广泛应用在函数优化、工程优化等领域。但是，和声搜索算法也存在一些不足，如解的精度不高、参数设置缺乏理论指导等，因此对和声搜索算法的改进现已被广泛研究。
因此，为了更好地应用于实际的优化问题中，对一些智能算法进行改进，提高算法的运行速度与最终结果的精确性，是很有必要的。
在泛函分析中，变分问题更是起着至关重要的作用，变分优化就是求函数的极值问题。变分优化在许多数学领域中都有涉及，并且它的重要性日益显现，如控制论、决策论、数学规划、生物数学与生物工程、金融数学与金融工程领域都有很多问题要考虑变分问题。众所周知，定义在无穷维Banach空间上的各种类型的变分定理在非线性分析中有着至关重要的作用，因此，数学变分问题的理论研究引起了人们极大的关注。另外，将智能优化算法运用到变分问题的求解中，将是很有前景的一个课题。
当优化问题得到进一步解决后，将其理论用于解决现实生活的实际优化模型中，定会产生很好的经济效益，给国家节省大量的资源，促进社会的进步与和谐发展。