Aprendizagem e busca local em algoritmos meméticos para projetoassistido por computador

=== The computer aided design (CAD) process is an automated system characterized by the association of a mathematical and computational model of the device being designed and an adequate automatic search technique, an optimization method, for finding the optimal values for the design variables. How...

Full description

Bibliographic Details
Main Author: Frederico Gadelha Guimaraes
Other Authors: Jaime Arturo Ramirez
Format: Others
Language:Portuguese
Published: Universidade Federal de Minas Gerais 2008
Online Access:http://hdl.handle.net/1843/BUOS-8CDERZ
Description
Summary:=== The computer aided design (CAD) process is an automated system characterized by the association of a mathematical and computational model of the device being designed and an adequate automatic search technique, an optimization method, for finding the optimal values for the design variables. However, this automated CAD process often requires many calls to the analysis software until the optimized prototype satisfies the specifications and requirements defined by the designer. Since the analysis software usually employs a computationally intensive numerical method, it is desirable that the optimization method finds an acceptable solution while minimizing the number of calls to this software. Evolutionary algorithms, a special class of global-search methods, have been recognized as powerful tools for the solution of CAD problems for quite some time, but in recent years, memetic algorithms or hybrid algorithms have received growing attention due to their potential to improve typical evolutionary algorithms in many different contexts. Memetic algorithms in general benefit from the association of local search operators with the usual reproductive operators of evolutionary algorithms. However, in the context of optimization with continuous variables within CAD problems, the computational cost of local search operators is not affordable. This cost can be greatly reduced with the employment of approximation techniques within these operators, making the use of memetic algorithms for CAD problems more practical. The main objectives of this thesis are to investigate, implement and test the use of local approximations within a memetic optimization framework for the solution of CAD problems, particularly the design of electromagnetic devices. This thesis aims to further advance the development and investigation of memetic algorithms, with particular attention to problems whose function evaluations involve complex and intensive calculations.In this context, the additional complexity in the algorithm would be justifiable. This thesis organizes, develops and implements a framework for evolutionary optimization applied to CAD problems. This framework accomodates various evolutionary algorithms for both mono and multi-objective optimization, including memetic algorithms. These algorithms are unified in the framework thanks to the identification ofa common structure for modeling them. Any evolutionary algorithm in this framework can employ the approximation-based local search proposed in this thesis. This operator utilizes the multiquadric interpolation technique for building a local approximation for each one of the nonlinear objective and constraint functions, and the sequential quadratic programming method to solve a local version of the global problem. For the multi-objective operator an additional step is taken to transform the multi-objective problem into a mono-objective problem with additional constraints via the goal attainment formulation. This thesis also presents a formal analysis of memetic algorithms. This analysis is divided in two main parts. The first part investigates the effect of the local search operator on the global convergence properties of standard evolutionary algorithms via Markov chain theory. The second part studies the computational cost of memetic algorithms. In this second part, the computational complexity of the local search operators is derived and expressions for the overhead of the local search are developed. This analysis leads to the following important results about the proposed local search methodology: (i) The memetic algorithm preserves the global convergence properties of standard evolutionary algorithms. When the memetic algorithm employs Lamarckian local search and an irreducible mutation operator, it will be globally convergent if the number o individuals selected for local search is smaller than the population size, i.e., if < . (ii) The memetic algorithm preserves the polynomial complexity of standard evolutionary algorithms. The complexity of the local search is dominated by a term that is quadratic with NL, the maximum number of points in the local data set. (iii) The overhead of the local search can be reduced by not using the local search at every generation, which allows one to employ higher values for and nTR, the number of trust region updates. That is the balance between frequency and intensity of the local search. In total six problems are discussed. Three analytical test functions without constraints; one unconstrained magnetostatic problem, the design of the pole shape of a magnetizer device; and two versions of a constrained magnetostatic problem, the well known benchmark problem 22. The three analytical test functions are used to illustrate the increase in convergence speed due to the multiquadric-based local search. The magnetizer problem shows the negligible overhead of the approximation-based local search when dealing with computationally intensive functions. The analytical functions are fast to evaluate, hence the memetic algorithm takes more time than the genetic algorithm, but this situation clearly inverts when the time to evaluate increases. The mono-objective version of the problem 22 is used here as a representative instance of CAD problems in electromagnetic design. Twelve different evolutionary algorithms fromthe framework are hybridized with the MQ-based local search. The experiment shows that all tested evolutionary algorithms benefit from the use of the local search operator. This is an empirical evidence that, for the class of problems delimited in this thesis, evolutionary algorithms in general can be greatly improved by their association with approximation-based local search operators. The bi-objective version of problem 22 is used to illustrate the multi-objective multiquadric-based local search operator. The results also show that all three multi-objective memetic algorithms perform better than their basic genetic counterparts. The local search not only improves the convergence speed measured by the S-metric, but also improves the quality of the outcome sets, regarding the metrics NDCSR and S-metric. === O projeto assistido por computador (PAC) é um processo de projeto automatizado, caracterizado pela associação de um modelo matemático e computacional do dispositivo a ser otimizado e uma técnica de busca automática, um método de otimização, adequada para encontrar os valores ótimos para os parâmetros de projeto. Entretanto, este processo de PAC automatizado frequentemente requer muitas consultas ao programa de análise até que um protótipo que satisfaça as especificações e requisitos definidos pelo projetista seja encontrado. Como o programa de análise geralmente utiliza um método numérico caro do ponto de vista computacional, é importante que o método de otimização realize sua tarefa com o mínimo de consultas a esse programa. Nas últimas décadas, algoritmos evolucionários, uma classe especial de métodos de busca global, tem se estabelecido como ferramentas poderosas na solução de problemas de PAC. Porém, recentemente os algoritmos meméticos ou algoritmos híbridos têm recebido uma atenção crescente por parte dos pesquisadores devido ao seu potencial de superar o desempenho de algoritmos evolucionários em diversos contextos. Algoritmos meméticos em geral se beneficiam de operadores de busca local que são acrescidos aos operadores usuais de algoritmos evolucionários. Contudo, no contexto de otimização com variáveis cont´nuas em PAC, o custo computacional de operadores de busca local torna seu uso proibitivo. Este custo pode ser reduzido com o emprego de técnicas de aproximaçãoo de funções, dessa forma, tornando os algoritmos meméticos ferramentas de uso prático em PAC. Os principais objetivos desta tese são investigar, implementar e testar o uso de aproximações locais em um arcabouço de algoritmos meméticos para a solução de problemas de PAC, em particular o projeto de dispositivos eletromagnéticos. Esta tese pretende contribuir para a investigação e desenvolvimento dos algoritmos meméticos, com foco especial em problemas cuja avaliação de funções envolve cálculos complexos e computacionalmente caros. Neste contexto, a complexidade adicional no algoritmo seria claramente justificável. Com este propósito, este trabalho organiza, desenvolve e implementa um arcabouço para otimização evolucionária dedicada a problemas de PAC. Este arcabouço acomoda diversos algoritmos evolucionários disponíveis na literatura para otimização mono e multi-objetivo, incluindo é claro os algoritmos meméticos. Estes algoritmos são unificados em sua implementação através da identificação de uma estrutura comum. Cada algoritmo implementado pode utilizar a busca local baseada em aproximações proposta nesta tese. Este operador utiliza a t´ecnica de interpola¸cao multiqu´adrica para construir uma aproximação local para cada função objetivo e de restrição não linear do problema, e o método de programação quadrática sequencial para resolver a versão local do problema global. Para o operador multi-objetivo, um passo adicional deve ser feito, no qual o problema multi-objetivo é transformado em um problema mono-objetivo com restrições adicionais através da formulação de realização de metas. Esta tese também apresenta uma análise formal de algoritmos meméticos. Esta análise é dividida em duas partes. A primeira parte investiga o efeito do operador de busca local nas propriedades de convergência global de algoritmos evolucionários típicos por meio da teoria de cadeias de Markov. A segunda parte estuda o custo computacional de algoritmos meméticos. Nesta parte, a complexidade computacional dos operadoresde busca local é obtida e expressoes para a carga extra da busca local são desenvolvidas. Esta análise conduziu aos seguintes resultados importantes sobre a metodologia de busca local proposta: (i) O algoritmo memético preserva as propriedades de convergência globalde algoritmos evolucionários padrão. Quando o algoritmo memético emprega a busca local Lamarckiana e um operador de mutação irredutível, será globalmente convergente se o número de indivíduos selecionados para a busca local for menor do que o tamanho dapopulação, i.e., se < . (ii) O algoritmo memético preserva a complexidade polinomial de algoritmos evolucionários padrão. A complexidade da busca local é dominada por um termo que é quadrático com NL, o número máximo de pontos no conjunto de dadoslocal. (iii) a carga extra da busca local pode ser reduzida se a busca local não for usada em toda geração, o que permite que se empregue valores mais elevados para e nTR, o número de atualizações da região de confiança. Este é o compromisso entre a frequência e a intensidade da busca local. No total seis problemas são discutidos. Três funções analíticas de teste sem restrições; um problema magnetostático irrestrito, o projeto da forma do pólo de um dispositivo magnetizador; e duas versões de um problema magnetostático restrito, o conhecido problema de teste 22. As três funções analíticas de teste são usadas para ilustrar o aumento navelocidade de convergência devido à busca local baseada na aproximação multiquádrica. O problema do magnetizador mostra que a carga extra imposta pela busca local baseada em aproximações é insignificante quando tratamos funções computacionalmente caras. As funções analíticas são rápidas de avaliar, logo o algoritmo memético consumiu mais tempo do que o algoritmo genético, mas esta situação se inverte claramente quando otempo de avaliação aumenta. A versão mono-objetivo do problema 22 foi usada aqui como um exemplo representativo de problemas de PAC em eletromagnetismo aplicado. Doze algoritmos evolucionários diferentes são combinados com a busca local baseada na aproximação multiquádrica. O experimento mostra que todos os algoritmos evolucionvários testados se beneficiaram do uso do operador de busca local. Esta ´e uma evidência empírica que, para a classe de problemas delimitada nesta tese, os algoritmos evolucionários em geral podem ser bastante melhorados com a sua associação com os operadoresde busca local baseados em aproximações. A versão bi-objetivo do problema 22 foi usada para ilustrar o operador de busca local multi-objetivo baseado em aproximação multiquádrica. Os resultados também mostram que todos os três algoritmos meméticosmulti-objetivo tiveram um desempenho melhor do que suas versões genéticas. A busca local melhorou não somente a velocidade de convergência medida pela métrica S-metric, mas melhorou também a qualidade dos conjuntos obtidos, considerando as métricasNDCSR e S-metric.