NONCONVEX FUNCTIONS OPTIMIZATION USING AN ESTIMATION OF DISTRIBUTION ALGORITHM BASED ON MULTIVARIATE COPULAS

• Main Author: HAROLD DIAS DE MELLO JUNIOR
• Other Authors: MARLEY MARIA BERNARDES REBUZZI VELLASCO
• Language: Portuguese
• Published: PONTIFÍCIA UNIVERSIDADE CATÓLICA DO RIO DE JANEIRO 2014
• Online Access: http://www.maxwell.vrac.puc-rio.br/Busca_etds.php?strSecao=resultado&nrSeq=25614@1; http://www.maxwell.vrac.puc-rio.br/Busca_etds.php?strSecao=resultado&nrSeq=25614@2

PONTIFÍCIA UNIVERSIDADE CATÓLICA DO RIO DE JANEIRO === CONSELHO NACIONAL DE DESENVOLVIMENTO CIENTÍFICO E TECNOLÓGICO === Algoritmos de estimação de distribuição (EDAs – Estimation of Distribution Algorithms) são uma classe de algoritmos evolutivos capazes de extrair e utilizar conhecimento ao longo do processo de busca. O passo mais importante e um gargalo, que estabelece diferenciação entre esses algoritmos, é a estimação da distribuição de probabilidade conjunta das soluções mais promissoras determinadas pela função de avaliação. Recentemente, uma nova abordagem baseada em teoria das cópulas foi desenvolvida. Este trabalho apresenta um algoritmo de estimação baseado em cópulas para problemas de otimização numérica. Este modelo implementa um EDA através da expansão multivariada de cópulas (EDA-MEC – Estimation of Distribution Algorithm based on Multivariate Extension of Copulas) para estimar a distribuição de probabilidade da qual é gerada uma população de indivíduos. O EDA-MEC difere de outros EDAs baseados em cópulas em alguns aspectos: o parâmetro de cópula é estimado de forma dinâmica, através de medidas de dependência; utiliza uma variação da distribuição de probabilidade aprendida para gerar indivíduos que ajudam a evitar a convergência prematura; e utiliza uma heurística para reinicializar a população ao longo da evolução elitista como uma técnica adicional para tentar preservar a diversidade de soluções. Após um conjunto de testes de parâmetros, inclusive das distribuições marginais, este trabalho mostra que estas abordagens melhoram o desempenho global da otimização comparativamente a outros EDAs baseados em cópulas, com a perspectiva promissora de ser um algoritmo competitivo frente a outras heurísticas comprovadamente eficientes, tais como a Estratégia Evolutiva com Adaptação da Matriz de Covariância (CMA-ES - Covariance Matrix Adaptation Evolution Strategy). === Estimation of distribution algorithms constitute a class of evolutionary algorithms that can extract and use knowledge acquired throughout the search process. Its most important step that differs most among EDAs, and also a bottleneck, is the estimation of the joint probability distribution associated with the variables from the most promising solutions determined by the evaluation function. Recently, a new approach to EDAs has been developed that is based on copula theory. This work presents a copula-based estimation of distribution algorithm for numeric optimization problems. This model implements an estimation of distribution algorithm using a Multivariate Extension of Copulas (EDA-MEC) to estimate the probability distribution for generating a population of individuals. EDA-MEC differs from other copula-based EDAs in some aspects: the copula parameter is estimated dynamically, using dependency measures; it uses a variation of the learned probability distribution to generate individuals that help to avoid premature convergence; and it uses a heuristic to reinitialize the population throughout an elitist evolution as an additional technique to try to preserve the diversity of solutions. After a set of parametric tests, including marginal distributions, this work shows that these approaches improve the overall performance of the optimization compared to other copula-based EDAs and promises to be a competitive algorithm compared to other efficient heuristics, such as Covariance Matrix Adaptation Evolution Strategy (CMA-ES).