Introduccion a La Optimizacion Con Metodos Euristicos

163
Introducci´ on a la Optimizaci´ on Multiobjetivo Dr. Carlos A. Coello Coello Introducci´ on a la Optimizaci´ on Multiobjetivo Usando Metaheur´ ısticas Dr. Carlos A. Coello Coello Secci´ on de Computaci´ on CINVESTAV-IPN Av. IPN No. 2508 Col. San Pedro Zacatenco exico, D.F. 07300 email: [email protected] Clase No. 2 Julio de 2005

description

Introduccion a la OptimizacionMultiobjetivo Usando Metaheurısticas

Transcript of Introduccion a La Optimizacion Con Metodos Euristicos

Page 1: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Introduccion a la OptimizacionMultiobjetivo Usando Metaheurısticas

Dr. Carlos A. Coello Coello

Seccion de Computacion

CINVESTAV-IPN

Av. IPN No. 2508

Col. San Pedro Zacatenco

Mexico, D.F. 07300

email: [email protected]

Clase No. 2 Julio de 2005

Page 2: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Publicaciones por ano (hasta mediados de 2005)

67 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 00 01 02 03 04 050

50

100

150

200

250

300

Publication Year

Num

ber o

f Pub

licat

ions

Clase No. 2 Julio de 2005

Page 3: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Citas por tipo de tecnica

0

20

40

60

80

100

120

Application Category

Num

ber o

f Pub

licat

ions

Lexi

cogr

aphi

c

Line

ar F

itnes

s C

ombo

Non

linea

r Fi

tnes

s C

ombo

Pro

gres

sive

Inde

pend

ent S

ampl

ing

Cri

teri

on S

elec

tion

Agg

rega

tion

Sel

ectio

n

Par

eto

Ran

king

Ran

king

and

Nic

hing

Par

eto

Dem

es

Par

eto

Elit

ist

Hyb

rid

Tech

niqu

e C

ompa

riso

n

Theo

ry a

nd R

evie

w

Figura 1: Lex = Lexicographic, Lin = Linear Fitness Combination, NLin =

Nonlinear Fitness Combination, Prg = Progressive, Smp = Independent Sam-

pling, Crt = Criterion Selection, Agg = Aggregation Selection, Rnk = Pareto

Ranking, R&N = Pareto Rank- and Niche-Based Selection, Dme = Pareto Deme-

Based Selection, Elit = Pareto Elitist-Based, Hybr = Hybrid Selection, Cmp =

Technique Comparisons, Theo = Theory and Reviews.

Clase No. 2 Julio de 2005

Page 4: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Citas por tipo de algoritmo

MOEP MOES MOGA MOGP0

50

100

150

200

250

300

350

400

450

500

MOEA Type

Num

ber o

f Pub

licat

ions

Clase No. 2 Julio de 2005

Page 5: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Citas por cantidad de funciones objetivo

2 3 4 5 6 7 8 9 10 11 12 17 23 49 50 65 100 5000

50

100

150

200

250

300

350

Number of MOP Functions (k)

Num

ber o

f Pub

licat

ions

Clase No. 2 Julio de 2005

Page 6: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Fundamentos Teoricos

Existe muy poco trabajo teorico en relacion a la optimizacionevolutiva multiobjetivo. el mas representativo es el siguiente:

Estudios de convergencia al conjunto de optimos de Pareto[Rudolph, 1998, 2000, 2001; Hanne 2000,2000a; VanVeldhuizen, 1998; Villalobos et al., 2004, 2005].

Esquemas para calcular factores adecuados de comparticion deaptitud (o tamanos de nicho) [Horn, 1997; Fonseca & Fleming,1993].

Analisis en tiempo de ejecucion [Laumanns et al., 2002, 2004].

Extensiones del No Free Lunch Theorem a problemas deoptimizacion multiobjetivo [Corne & Knowles, 2003].

Clase No. 2 Julio de 2005

Page 7: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Fundamentos Teoricos

Se requiere mucho mas trabajo en esta area. Por ejemplo:

Analisis de convergencia de algoritmos evolutivos multiobjetivoparalelos.

Estudios de la estructura de los paisajes de aptitud (fitnesslandscapes) [Kaufmann, 1989] en problemas de optimizacionmultiobjetivo.

Determinacion del lımite teorico de funciones objetivo para lascuales la jerarquizacion de Pareto ya no resulta util (asumiendoun tamano de poblacion finito).

Clase No. 2 Julio de 2005

Page 8: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Fundamentos Teoricos

Modelos formales de heurısticas alternativas que se han usadopara optimizacion multiobjetivo (p.ej., la colonia de hormigas,la optimizacion mediante cumulos de partıculas, etc.).

Analisis de complejidad algorıtmica de algoritmos evolutivosmultiobjetivo y analisis en tiempo de ejecucion.

Estudios sobre la dinamica poblacional de un algoritmoevolutivo multiobjetivo.

Clase No. 2 Julio de 2005

Page 9: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

En el contexto de optimizacion evolutiva multiobjetivo, el elitismoes un operador que se requiere para garantizar convergencia[Rudolph, 1998], al igual que en el caso de optimizacionmono-objetivo [Rudolph, 1994]. Sin embargo, en optimizacionmultiobjetivo, no resulta obvio como implementar este operador,pues normalmente no existe una solucion unica que sea mejor quelas demas. Teoricamente, todas las soluciones no dominadas sonigualmente buenas entre sı.

Clase No. 2 Julio de 2005

Page 10: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

Existen dos mecanismos principales mediante los cuales se sueleimplementar el elitismo en los algoritmos evolutivos multiobjetivo:

Usando seleccion mas (+).

Usando una poblacion secundaria.

Clase No. 2 Julio de 2005

Page 11: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

En el caso de la seleccion mas (+), lo que se hace es unir lapoblacion de padres con la de hijos y jerarquizarla. A partir de estanueva poblacion, se elige solo a los no dominados. Si se quisieraelegir a mas individuos de los no dominados disponibles, el resto sepuede seleccionar de los dominados. Si se desean seleccionar menossoluciones que las no dominadas de la poblacion, puede usarse uncriterio adicional para los desempates (p.ej., se puede preferir a unasolucion que este en una region menos poblada del espacio debusqueda.

Clase No. 2 Julio de 2005

Page 12: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

Si se usa una poblacion secundaria, normalmente se implementa unarchivo externo (que puede residir en memoria) en el cual secolocan todas las soluciones no dominadas que se van encontrandoa lo largo del proceso evolutivo. Solo se inserta una solucion alarchivo si esta es no dominada con respecto a su contenido. Si lasolucion a insertarse llegara a dominar a alguna solucion que resideen el archivo, esta ultima debera eliminarse del archivo.

Clase No. 2 Julio de 2005

Page 13: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

El uso de una poblacion secundaria involucra diversos detalles deimplementacion que siguen siendo motivo de investigacion. Porejemplo, una pregunta razonable es si debemos acotar o no elnumero de soluciones que contendra el archivo. Aunque en laactualidad, la mayorıa de los algoritmos evolutivos multiobjetivousando archivos acotados, hay trabajo importante en torno al usode archivos no acotados [Fieldsend, 2003].

Clase No. 2 Julio de 2005

Page 14: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

Otra pregunta razonable en torno a las poblaciones secundarias essi estas intervendran o no en el proceso de seleccion. Ası mismo, lasestructuras de datos que se requieren para implementar unapoblacion secundaria pueden ir de lo mas simple (un archivoplano), hasta esquemas de localizacion geografica que se usan comomecanismos para mantener diversidad [Knowles & Corne, 2000].

Clase No. 2 Julio de 2005

Page 15: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Elitismo

Hoy en dıa, la mayor parte de los algoritmos evolutivosmultiobjetivo modernos usan poblaciones secundarias. Sin embargo,una excepcion notable es el NSGA-II (uno de los algoritmos mascompetitivos a la fecha), el cual usa seleccion mas (+).

Clase No. 2 Julio de 2005

Page 16: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Desde los orıgenes mismos de la computacion evolutiva losinvestigadores de esta area se percataron de que las tecnicasevolutivas tienden a converger a un punto unico debido al ruidoestocastico. Desde ese entonces, el mantener diversidad en lapoblacion se ha constituido en uno de los temas fundamentales dela computacion evolutiva.

Clase No. 2 Julio de 2005

Page 17: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

El fenomeno de perdida de diversidad ocurre tambien en lanaturaleza y se denomina desvıo genetico. Desde hace muchos anosse ha estudiado este problema y se han propuesto mecanismos quepermitan preservar la diversidad de un algoritmo genetico durantemas tiempo.

Clase No. 2 Julio de 2005

Page 18: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Holland [1975] propuso el uso de un operador de crowding el cualpodrıa identificar situaciones en las que mas y mas individuosdominan un cierto nicho ecologico, puesto que es en esos casos enlos que la competencia por los recursos limitados se incrementarapidamente lo que produce una menor esperanza de vida y unamenor tasa de nacimiento.

Clase No. 2 Julio de 2005

Page 19: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

De Jong [1975] experimento con el operador de crowding propuestopor Holland. De Jong uso un algoritmo genetico no generacionalque funciona de la manera siguiente: una fraccion de la poblacionindicada por la brecha generacional (GG) es seleccionada vıaseleccion proporcional, a fin de que se les someta a cruza ymutacion.

Clase No. 2 Julio de 2005

Page 20: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Despues de cruza y mutacion, se eligen GG× n individuos de lapoblacion para morir (a ser reemplazados por los nuevosdescendientes). Cada hijo encuentra al individuo quereemplazara tomando una muestra aleatoria de CF individuos enla poblacion (CF es el factor de agrupamiento). Cada hijoreemplaza al individuo mas similar a el en la poblacion.

Clase No. 2 Julio de 2005

Page 21: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Un valor de CF = 1 indica que no efectuara “agrupamiento”.Conforme se aumenta el valor de CF se vuelve mas probable quelos individuos similares se reemplacen entre sı. La similitud en estecaso se mide usando distancia de Hamming sobre el genotipo.

Clase No. 2 Julio de 2005

Page 22: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Cavicchio [1970] introdujo varios esquemas de preseleccion de entrelos cuales uno estaba orientado a preservar diversidad. La idea deCavicchio fue que si un hijo tenıa una aptitud mas elevada que elpeor padre, entonces este hijo reemplazarıa al padre en cuestion.

Clase No. 2 Julio de 2005

Page 23: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

La comparticion de aptitud (fitness sharing) fue propuestaoriginalmente por Goldberg & Richardson [1987]. En este caso, lapoblacion se subdivide en varias subpoblaciones de acuerdo con lasimilitud de los individuos en dos espacios posibles: el de losparametros decodificados (fenotıpico) y el de los genes (genotıpico).

Clase No. 2 Julio de 2005

Page 24: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

La funcion de comparticion se define de la siguiente manera:

φ(dij) =

1−(

dijσsh

, dij < σshare

0, de lo contrario(1)

Clase No. 2 Julio de 2005

Page 25: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

En la expresion anterior: α = 1, dij es una metrica que indica quela distancia entre las soluciones i y j, y σshare es el parametro (oumbral) de comparticion que controla el tamano de los nichos.Usando este parametro, la aptitud del individuo i se modificausando:

fsi =fi

∑Mj=1 φ(dij)

(2)

donde M es el numero de individuos que se encuentran localizadosen la vecindad del i-esimo individuo.

Clase No. 2 Julio de 2005

Page 26: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Deb & Goldberg [1989] propusieron una metodologıa para calcularσshare. En el espacio fenotıpico se usa una distancia Euclideana enun espacio p-dimensional, donde p se refiere al numero de variablescodificadas en el algoritmo evolutivo. El valor de dij se calculausando:

dij =

p∑

k=1

(xk,i − xk,j)2 (3)

donde x1,i, x2,i, . . . , xp,i y x1,j , x2,j , . . . , xp,j son las variablesdecodificadas.

Clase No. 2 Julio de 2005

Page 27: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Para estimar el valor de σshare, Deb and Goldberg [1989]propusieron la expresion:

σshare =rp√q

=

√∑pk=1(xk,max − xk,min)2

p√

2q(4)

donde r es el volumen de una esfera p-dimensional de radio σshare yq es el numero de nichos que el algoritmo evolutivo pretendeencontrar.

Clase No. 2 Julio de 2005

Page 28: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

En la comparticion genotıpica, dij se define como la distancia deHamming entre las cadenas y σshare es el maximo numero de bitsdiferentes que se permiten entre las cadenas para formar nichosseparados en la poblacion.

Clase No. 2 Julio de 2005

Page 29: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

La expresion que sugieren utilizar es:

12l

k∑

i=0

l

i

=1q

(5)

donde: l es la longitud de la cadena cromosomica (en bits), k es lamaxima diferencia en bits permitida entre subcadenas para hacer qsubdivisiones del espacio de soluciones (o sea, σshare = k).

Clase No. 2 Julio de 2005

Page 30: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Para valores grandes de l, sugieren utilizar:

σshare =12

(l + z∗√l) (6)

donde: z∗ es la diferencia normalizada en bits correspondiente a 1q

del espacio total de probabilidad.

El valor de z∗ puede obtenerse de una tabla de distribucion normalacumulativa.

Clase No. 2 Julio de 2005

Page 31: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Los experimentos de Deb & Goldberg [1989] indicaron que lacomparticion de aptitud era mejor que el agrupamiento. Ası mismo,se determino que la comparticion de aptitud en el espaciofenotıpico era mejor que la del espacio genotıpico.

Clase No. 2 Julio de 2005

Page 32: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Notese sin embargo que Mahfoud [1995] demostro que lasconclusiones de Deb & Goldberg no son correctas si se leintroducen algunos cambios menores a los esquemas deagrupamiento analizados en su artıculo de 1989.

Clase No. 2 Julio de 2005

Page 33: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Mahfoud [1992] propuso un algoritmo de agrupamiento tendiente aminimizar los errores de reemplazo de la propuesta de De Jong(uno de sus mayores inconvenientes). Este algoritmo se denominadeterministic crowding.

Clase No. 2 Julio de 2005

Page 34: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

La tecnica de Mahfoud comienza agrupando a todos los elementosde la poblacion en µ/2 parejas. Posteriormente, cruza estas parejasy muta a los hijos resultantes. Para cada pareja de hijos, sonposibles dos conjuntos de torneos padre-hijo. El agrupamientodeterminıstico lleva a cabo estos torneos de manera que se obliguea los individuos mas similares a competir.

Clase No. 2 Julio de 2005

Page 35: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Cedeno et al. [1994] y Harik [1995] propusieron algoritmos similaresen funcionamiento al de Mahfoud. En el caso de Cedeno et al., sesugiere el uso de cruza fenotıpica y de operadores especializadospara reducir el error de reemplazo de la tecnica.

Clase No. 2 Julio de 2005

Page 36: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Kita et al. [1996] propusieron el Thermodynamical GeneticAlgorithm (TDGA) el cual usa jerarquizacion de Pareto encombinacion con el principio de energıa libre mınima que se usa enrecocido simulado.

Clase No. 2 Julio de 2005

Page 37: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

La idea del TDGA es seleccionar a los individuos de la nuevageneracion de tal forma que se minimice la energıa libre dada por:

F =< E > −HT (7)

donde: < E > es la energıa promedio del sistema, H es la entropıay T es la temperatura.

Clase No. 2 Julio de 2005

Page 38: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

La diversidad de la poblacion se controla ajustando T de acuerdo acierto horario de enfriamiento (como en el recocido simulado).Segun Kita et al. [1996], T es menos sensible al tamano de lapoblacion y al tamano de la zona factible que las funciones decomparticion de aptitud tradicionales.

Clase No. 2 Julio de 2005

Page 39: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

En anos recientes, uno de los enfasis principales de investigacion enel area de nichos ha sido el eficientar los esquemas utilizados. Yin &Germay [1993], por ejemplo, propuesieron alternar el uso de unesquema de clusters con uno de nichos. Con esto se reducirıa lacomplejidad de O(n2) a O(nq), donde q es el numero de nichos.

Clase No. 2 Julio de 2005

Page 40: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Notese sin embargo que los algoritmos de comparticion de aptitudpueden trabajar en O(nq) cuando los valores de aptitudcompartidos se muestrean en una sobpoblacion de tamano O(q)[Oei et al., 1991].

Clase No. 2 Julio de 2005

Page 41: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Tambien se han propuestos esquemas dinamicos de nichos. Porejemplo, Miller & Shaw [1996] propusieron el uso de un numero fijode nichos dinamicos con radios y centros de nicho fijos, los cuales sedeterminan a traves de un ordenamiento de toda la poblacion.

Clase No. 2 Julio de 2005

Page 42: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Para aquellos individuos que no se encuentren en uno de estosnichos, se aplica la comparticion de aptitud convencional. Estoreduce el costo computacional pues no se requiere recalcular nichosmas que para los individuos que no puedan colocarse en ninguno delos previamente definidos.

Clase No. 2 Julio de 2005

Page 43: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Goldberg & Wang [1997] propusieron un esquema coevolutivo paramantener diversidad. Este esquema esta inspirado en lacompetencia monopolica tal y como la modelan los economistas. Elalgoritmo usa dos poblaciones: una de hombres de negocios y otrade clientes, de tal forma que la ubicacion de los hombres de negocioscorresponde a las ubicaciones de los nichos y las ubicaciones de losclientes corresponden a las soluciones. En esta propuesta laubicacion y radios de los nichos se adapta de manera automatica alas caracterısticas del paisaje de aptitud de la generacion actual.

Clase No. 2 Julio de 2005

Page 44: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Hay investigadores de optimizacion evolutiva multiobjetivo que hanpropuesto tambien sus propios metodos para calcular σshare. Porejemplo, Fonseca & Fleming [1993]:

N =∏ki=1(∆i + σshare)−

∏ki=1 ∆i

σkshare

, (8)

donde N es el tamano de la poblacion, ∆i es la diferencia entre losvalores objetivo maximos y mınimos en la dimension i y k es lacantidad de funciones objetivo del problema.

Clase No. 2 Julio de 2005

Page 45: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Existen muchas otras tecnicas para mantener diversidad (ver porejemplo [Mahfoud, 1995]), aunque solo un porcentaje pequeno deellas se han usado en el contexto de optimizacion evolutivamultiobjetivo.

Clase No. 2 Julio de 2005

Page 46: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Al igual que en la jerarquizacion de Pareto, no hay evidencia claraen torno a los beneficios de una tecnica para mantener diversidadsobre otra. Tampoco hay estudios que comparen el papel de loscomponentes clave de cada tecnica entre sı.

Clase No. 2 Julio de 2005

Page 47: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Tecnicas para Mantener Diversidad

Algo que tampoco resulta claro es el espacio en el cual debierarealizarse la comparticion de aptitud. Horn et al. (1993) indicanque el espacio elegido debe ser aquel que “mas nos importe”. EnEMOO, suele usarse el espacio fenotıpico si uno desea obtener unarepresentacion uniforme del frente de Pareto. Notese, sin embargo,que en investigacion de operaciones suele ser el caso de que lesinterese mas obtener una distribucion uniforme del espacio de lasvariables de decision [Benson & Sayin, 1997].

Clase No. 2 Julio de 2005

Page 48: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Formas Relajadas de Dominancia

En anos recientes, el uso de formas relajadas de la relacion dedominancia como un mecanismo para mantener diversidad, se havuelto cada vez mas popular.

En la relacion estandar de dominancia, una solucion x se consideramejor que otra solucion y solo si x no es peor que y en todos losobjetivos y si x es mejor que y en al menos uno de ellos.

Clase No. 2 Julio de 2005

Page 49: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Formas Relajadas de Dominancia

En las formas relajadas de dominancia, la idea basica es consideraruna solucion x como mejor que una solucion y aun si x es peor quey en algun (o algunos) objetivo(s). Usualmente, la condicion es quetal deterioro debe compensarse con una mejora en el valor de losotros objetivos.

De tal forma, lo que se busca al usar formas relajadas dedominancia, es que el algoritmo sea capaz de explorar massoluciones y, por tanto, pueda mantener una mejor diversidad.

Clase No. 2 Julio de 2005

Page 50: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

Clase No. 2 Julio de 2005

Page 51: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

El concepto de ε-dominance requiere que el usuario defina laprecision que desea utilizar para evaluar cada funcion objetivo.Esta precision o tolerancia (ε) define una rejilla para el espacio delas funciones objetivo del problema, la cual sesga la busqueda hacialas porciones del espacio de las variables de decision que tienen lamayor precision posible en terminos de los requerimientos.

Clase No. 2 Julio de 2005

Page 52: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

La figura anterior ilustra la forma en que la dominancia ε permiteextender la zona de dominancia de una solucion con base en laprecision requerida para cada objetivo (o sea, ε1, ε2, etc.). Bajo unesquema de dominancia tradicional (basado en el NSGA), lasolucion P domina la region PECF. Sin embargo, al usarε−dominance, la solucion domina a una region mas grande,llamada ABCD en la figura anterior.

Clase No. 2 Julio de 2005

Page 53: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

El uso de ε-dominance en el archivo secundario, mejora la capacidadde un algoritmo para mantener diversidad, ya que solo se permiteun miembro del archivo por cada celda de la rejilla. En caso de quehayan varios individuos que podrıan residir en la misma celda, soloaquel que este mas cerca de la esquina inferior izquierda de la celda(suponiendo minimizacion) es el que se agrega al archivo. Porejemplo, en la figura anterior, la solucion 1 es la que se almacenarıaen el archivo, ya que esta mas cerca del punto G que la solucion 2.

Clase No. 2 Julio de 2005

Page 54: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

El archivo se actualiza a cada generacion con soluciones de las quese garantiza que esten separadas por una distancia mınima de εi enel i-esimo objetivo. Es importante hacer notar que el valor elegidode ε impacta directamente la velocidad de convergencia delalgoritmo.

Clase No. 2 Julio de 2005

Page 55: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

Si se define un valor pequeno de ε, se estara demandando unaprecision elevada del conjunto de optimos de Pareto. Un valorpequeno incremental el numero de soluciones obtenidas,incrementando el tamano del archivo, ası como el tamano de lapoblacion requerida.

Clase No. 2 Julio de 2005

Page 56: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

Por el contrario, si se usa un valor mas grande de ε, se puedenreducir dramaticamente los tiempos de ejecucion, sacrificando laresolucion del frente de Pareto obtenido. Algunos investigadores sehan beneficiado de esta flexibilidad del mecanismo de ε-dominance,usando una granularidad gruesa para obtener tambien menossoluciones no dominadas y reducir ası la complejidad del proceso detoma de decisiones.

Clase No. 2 Julio de 2005

Page 57: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

ε-dominance

Mostaghim y Teich [2003] compararon el desempeno de unalgoritmo multiobjetivo que usa una tecnica de clusters conrespecto a otro que usa ε-dominance. En estos experimentos seobservo que el uso de ε-dominance para actualizar el archivoexterno (o poblacion secundaria) fue benefico porque ayudo areducir el tiempo de computo, a la vez que mejoro la convergenciadel algoritmo y produjo una diversidad comparable a la lograda conlos clusters.

Clase No. 2 Julio de 2005

Page 58: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

α-dominance

Burke y Landa Silva [2002] usaron una variante de la denominadaα-dominance, para mejorar la capacidad de convergencia de 2algoritmos evolutivos multi-objetivo. El concepto de α-dominancese basa en un trabajo de Kokolo et al. [2001]y es muy similar alconcepto de ε-dominance.

Clase No. 2 Julio de 2005

Page 59: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Formas relajadas de dominancia

Otro uso interesante de las formas relajadas de dominancia es en laidentificacion de soluciones que son mas atractivas para lostomadores de decisiones (es decir, como un mecanismo deincorporacion de preferencias del usuario). Un ejemplo de este tipode esquema es la k-dominance.

Clase No. 2 Julio de 2005

Page 60: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

k-dominance

Farina y Amato [2003] propusieron la nocion de k-dominance, en laque se toma en consideracion el numero de objetivos iguales oincomparables en la nueva solucion, ası como el tamanonormalizado de la mejora lograda en los otros objetivos. En lak-dominance, v1 k-domina a v2 si y solo si:

ne < M and nb ≥ M−nek+1 donde 0 ≥ k ≤ 1

En esta expresion, nb es el numero de objetivos en los cuales v1 esmejor que v2, y ne es el numero de objetivos en los cuales v1 y v2

son iguales.

Clase No. 2 Julio de 2005

Page 61: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

k-dominance

Farina y Amato extendieron tambien la relacion k-dominance,evaluando el numero de nb, ne de manera difusa, introduciendo unatolerancia en el i-esimo objetivo, es decir, el intervalo en el cual unamejora en el objetivo i carece de importancia.

Clase No. 2 Julio de 2005

Page 62: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

E-dominance

Jin y Wong [2003] investigaron tecnicas de archivado basandose enuna relacion relajada de dominancia llamada E-dominance. Elrasgo caracterıstico mas importante de este mecanismo dearchivado es que se adapta de acuerdo a las soluciones que han sidoencontradas. Tambien incluye el concepto de hiperrectangulos paraencerrar el espacio de busqueda, considerando incluso soluciones noproducidas todavıa. Esto da a la tecnica la ventaja de no requerirconocimiento previo del espacio de las funciones objetivo.

Clase No. 2 Julio de 2005

Page 63: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

La idea de usar restricciones a la cruza no es nueva. Goldberg[1989] menciona su uso en problemas de optimizacionmono-objetivo para prevenir o minimizar los “hijos de bajodesempeno” (llamados letales). En otras palabras, las restriccionesa la cruza sesgan la forma en que se aparean para la recombinacioncon la esperanza de incrementar la efectividad y la eficiencia delalgoritmo. Goldberg presenta un ejemplo usando similitudesgenotıpicas como criterio de apareamiento.

Clase No. 2 Julio de 2005

Page 64: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Goldberg & Deb [1989] sugirieron el uso de restricciones a la cruzacon respecto a la distancia fenotıpica. La idea es permitir que dosindividuos se crucen solo si son muy similares (es decir, si sudistancia fenotıpica es menor a cierto factor llamado σmate, el cualse mide usando alguna metrica).

Clase No. 2 Julio de 2005

Page 65: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Esto pretende producir diferentes “especies” (grupos deapareamiento) en la poblacion [Mitchell, 1996]. Los AGs paraleloscon modelo de isla tambien usan mecanismos de restricciones a lacruza pero en este caso se definen en un sentido geografico de talforma que un individuo solo puede cruzarse con sus vecinos queresidan dentro de alguna topologıa restringida.

Clase No. 2 Julio de 2005

Page 66: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Algunos investigadores han hecho notar que las restricciones a lacruza debiera motivar la recombinacion de individuos diferentes afin de prevenir la generacion de letales. Independientemente delcriterio de restriccion adoptado, muchos MOEAs incorporanmecanismos de restriccion a la cruza cuya finalidad es reducir elnumero de soluciones dominadas de la poblacion.

Clase No. 2 Julio de 2005

Page 67: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Por ejemplo, Baita [1995] y Loughlin & Ranjithan [1997] colocanlas soluciones en una rejilla y restringen el area dentro de la cual sepueden recombinar los individuos. Lis & Eiben [1996] permiten larecombinacion solo entre individuos de “sexo” diferente. Jakob etal. [1992] implementan un mecanismo bastante atıpico derestricciones a la cruza basado en los valores de los pesos de cadasolucion (se utiliza una combinacion lineal de pesos en este caso).

Clase No. 2 Julio de 2005

Page 68: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Aunque en optimizacion evolutiva multiobjetivo es practica comunhacer σmate = σshare, no hay estudios que indiquen que este tipo deasignacion es la mas adecuada. De hecho, la mayorıa de losinvestigadores de EMOO que adoptan restricciones a la cruza nosuelen justificar plenamente la incorporacion de este tipo demecanismo.

Clase No. 2 Julio de 2005

Page 69: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

El uso de restricciones a la cruza en optimizacion evolutivamultiobjetivo no es una practica comun y suele no justificarsedebidamente su uso en la literatura.

Clase No. 2 Julio de 2005

Page 70: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

De hecho, existen algunos estudios que indican que las restriccionesa la cruza no son de mucha utilidad.

Zitzler & Thiele (1998) muestran que para diferentes valores deσmate con los que experimentaron, no se advirtio ninguna mejorasubstancial en el desempeno de un MOEA sobre un cierto conjuntode funciones de prueba al usar o suprimir las restricciones a lacruza.

Clase No. 2 Julio de 2005

Page 71: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Shaw & Fleming (1996) reportan resultados similares a los deZitzler.

Horn et al. (1994) ofrecen evidencia empırica que contradicedirectamente la base sobre la que se sustenta el uso de lasrestricciones a la cruza.

Clase No. 2 Julio de 2005

Page 72: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Horn (1994) hace notar que recombinar soluciones cuyos vectoresasociados estan en porciones diferentes de PFknown(t) SI puedeproducir descendientes cuyos vectores esten en PFknown(t+ 1),pero hacen ver que estos estaran localizados entre sus padres.

Clase No. 2 Julio de 2005

Page 73: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Horn (1994) tambien indica que para un problema multiobjetivodado, la (re)generacion constante de vectores a traves derecombinacion de padres “disimilares” mantiene PFknown. Tambienafirma que la mayor parte de las recombinaciones en Pknown

producen soluciones que se encuentran en Pknown.

Clase No. 2 Julio de 2005

Page 74: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Restricciones a la Cruza

Puede verse entonces que, al igual que en optimizacionmono-objetivo, el uso de restricciones a la cruza en optimizacionmultiobjetivo es motivo de controversias. Hay evidencia a favor yen contra de su uso, y posiblemente su uso sea benefico solo encierto tipo de aplicaciones, aunque eso tampoco resulta claro en laliteratura actual.

Clase No. 2 Julio de 2005

Page 75: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Representacion

Existen teoremas [Fogel & Ghozeil, 1997] que indican que no existeninguna ventaja intrınseca asociada con ninguna representaciongenetica en particular. Para cualquier codificacion y cardinalidaddada, puede generarse un AE equivalente (en terminos de entradasy salidas) para cada instancia individual del problema. Claro queen la practica algunas codificaciones pueden resultar masconvenientes que otras para un problema dado.

Clase No. 2 Julio de 2005

Page 76: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Representacion

Aunque no es muy comun usar representaciones pococonvencionales en optimizacion evolutiva multiobjetivo, sı hayevidencia del uso de diploides [Baita et al. 1995; Kursawe, 1991],matrices [Chow, 1998], codificacion de Prufer [Gen et al., 1998] yarboles de PG [Hinchcliffe et al., 1998, Vazquez, 1997], entre otras.

Clase No. 2 Julio de 2005

Page 77: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Han habido muy pocos intentos en la literatura por produciralgoritmos evolutivos multiobjetivo que adapten sus parametrosdurante el proceso evolutivo y que, por tanto, no requieran que susparametros sean ajustados por el usuario.

Uno de los primeros intentos por incorporar los mecanismos deauto-adaptacion de las estrategias evolutivas en un algoritmomultiobjetivo se remonta a una propuesta de Kursawe de 1991.Kursawe propuso proporcionar individuos con un conjunto detamanos de paso para cada funcion objetivo tales que su estrategiaevolutiva multiobjetivo pudiera lidiar con un ambiente dinamico.

Clase No. 2 Julio de 2005

Page 78: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Marco Laumanns y sus colegas (2001) demostraron que unaestrategia evolutiva con un mecanismo de auto-adaptacionconvencional tendrıa problemas para converger al verdadero frentede Pareto de un problema multiobjetivo. Aunque en este trabajo sehacen diferentes propuestas alternativas, los autores acabanadoptando una funcion agregativa para resolver problemasmultiobjetivo.

Clase No. 2 Julio de 2005

Page 79: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Tan y sus colegas [2001] propusieron el incrementing multiobjectiveevolutionary algorithm (IMOEA), el cual usa un tamano depoblacion dinamico que se adapta con base en los compromisosproducidos hasta el momento y con respecto a la distribucion dedensidad de poblacion deseada.

Clase No. 2 Julio de 2005

Page 80: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

El IMOEA se basa en una medida de convergencia que sefundamenta en la dominancia de Pareto y en la tasa de progreso,que es una metrica definida por Van Veldhuizen [1999]. El IMOEAusa tambien nichos dinamicos (es decir, no requiere factor decomparticion de aptitud).

Clase No. 2 Julio de 2005

Page 81: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Otra propuesta interesante es la idea de Dirk Buche y sus colegasde usar mapas auto-organizativos de Kohonen para adaptar el pasode mutacion de un algoritmo evolutivo multiobjetivo. En estapropuesta se define tambien un operador de recombinacion que usamapas auto-organizativos (algo similar a la recombinacionintermedia de las estrategias evolutivas).

Clase No. 2 Julio de 2005

Page 82: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Hussein Abbass [2002] propuso una extension de la evoluciondiferencial para resolver problemas multiobjetivo en la cual se usaun mecanismo de auto-adaptacion de sus porcentajes de cruza ymutacion.

Clase No. 2 Julio de 2005

Page 83: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Zhu y Leung [2002] propusieron un algoritmo geneticoimplementado en un modelo de isla el cual es cuenta con unmecanismo asıncrono auto-ajustable. Este algoritmo usa ciertainformacion sobre el estatus actual de cada isla de un algoritmoevolutivo multiobjetivo paralelo, y usa dicha informacion paraenfocar el esfuerzo de la busqueda a las regiones no traslapables delespacio de busqueda.

Clase No. 2 Julio de 2005

Page 84: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

El microGA2 de Toscano y Coello [2003] parece ser la propuestamas solida hasta el momento sobre el uso de adaptacion en lınea enun algoritmo evolutivo multiobjetivo.

El microGA2 divide la busqueda en 2 etapas:

Etapa de exploracion: En esta etapa, la mutacion tiene masimportancia que la cruza de manera que podamos localizar lasregiones mas promisorias del espacio de busqueda. En estaetapa se utiliza un porcentaje bajo de cruza y el operador demutacion es el principal responsable de dirigir la busqueda.Tambien se decrementa la convergencia nominal (o sea el ciclointerno del microGA), puesto que el enfasis es explorar y noexplotar (o recombinar) soluciones.

Clase No. 2 Julio de 2005

Page 85: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Adaptacion en Lınea

Etapa de Explotacion: En esta etapa, el operador de cruzatiene mas importancia que el de mutacion y, por tanto, seincrementa la convergencia nominal para alcanzar mejoresresultados.

Otros mecanismos interesantes del microGA2 son: el uso de uncriterio automatico de paro basado en el no incremento desoluciones no dominadas, el calculo automatico del numero desubdivisiones de la rejilla adaptativa, entre otros.

Clase No. 2 Julio de 2005

Page 86: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Algunos ejemplos de funciones de prueba (test suites) que se hanpropuesto en la literatura para evaluar AEs mono-objetivo son lossiguientes:

Las 5 funciones de De Jong [1975] para optimizacion sinrestricciones.

Las 12 funciones de Michalewicz & Schoenauer [1996] paraoptimizacion con restricciones.

Las 62 funciones de Schwefel [1995] para evaluar estrategiasevolutivas.

Clase No. 2 Julio de 2005

Page 87: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Los formalismos propuestos por Whitley et al. [1996] yGoldberg [1989].

Las funciones de Yao & Liu [1996; 1997] para programacionevolutiva y estrategias evolutivas.

Los problemas deceptions de Goldberg y Muhlenbein.

Los 8 problemas de Digalakis & Margaritis [2000].

Las funciones multimodales de Levy [1981], las de Corana[1987], la de Freudenstein-Roth y las de Goldstein-Price [1981].

La funcion de Ackley y la de Wirestrass [Back et al., 1997].

Clase No. 2 Julio de 2005

Page 88: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Un conjunto de funciones para evaluar MOEAs debe incluir lassiguientes caracterısticas tanto en el genotipo como en el fenotipo:

Continuas vs. discontinuas vs. discretas

Diferenciables vs. no diferenciables

Convexas vs. concavas

Modalidad (unimodal, multimodal)

Numerica vs. alfanumerica

Clase No. 2 Julio de 2005

Page 89: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Cuadratica vs. no cuadratica

Tipo de restricciones (igualdad, desigualdad, lineal, no lineal)

Alta vs. baja dimensionalidad

Deceptivas vs. no deceptivas

Porciones sesgadas vs. porciones no sesgadas de PFtrue

Clase No. 2 Julio de 2005

Page 90: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Serıa tambien importante usar ambientes dinamicos como los“conos en movimiento” de Morrison & De Jong [1996], con unmovimiento que oscilara de lo predecible a lo caotico a lo noestacionario y a lo deceptivo.

Clase No. 2 Julio de 2005

Page 91: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Deben tomarse tambien en cuenta las sugerencias de Whitley et al.(1996) en torno al diseno de funciones de prueba genericas:

Algunos problemas deben “resistirse” a ser resueltos porestrategias simples de busqueda.

Deben incluirse problemas no lineales, no separables y nosimetricos.

Deben incluirse problemas escalables.

Algunos problemas debieran tener un costo de evaluacionescalable.

Los problemas deben tener una representacion canonica (facilde usar).

Clase No. 2 Julio de 2005

Page 92: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones de Prueba

Idealmente, las funciones de prueba elegidas para evaluar unMOEA debieran contener caracterısticas similares al problema delmundo real que nos interese resolver.

Sin embargo, la literatura especializada se ha caracterizado por eluso de funciones “artificiales” que suelen resultar difıciles para lamayorıa de los algoritmos evolutivos multiobjetivo actuales, peroque no necesariamente representan las dificultades que caracterizana los problemas del mundo real.

Clase No. 2 Julio de 2005

Page 93: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 1: Primera funcion de Schaffer. Tiene gran importanciahistorica por haber sido la primera reportada en la literaturade computacion evolutiva. Su frente de Pareto puede obtenerseanalıticamente. PFtrue es convexo y solo hay una variable dedecision.

F = (f1(x), f2(x)), donde

f1(x) = x2,

f2(x) = (x− 2)2

donde: −105 ≤ x ≤ 105

Clase No. 2 Julio de 2005

Page 94: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

x−value

MOP1 Ptrue

Figura 2: Ptrue de MOP 1

Clase No. 2 Julio de 2005

Page 95: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

0 0.5 1 1.5 2 2.5 3 3.5 40

0.5

1

1.5

2

2.5

3

3.5

4

Function 1

Func

tion

2

MOP1 PFtrue

Figura 3: PFtrue de MOP 1

Clase No. 2 Julio de 2005

Page 96: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 2: Segunda funcion de prueba de Fonseca. Es escalable.Se le pueden agregar variables de decision sin cambiar la formade PFtrue (el frente es concavo en este caso).

F = (f1(~x), f2(~x)), donde

f1(~x) = 1− exp(−n∑

i=1

(xi −1√n

)2),

f2(~x) = 1− exp(−n∑

i+1

(xi +1√n

)2)

donde: −4 ≤ xi ≤ 4; i = 1, 2, 3

Clase No. 2 Julio de 2005

Page 97: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

−4

−2

0

2

4

−4

−2

0

2

4−4

−3

−2

−1

0

1

2

3

4

x1 value

MOP2 Ptrue

x2 value

x 3 val

ue

Figura 4: Ptrue de MOP 2

Clase No. 2 Julio de 2005

Page 98: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

Function 1

Func

tion

2

MOP2 PFtrue

Figura 5: PFtrue de MOP 2

Clase No. 2 Julio de 2005

Page 99: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 3: Problema propuesto por Poloni. Ptrue y PFtrue estandesconectados.

Maximize F = (f1(x, y), f2(x, y)), donde

f1(x, y) = −[1 + (A1 −B1)2 + (A2 −B2)2],

f2(x, y) = −[(x+ 3)2 + (y + 1)2]

Clase No. 2 Julio de 2005

Page 100: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

donde: −3,1416 ≤ x, y ≤ 3,1416,

A1 = 0,5 sin 1− 2 cos 1 + sin 2− 1,5 cos 2,

A2 = 1,5 sin 1− cos 1 + 2 sin 2− 0,5 cos 2,

B1 = 0,5 sinx− 2 cosx+ sin y − 1,5 cos y,

B2 = 1,5 sinx− cosx+ 2 sin y − 0,5 cos y

Clase No. 2 Julio de 2005

Page 101: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

−3 −2 −1 0 1 2 3

−3

−2

−1

0

1

2

3

x−value

y−va

lue

MOP3 Ptrue

Figura 6: Ptrue de MOP 3

Clase No. 2 Julio de 2005

Page 102: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

−18 −16 −14 −12 −10 −8 −6 −4 −2 0−25

−20

−15

−10

−5

0

Function 1

Func

tion

2

MOP3 PFtrue

Figura 7: PFtrue de MOP 3

Clase No. 2 Julio de 2005

Page 103: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 4: Propuesta por Kursawe. Hay areas desconectadas yasimetricas en Ptrue. PFtrue consiste de 3 curvasdesconectadas. Permite el uso de un numero arbitrario devariables, aunque escalar la funcion cambia la forma de PFtrue.

F = (f1(~x), f2(~x)), donde

f1(~x) =n−1∑

i=1

(−10e(−0,2)∗√x2i+x

2i+1),

f2(~x) =n∑

i=1

(|xi|a + 5 sin(xi)b)

donde: −5 ≤ xi ≤ 5; i = 1, 2, 3; a = 0,8, b = 3

Clase No. 2 Julio de 2005

Page 104: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

−1.4−1.2

−1−0.8

−0.6−0.4

−0.20

−1.5

−1

−0.5

0−1.4

−1.2

−1

−0.8

−0.6

−0.4

−0.2

0

x1 value

MOP4 Ptrue

x2 value

x 3 val

ue

Figura 8: Ptrue de MOP 4

Clase No. 2 Julio de 2005

Page 105: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

−20 −19 −18 −17 −16 −15 −14−12

−10

−8

−6

−4

−2

0

2

Function 1

Func

tion

2

MOP4 PFtrue

Figura 9: PFtrue de MOP 4

Clase No. 2 Julio de 2005

Page 106: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 5: Propuesta por Viennet. Tiene areas desconectadas enPtrue. PFtrue es una curva en tres dimensiones.

F = (f1(x, y), f2(x, y), f3(x, y)), donde

f1(x, y) = 0,5 ∗ (x2 + y2) + sin(x2 + y2),

f2(x, y) =(3x− 2y + 4)2

8+

(x− y + 1)2

27+ 15,

f3(x, y) =1

(x2 + y2 + 1)− 1,1e(−x2−y2)

donde: −30 ≤ x, y ≤ 30

Clase No. 2 Julio de 2005

Page 107: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

−3 −2 −1 0 1 2 3−3

−2

−1

0

1

2

3

x−value

y−va

lue

MOP3 Ptrue

Figura 10: Ptrue de MOP 5

Clase No. 2 Julio de 2005

Page 108: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

02

46

810

15

15.5

16

16.5

17

17.5−0.15

−0.1

−0.05

0

0.05

0.1

0.15

0.2

Function 1

MOP3 PFtrue

Function 2

Func

tion

3

Figura 11: PFtrue de MOP 5

Clase No. 2 Julio de 2005

Page 109: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 6: Propuesta por Deb. Tanto Ptrue como PFtrue estandesconectados.

F = (f1(x, y), f2(x, y)), where

f1(x, y) = x,

f2(x, y) = (1 + 10y) ∗

[1− (x

1 + 10y)α − x

1 + 10ysin(2πqx)]

donde: 0 ≤ x, y ≤ 1,

q = 4,

α = 2

Clase No. 2 Julio de 2005

Page 110: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

x−value

y−va

lue

MOP6 Ptrue

Figura 12: Ptrue de MOP 6

Clase No. 2 Julio de 2005

Page 111: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9−0.5

0

0.5

1

Function 1

Func

tion

2

MOP6 PFtrue

Figura 13: PFtrue de MOP 6

Clase No. 2 Julio de 2005

Page 112: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

MOP 7: Propuesta por Viennet. Ptrue esta conectado yPFtrue es una superficie. Es un problema relativamente facil deresolver.

F = (f1(x, y), f2(x, y), f3(x, y)), where

f1(x, y) =(x− 2)2

2+

(y + 1)2

13+ 3,

f2(x, y) =(x+ y − 3)2

36+

(−x+ y + 2)2

8− 17,

f3(x, y) =(x+ 2y − 1)2

175+

(2y − x)2

17− 13

donde: −400 ≤ x, y ≤ 400

Clase No. 2 Julio de 2005

Page 113: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

0 0.5 1 1.5 2 2.5 3−1.5

−1

−0.5

0

0.5

1

x−value

y−va

lue

MOP7 Ptrue

Figura 14: Ptrue de MOP 7

Clase No. 2 Julio de 2005

Page 114: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones sin Restricciones

3

3.5

4

4.5

−17

−16.8

−16.6

−16.4

−16.2−13

−12.8

−12.6

−12.4

−12.2

−12

−11.8

Function 1

MOP7 PFtrue

Function 2

Func

tion

3

Figura 15: PFtrue de MOP 7

Clase No. 2 Julio de 2005

Page 115: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Historicamente, las restricciones de las funciones objetivo se hanincorporado utilizando funciones de penalizacion [Richardson et al.,1989]. Sin embargo existen muchos otros metodos para incorporarrestricciones, si bien muy pocos de ellos se han disenadoespecıficamente para algoritmos evolutivos multiobjetivo.

Clase No. 2 Julio de 2005

Page 116: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

MOP-C1: Propuesto por Binh. En este caso Ptrue es un areay su PFtrue es una sola curva convexa.

F = (f1(x, y), f2(x, y)), donde

f1(x, y) = 4x2 + 4y2,

f2(x, y) = (x− 5)2 + (y − 5)2

donde:

0 ≤ x ≤ 5, 0 ≤ y ≤ 3

0 ≥ (x− 5)2 + y2 − 25,

0 ≥ −(x− 8)2 − (y + 3)2 + 7,7

Clase No. 2 Julio de 2005

Page 117: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 50

0.5

1

1.5

2

2.5

3

x−value

y−va

lue

Binh2 Pareto Optimal Solutions

Figura 16: Ptrue de MOP-C1

Clase No. 2 Julio de 2005

Page 118: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

0 50 100 150 200 250 300 350 4000

10

20

30

40

50

60

70

80

90

100

Function 1

Func

tion

2

Binh2 Pareto Front

Figura 17: PFtrue de MOP-C1

Clase No. 2 Julio de 2005

Page 119: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

MOP-C2: Propuesto por Osyczka. Tanto Ptrue como PFtrueestan desconectados.

f1(~x) = −(25(x1 − 2)2 + (x2 − 2)2 + (x3 − 1)2

+ (x4 − 4)2 + (x5 − 1)2,

f2(~x) = x21 + x2

2 + x23 + x2

4 + x25 + x2

6

Clase No. 2 Julio de 2005

Page 120: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

0 ≤ x1, x2, x6 ≤ 10, 1 ≤ x3, x5 ≤ 5, 0 ≤ x4 ≤ 6,

0 ≤ x1 + x2 − 2,

0 ≤ 6− x1 − x2,

0 ≤ 2− x2 + x1,

0 ≤ 2− x1 + 3x2,

0 ≤ 4− (x3 − 3)2 − x4

0 ≤ (x5 − 3)2 + x6 − 4

Clase No. 2 Julio de 2005

Page 121: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 51

1.1

1.2

1.3

1.4

1.5

1.6

1.7

1.8

1.9

2

x−value

y−va

lue

Osyczka (2) Pareto Optimal Solutions

Figura 18: Ptrue de MOP-C2

Clase No. 2 Julio de 2005

Page 122: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

−300 −250 −200 −150 −100 −50 00

20

40

60

80

100

120

140

160

180

Function 1

Func

tion

2

Osyczka (2) Pareto Front

Figura 19: PFtrue de MOP-C2

Clase No. 2 Julio de 2005

Page 123: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

MOP-C3: Propuesta por Viennet. Ptrue esta conectado peroes asimetrico. PFtrue es una superficie curva.

f1(x, y) =(x− 2)2

2+

(y + 1)2

13+ 3,

f2(x, y) =(x+ y − 3)2

175+

(2y − x)2

17− 13,

f3(x, y) =(3x− 2y + 4)2

8+

(x− y + 1)2

27+ 15

−4 ≤ x, y ≤ 4,

y < −4x+ 4,

x > −1,

y > x− 2

Clase No. 2 Julio de 2005

Page 124: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

−4 −3 −2 −1 0 1 2 3 4−4

−3

−2

−1

0

1

2

3

4

x−value

y−va

lue

Viennet (4) Pareto Optimal Solutions

Figura 20: Ptrue de MOP-C3

Clase No. 2 Julio de 2005

Page 125: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

34

56

78

910

−13

−12

−11

−10

−9

−814

16

18

20

22

24

26

Function 1

Viennet (4) Pareto Front

Function 2

Func

tion

3

Figura 21: PFtrue de MOP-C3

Clase No. 2 Julio de 2005

Page 126: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

MOP-C4: Propuesta por Tanaka. Ptrue esta conectado, peroPFtrue esta desconectado.

f1(x, y) = x,

f2(x, y) = y

0 < x, y ≤ π,

0 ≥ −(x2)− (y2)

+1 +

(a cos

(b arctan(x/y)))

a = 0,1

b = 16

Clase No. 2 Julio de 2005

Page 127: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

0.5 1 1.5 2 2.5 3

0.5

1

1.5

2

2.5

3

x−value

y−va

lue

Tanaka Pareto Optimal Solutions

Figura 22: Ptrue de MOP-C4

Clase No. 2 Julio de 2005

Page 128: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

0 0.2 0.4 0.6 0.8 1 1.2 1.40

0.2

0.4

0.6

0.8

1

1.2

1.4

Function 1

Func

tion

2

Tanaka Pareto Front

Figura 23: PFtrue de MOP-C4

Clase No. 2 Julio de 2005

Page 129: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Los parametros a, b de MOP-C4 (Tanaka) pueden variarse dentrode ciertos rangos a fin de producir versiones de PFtrue de diferentesgrados de dificultad.

Considerando variaciones especıficas de estos dos parametros deMOP-C4 junto con un operador absoluto en el ultimo termino de larestriccion, pueden producirse los siguientes paisajes de aptitud:

Clase No. 2 Julio de 2005

Page 130: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Funcion estandar usando a = ,1 y b = 16

Regiones continuas mas pequenas con: a = ,1, b = 32

Mayor distancia entre regiones usando a = ,1, b = 16

Mayor distancia entre regiones usando a = ,1, b = 32

Regiones periodicas mas profundas usandoa = ,1(x2 + y2 + 5xy), b = 32

Regiones no periodicas sobre el frente usandoa = ,1(x2 + y2 + 5xy), b = 8(x2 + y2)

Clase No. 2 Julio de 2005

Page 131: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Figura 24: MOP-C4 (Tanaka). Con a = ,1, b = 16 se tiene la formade PFtrue original.

Clase No. 2 Julio de 2005

Page 132: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Figura 25: MOP-C4 (Tanaka). Con a = ,1, b = 32 se tienen regionescontinuas de PFtrue mas pequenas.

Clase No. 2 Julio de 2005

Page 133: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Figura 26: MOP-C4 (Tanaka). Con a = ,1, b = 16 se incrementa ladistancia entre las regiones de PFtrue

Clase No. 2 Julio de 2005

Page 134: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Figura 27: MOP-C4 (Tanaka). Con a = ,1, b = 32 se incrementa ladistancia entre las regiones de PFtrue.

Clase No. 2 Julio de 2005

Page 135: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Figura 28: MOP-C4 (Tanaka). Con a = ,1(x2 + y2 + 5xy), b = 32, setienen regiones periodicas mas profundas de PFtrue.

Clase No. 2 Julio de 2005

Page 136: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Figura 29: MOP-C4 (Tanaka). Con a = ,1(x2 +y2 +5xy), b = 8(x2 +y2), se tienen regiones no periodicas de PFtrue

Clase No. 2 Julio de 2005

Page 137: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

Seleccionando diferentes valores para los parametros (a, b) esposible generar distintos paisajes de aptitud. Notese tambien queaunque la curva central de Pareto de esta funcion parece no sercontinua, las dos secciones internas de la curva son muy difıciles dehallar numericamente debido a las fuertes pendientes que seencuentran en esta porcion de la curva.

Clase No. 2 Julio de 2005

Page 138: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones con Restricciones

En general, (a, b) controlan la longitud de la region continua delfrente de Pareto. Conforme se decrementa esta region, un algoritmoevolutivo multiobjetivo tendera a hallar menos puntos de PFtruedebido a la discretizacion de ~x. Conforme se incrementa a, lalongitud de los “cortes” se hacen mas profundas, lo que hacenecesario que la busqueda proceda a lo largo de un corredor masangosto. Tambien es posible alejarse de la naturaleza periodica delas regiones desconectadas de PFtrue cambiando b de su valorinicial de 16. De esta manera sera tambien mas difıcil encontrartodas las regiones que conforman PFtrue.

Clase No. 2 Julio de 2005

Page 139: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

Es posible generar funciones de prueba multiobjetivo a partir defunciones mono-objetivo. Deb [1999] propuso una metodologıa deeste tipo. Su propuesta consiste en definir varios problemas deoptimizacion bi-objetivo con el formato siguiente:

Minimize F = (f1(~x), f2(~x)), where

f1(~x) = f(x1, . . . , xm),

f2(~x) = g(xm+1, . . . , xN ) h(f(x1, . . . , xm), g(xm+1, . . . , xN ))

Clase No. 2 Julio de 2005

Page 140: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

donde: f1 es una funcion de (m < N) variables de decision que nose incluyen en la funcion f .

La funcion g tiene (N −m) variables de decision de f y g.

Las funciones f y g tambien se restringen a valores positivos en elespacio de busqueda. Es decir, f > 0 y g > 0.

Clase No. 2 Julio de 2005

Page 141: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

Deb [1999] lista cinco funciones para cada posible instanciacion def y g, y 4 para h. Estas funciones pueden luego ser “mezcladas yempatadas” para crear problemas de optimizacion multiobjetivocon ciertas caracterısticas deseadas.

Segun Deb, estas funciones tienen el siguiente efecto general:

f : Esta funcion controla la uniformidad de la representacion alo largo del frente de Pareto.

Clase No. 2 Julio de 2005

Page 142: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

g : Esta funcion controla las caracterısticas del problemamultiobjetivo—ya sea que resulte multifrontal o que tenga unoptimo aislado.

h : Esta funcion controla las caracterısticas resultantes delfrente de Pareto (convexo, desconectado, etc.).

Aunque la independencia de g y h restringe las caracterısticas deldominio genotıpico, sı permiten construir facilmente funcionesgenotıpicas con una amplia gama de caracterısticas.

Clase No. 2 Julio de 2005

Page 143: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

MOP-G1: Este es un ejemplo de las funciones generadas conla metodologıa de Deb. En este caso, PFtrue es convexo.

f1(x1) = x1,

f2(~x) = g(1−√

(f1/g))

g(~x) = 1 + 9m∑

i=2

xi/(m− 1)

m = 30; 0 ≤ xi ≤ 1

Clase No. 2 Julio de 2005

Page 144: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

La metodologıa de Deb es una importante contribucion a lageneracion automatica de funciones de prueba para problemasmultiobjetivo. Sin embargo, debe hacerse notar que no esta libre deproblemas. Consideremos por ejemplo el siguiente problema:

Minimizar F = (f1(x1, x2), f2(x1, x2)), where

f1(x1, x2) = x1,

f2(x1, x2) =2,0− exp{−(x2−0,2

0,004 )2} − 0,8 exp{−(x2−0,60,4 )2}

x1.(9)

Clase No. 2 Julio de 2005

Page 145: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

En este caso, f2 puede representarse tambien como g(x2)x1

. De talforma, g(x2) es la funcion bimodal representada en la figura delsiguiente acetato. Esta figura tiene como optimos g(0,6) ≈ 1,2 yg(0,2) ≈ 0,7057.

Clase No. 2 Julio de 2005

Page 146: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10.6

0.8

1

1.2

1.4

1.6

1.8

2

x2

g(x 2)

Plot of g(x2)

Clase No. 2 Julio de 2005

Page 147: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

La figura del acetato siguiente muestra los frentes de Pareto(propuestos por Deb) correspondientes a este problema. La porcioninferior de la banda vectorial superior es denominada por DebPFlocal y la banda inferior es PFtrue. Las solucionescorrespondientes a Plocal son {(x1, x2) | x2 ≈ 0,6} y las de Ptrue son{(x1, x2) | x2 ≈ 0,2}.

Clase No. 2 Julio de 2005

Page 148: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

2

4

6

8

10

12

14

16

18

20Deb’s Multimodal Example

f1

f 2

Clase No. 2 Julio de 2005

Page 149: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

Deb indica que se tendran dificultades para encontrar PFtrue deeste problema debido a que los algoritmos evolutivos multiobjetivotenderan a quedar atrapados en PFlocal. Sin embargo, este no es unefecto fenotıpico, sino mas bien un problema debido a ladiscretizacion del espacio de busqueda en el espacio genotıpico. Eneste problema la dificultad estriba no solo en la existencia dePFlocal, sino mas bien en la cantidad de puntos discretos cercanosal optimo global de g(x2). Este problema realmente muestradecepcion mas que multifrontalidad debido a que sediscretizo uniformemente el espacio de busqueda.

Clase No. 2 Julio de 2005

Page 150: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

Para el caso de funciones con restricciones, Deb [2000] sugiereextender su metodologıa de la forma siguiente:

f1(~x) = x1

f2(~x) = g(~x) exp(−f1(~x)/g(~x))

sujeta a:

cj(x) = f2(~x)− aj exp(−bjf1(~x)) ≥ 0, j = 1, 2, ...J (10)

Existen J desigualdades cada una de las cuales tiene 2 parametros(aj , bj) lo que hace parte de la zona factible del problema original(sin restricciones) ahora infactible.

Clase No. 2 Julio de 2005

Page 151: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

Un ejemplo es el siguiente:

Minimizar F = (f1(~x), f2(~x)), donde

f1(~x) = x1

f2(~x) = (1 + x2)/x1

0,1 ≤ x1 ≤ 1,0

0,0 ≤ x2 ≤ 5,0

sujeta a:

c1(~x) = x2 + 9x1 ≥ 6

c2(~x) = −x2 + 9x1 ≥ 1 (11)

Clase No. 2 Julio de 2005

Page 152: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

De hecho, se sugiere la siguiente forma generica:

Minimizar F = (f1(~x), f2(~x)), donde

f1(~x) = x1

f2(~x) = g(~x)(1− f1(~x)/g(~x)

sujeta a:

cj(~x) = cos(θ)(f2(~x)− e)− sin(θ)f1(~x)) ≥

a| sin(bπ(sin)θ)(f2(~x)− e) + cos(θ)f1(~x))c)|d,

j = 1, 2, ...J (12)

Clase No. 2 Julio de 2005

Page 153: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

Con 6 parametros (θ, a, a, c, d, e), x1 se restringe a [0,1] y g(~x)determina los lımites de las otras variables. Seleccionando valorespara los 6 parametros podemos generar diferentes paisajes deaptitud. Por ejemplo, si(θ = −0,2π, a = 0,2, b = 10, c = 1, d = 6, e = 1), se genera la formade PFtrue que se muestra en el acetato siguiente.

Clase No. 2 Julio de 2005

Page 154: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

8 Deb, Pratap, and Meyarivan

The resulting feasible objective space is shown in Figure 6. It is clear fromthe �gure that the unconstrained Pareto-optimal region becomes infeasible inthe presence of the constraint. The periodic nature of the constraint boundarymakes the Pareto-optimal region discontinuous, having a number of disconnectedcontinuous regions. The task of an optimization algorithm would be to �nd asmany such disconnected regions as possible. The number of disconnected regionscan be controlled by increasing the value of the parameter b. It is also clear thatwith the increase in number of disconnected regions, an algorithm will havedi�culty in �nding representative solutions in all disconnected regions.

f

f2

1

Pareto−optimalregions

0

0.5

1

1.5

2

0 0.2 0.4 0.6 0.8 1

0

0.5

1

1.5

2

0 0.2 0.4 0.6 0.8 1

Fig. 6. Constrained test problem CTP2.

f

f2

1

Pareto−optimalsolutions

0

0.5

1

1.5

2

0 0.2 0.4 0.6 0.8 10

0.5

1

1.5

2

0 0.2 0.4 0.6 0.8 1

Fig. 7. Constrained test problem CTP3.

The above problem can be made more di�cult by using a small value of d, sothat in each disconnected region there exists only one Pareto-optimal solution.Figure 7 shows the feasible objective space for d = 0:5 and a = 0:1 (whileother parameters are the same as that in the previous test problem). Althoughmost of the feasible search space is continuous, near the Pareto-optimal region,the feasible search regions are disconnected, �nally each subregion leading toa singular feasible Pareto-optimal solution. An algorithm will face di�culty in�nding all discrete Pareto-optimal solutions because of the changing nature fromcontinuous to discontinuous feasible search space near the Pareto-optimal region.

The problem can have a di�erent form of complexity by increasing the valueof parameter a, which has an e�ect of making the transition from continuous todiscontinuous feasible region far away from the Pareto-optimal region. Since analgorithm now has to travel through a long narrow feasible tunnel in search ofthe lone Pareto-optimal solution at the end of tunnel, this problem will be moredi�cult to solve compared to the previous problem. Figure 8 shows one suchproblem with a = 0:75 and rest of the parameters same as that in the previoustest problem.

Figura 30: MOP-GX. Note las regiones desconectadas de PFtrue.

Clase No. 2 Julio de 2005

Page 155: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Generadores de Funciones de Prueba

De manera analoga, pueden producirse una enorme gama devariaciones de parametros, haciendose notar que d controla lalongitud de la region continua del frente de Pareto. Conforme sedecrementa esta region, un algoritmo evolutivo multiobjetivotendera a encontrar menos puntos de PFtrue debido a ladiscretizacion de ~x. Si se incrementa el valor de a, la longitud de los“cortes” se vuelve mas profunda, lo que requiere que la busquedaproceda a lo largo de un corredor mas angosto dificultando, enconsecuencia, la busqueda. Tambien podemos alejarnos de lanaturaleza periodica de las regiones desconectadas de PFtruecambiando c de su valor inicial de 1. θ y e controlan la pendiente yel cambio de direccion de PFtrue, respectivamente.

Clase No. 2 Julio de 2005

Page 156: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones Escalables

Otra caracterıstica deseable de una funcion de prueba es que seaescalable a cualquier numero de dimensiones. Debido a que elmapeo entre el espacio genotıpico y el fenotıpico puede serconsiderablemente no lineal, podemos aprovechar esta propiedadpara generar funciones de alto grado de dificultad.

Clase No. 2 Julio de 2005

Page 157: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones Escalables

Un ejemplo es el siguiente (DTLZ1):

f1(x) =12x1x2 · · ·xM−1(1 + g(xM ))

f2(x) =12x1x2 · · · (1− xM−1)(1 + g(xM ))

...

fM−1(x) =12x1(1− x2)(1+g(xM ))

fM (x) =12

(1− x1)(1 + g(xM )) (13)

sujeta a: 0 ≤ xi ≤ 1 for i = 1, 2, ...ncon: g(xM ) = 100[|xm|+

xiεXM(xi − 0,5)2 − cos(20π(xi − 0,5))]

Clase No. 2 Julio de 2005

Page 158: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones Escalables

En este caso, Ptrue es xM = 0,0 y PFtrue es un hiperplano lineal enel primer cuadrante (o sea, un triangulo equilatero en un espaciotridimensional para las 3 funciones objetivo que tomen solo valorespositivos de 0.0 a 0.6).

Es difıcil poder converger a PFtrue debido a la discretizacionuniforme del espacio de las variables de decision y al mapeo nouniforme con la funcion de aptitud (esto produce un problema demultifrontalidad).

Clase No. 2 Julio de 2005

Page 159: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones Escalables

Un posible problema generico escalable es el siguiente:

f1(x) = (1 + g(xM )) cos(xα1 π/2) cos(xα2 π/2)...

cos(xαM−1π/2) cos(xαMπ/2)

f2(x) = (1 + g(xM )) cos(xα1 π/2) cos(xα2 π/2)...

cos(xαM−2π/2) sin(xαM−1π/2)...

fM−1(x) = (1 + g(xM )) cos(xα1 π/2) sin(xα2 π/2)

fM (x) = (1 + g(xM )) sin(xα1 π/2) (14)

Clase No. 2 Julio de 2005

Page 160: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones Escalables

sujeta a: 0 ≤ xi ≤ 1 for i = 1, 2, ...ncon:g(xM ) =

xiεXM(xi − 0,5)2

og(xM ) = 100[|xm|+

xiεXM(xi − 0,5)2 − cos(20π(xi − 0,5))]

Clase No. 2 Julio de 2005

Page 161: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Funciones Escalables

En este caso se pueden producir diversas variaciones modificando elvalor de α a fin de permitir una mayor densidad de puntos de losdiversos hiperplanos debido al mapeo entre el genotipo y elfenotipo. Muchas otras variaciones son posibles en este caso.

Clase No. 2 Julio de 2005

Page 162: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Problemas Combinatorios

Cuadro 1: Posibles Funciones Multiobjetivo NP -Completas

Problema NP -Completo Ejemplo

Traveling Salesperson Min energy, time, and/or

distance; Max expansion

Coloring Min number of colors, num-

ber of each color

Set/Vertex Covering Min total cost, over-covering

Maximum Independent Set (Clique) Max set size; Min geometry

Clase No. 2 Julio de 2005

Page 163: Introduccion a La Optimizacion Con Metodos Euristicos

Introduccion a la Optimizacion Multiobjetivo Dr. Carlos A. Coello Coello

Problemas Combinatorios

Cuadro 2: Posibles Funciones Multiobjetivo NP -Completas

Problema NP -Completo Ejemplo

Vehicle Routing Min time, energy, and/or

geometry

Scheduling Min time, deadlines, wait ti-

me, resource use

Layout Min space, overlap, costs

NPC-Problem Combinations Vehicle scheduling and rou-

ting

0/1 Knapsacks - Bin Packing Max profit; Min weight

Minimum Spanning Trees tuple weighted edges;

minimum weighting

Clase No. 2 Julio de 2005