1. Atelier scientifique de l'équipe TIS du LISSI Analyse des performances de l'algorithme d'optimisation dynamique MADO Julien Lepagnot, doctorant en 2ème année Sous la direction de: A. Nakib, H. Oulhadj et P. Siarry Les AS de TIS 1

2. Plan de l’exposé Introduction Membres de l’équipe L’optimisation statique Les métaheuristiques L’optimisation dynamique La thèse Choisir les bons ingrédients Mise au point d’une nouvelle métaheuristique Description de MADO Analyse des performances Conclusions et perspectives Les AS de TIS 2

3. Plan de l’exposé Introduction Membres de l’équipe L’optimisation statique Les métaheuristiques L’optimisation dynamique La thèse Choisir les bons ingrédients Mise au point d’une nouvelle métaheuristique Description de MADO Analyse des performances Conclusions et perspectives Les AS de TIS 3

4. 1.1. Membres de l’équipe Les AS de TIS 4 Patrick SIARRY – Professeur des universités Hamouche OULHADJ – Maître de conférences Amir NAKIB – ATER et consultant R&D Julien LEPAGNOT – Doctorant en 2ème année Domaines de recherche : Optimisation, métaheuristiques, applications de l’optimisation dans le domaine biomédical, modélisation… Recalage d’angiographies rétiniennes Segmentation d’images biomédicales Avant recalage Après recalage Translation Image IRM originale Image segmentée

6. une fonction objectif fDans le cas d’une minimisation, on cherche la position s* telle que : s* = arg min( f(s)s Î S ) Dans le cas d’une maximisation, on se ramène à un problème de minimisation : Maximiser f Minimiser – f

7. 1.2. L’optimisation statique (2 / 2) Les AS de TIS 6 Le problème de tournées de véhicules Le problème d’affectation de tâches machine 1 machine 2 machine 3 Dépôt charge charge charge Compression du signal Recalage d’images modélisation via une métaheuristique Avant recalage Après recalage Translation

8. Les AS de TIS 7 1.3. Les métaheuristiques (1 / 4) Classification des méthodes d'optimisation statique

9. 1.3. Les métaheuristiques(2 / 4) Les AS de TIS 8 Exemple : Algorithmes évolutionnaires [Holland, 1973] COMPETITION entre agents Reposent sur la compétition au sens de Darwin Population courante Population de descendants Croisement Evaluation Sélection Mutation Population de descendants mutés Population évaluée

10. 1.3. Les métaheuristiques(3 / 4) Les AS de TIS 9 Exemple : Colonies de fourmis [Dorigo et al., 1996] INTELLIGENCE EN ESSAIM : COOPERATION INDIRECTE entre agents (via l’environnement)

12. sa position

13. sa vitesseω, c1, c2, coefficients de confiance et r1, r2Î ]0, 1] Nouvelle position Position actuelle Vers la meilleure performance de l’essaim Vers le pointaccessible avec lavitesse courante

15. une fonction objectif f

16. le temps tDans le cas d’une minimisation, on cherche la position s* telle que : s* = arg min( f(s,t)s Î S )

17. 1.4. L’optimisation dynamique (2 / 4) Les AS de TIS 12 retrait panne Le problème de tournées de véhicules Le problème d’affectation de tâches ajout ajout retrait machine 1 machine 2 machine 3 Dépôt charge charge Compression du signal Estimation du mouvement dans une séquence Nouveau modèle à chaque battement peu de différences entre les décalages consécutifs (repartir de l’ancienne solution)

18. 1.4. L’optimisation dynamique (3 / 4) Les AS de TIS 13 Techniques d’optimisation dynamique Adaptation des métaheuristiques d’optimisation statique

20. Un ensemble de fonctions de test proposées par W. TFAILIau LISSI durant sa thèse en 2007(n'est pas très utilisé)

22. 2.1. Choisir les bons ingrédients Les AS de TIS 16

24. PSO : Impossible de rattacher la méthode à cette classe

25. Fourmis : Pas de phéromones, impossible aussi

26. Evolutionnaires : Impossible aussi

27. Programmation à Mémoire Adaptative [E. Taillard, 1997] : Tentative……échouée

28. Multi-Agent :Multi-Agent DynamicOptimizationMADOHill Climbing à pas adaptatif Hill Climbing à pas adaptatif Hill Climbing à pas adaptatif Hill Climbing à pas adaptatif Pseudo-parallélisme des recherches locales

29. Plan de l’exposé Introduction La thèse Description de MADO Structure générale de MADO Structure d’un agent de MADO La population initiale d’agents Procédure Agent Détection de changement Analyse des performances Sur le MovingPeaks Benchmark Sur le jeu de test de CEC’2009 Conclusions et perspectives Les AS de TIS 18

30. 3.1. Structure générale de MADO Les AS de TIS 19 Initialisation Module de mémoire Coordinateur Archive … Module de gestion des agents Agent 1 Agent 2 Agent i Gestionnaire de l'archive Mémoire locale Mémoire locale Mémoire locale Critère d’arrêt satisfait ? Non Oui Fin

33. est adapté à chaque déplacement de l’agent.Espace de recherche Rayon = pas de l’agent Solutions appartenant au voisinage de l’agent. La solution courante, sur laquelle se trouve l’agent. Les AS de TIS 20

35. Les AS de TIS 22 3.4. Procédure Agent début Synchronisation Procédure d’obtention d’une position de départ (si possible) Procédure de recherche locale Nouvel optimum Non Oui Coordinateur

36. 3.4. Procédure Agent détaillée Début Synchronisation Demande d’une nouvelle position et d’un nouveau pas au coordinateur Oui Non Trop proche d’autres agents? Peut trouver une meilleure solution voisine? Attente que tous les autres agents entrent dans un état Synchronisation Oui Non Synchronisation Se déplacer sur la meilleure solution voisine Adapter le pas par le produit scalaire cumulé Obtention d’une nouvelle position et d’un nouveau pas Réduire le pas Critère d’arrêt d’une recherche locale satisfait? Oui Non Envoi de l’optimum local trouvé au coordinateur Les AS de TIS 23

39. Plan de l’exposé Introduction La thèse Description de MADO Structure générale de MADO Structure d’un agent de MADO La population initiale d’agents Procédure Agent Détection de changement Analyse des performances Sur le MovingPeaks Benchmark Sur le jeu de test de CEC’2009 Conclusions et perspectives Les AS de TIS 25

40. 4.1. Performances sur le MovingPeaks Benchmark (1 / 4) (a) Avant un changement (b) Après un changement Le « MovingPeaks Benchmark » (MPB) consiste en un ensemble de pics dont la hauteur, la largeur et la position peuvent varier au cours du temps (après un certain nombre d’évaluations de la fonction). Ce problème est paramétrable, et a été adopté par une majorité d’auteurs. Les AS de TIS 26 f(x, y) f(x, y) y y x x

41. 4.1. Performances sur le MovingPeaks Benchmark (2 / 4) Convergence de MADO pour chaque time span*. * Time span : Plage d’itérations durant laquelle la fonction objectif ne change pas.Un changement de la fonction objectif se produit ici toutes les 5000 itérations. Les AS de TIS 27 Amplitude itérations changement

42. 4.1. Performances sur le MovingPeaksBenchmark(3 / 4) La précision maximale, choisie par l’utilisateur, est atteinte après 2000 évaluations de la fonction objectif. Convergence moyenne de MADO sur 100 time spans*. * Time span : Plage d’itérations durant laquelle la fonction objectif ne change pas.Un changement de la fonction objectif se produit ici toutes les 5000 itérations. Les AS de TIS 28

43. 4.1. Performances sur le MovingPeaks Benchmark(4 / 4) * Offline error : Moyenne des écarts entre l'optimum global et la meilleure solution trouvée à chaque itération. Une erreur de 0 signifie un suivi parfait de l'optimum. Les AS de TIS 29

45. L’ensemble de ces fonctions est supposé être représentatif de la plupart des problèmes d’optimisation dynamique réels.

46. Divers types de changements, plus ou moins chaotiques et brutaux, ont lieu après un certain nombre d’évaluations de la fonction (comme sur MPB).

47. Ce problème est paramétrable, et a été utilisé lors de la compétition de CEC’2009.Les AS de TIS 30

49. F2: Composition of Sphere's function

50. F3: Composition of Rastrigin's function

51. F4: Composition of Griewank's function

52. F5: Composition of Ackley's function

54. T2: large step

55. T3: random

56. T4: chaotic

57. T5: recurrent

58. T6: recurrent change with noise

59. T7: random change with changed dimension* Time span : Plage d’itérations durant laquelle la fonction objectif ne change pas. Les AS de TIS 31 4.2. Performances sur le jeu de test de CEC’2009(2 / 4)

60. Convergence moyenne de MADO sur chaque classe de fonction. Les AS de TIS 32 4.2. Performances sur le jeu de test de CEC’2009(3 / 4)

61. 4.2. Performances sur le jeu de test de CEC’2009(4 / 4) MADO *Ce benchmark donne un score sur 100 à la fin de son exécution. Les AS de TIS 33

62. Plan de l’exposé Introduction La thèse Description de MADO Structure générale de MADO Structure d’un agent de MADO La population initiale d’agents Procédure Agent Détection de changement Analyse des performances Sur le MovingPeaks Benchmark Sur le jeu de test de CEC’2009 Conclusions et perspectives Les AS de TIS 34

64. On constate que les performances de MADO sur des fonctions hautement multimodales, telles que Rastrigin, sont médiocres.

65. Hormis les difficultés rencontrées sur les fonctions telles que Rastrigin, les performances de MADO sont très encourageantes. On constate en effet que MADO est bien classé dans les comparatifs avec les algorithmes concurrents.

66. Amélioration des performances de MADO sur des problèmes type Rastrigin.

67. Réduction du nombre de paramètres à la charge de l’utilisateur.Les AS de TIS 35

68. Merci de votre attention Les AS de TIS 36