SlideShare une entreprise Scribd logo
1  sur  77
Télécharger pour lire hors ligne
Planification séquentielle
    pour l’estimation de probabilités de défaillance

                            Julien Bect
         En collaboration avec Ling Li et Emmanuel Vazquez

                               SUPELEC


                             4 mai 2010
                     Atelier événements rares
                       GdR MASCOT-NUM



J. Bect (Supélec)        Planification séquentielle     4 mai 2010   1 / 33
Le problème à résoudre. . .

Données du problème
    un domaine X ⊂ Rd compact (espace des facteurs)
    une fonction f : X → R coûteuse à évaluer
    une loi PX sur l’espace des facteurs
    un seuil T ∈ R

On veut calculer

             α(f ) = PX x ∈ X : f (x) > T                =       1f >T dPX
                                                             X




    J. Bect (Supélec)        Planification séquentielle                  4 mai 2010   2 / 33
Le problème à résoudre. . .

Données du problème
     un domaine X ⊂ Rd compact (espace des facteurs)
     une fonction f : X → R coûteuse à évaluer
     une loi PX sur l’espace des facteurs
     un seuil T ∈ R

On veut calculer

              α(f ) = PX x ∈ X : f (x) > T                =       1f >T dPX
                                                              X



Important
Il ne s’agit pas (encore) d’un problème d’inférence statistique !

     J. Bect (Supélec)        Planification séquentielle                  4 mai 2010   2 / 33
Événement rare ?
Fonction coûteuse à évaluer
    par ex., le calcul de f (x) fait appel à un code aux éléments finis
    budget limité d’évaluations
    « rare » ⇒ α(f ) extrêmement petit




     J. Bect (Supélec)        Planification séquentielle       4 mai 2010   3 / 33
Événement rare ?
Fonction coûteuse à évaluer
    par ex., le calcul de f (x) fait appel à un code aux éléments finis
    budget limité d’évaluations
    « rare » ⇒ α(f ) extrêmement petit

État de l’art pré-2004 (thèses : Lagnoux Renaudie, 2006 ; Piera-Martinez, 2008)
     méthodes fondées sur des approximations paramétriques
           ex : FORM/SORM, surface de réponse polynomiale
           économique mais souvent peu précis
     méthodes utilisant l’échantillonnage aléatoire
           Monte-Carlo, échantillonnage préférentiel, stratifié, etc.
           convergentes mais gourmand en évaluations




     J. Bect (Supélec)           Planification séquentielle             4 mai 2010   3 / 33
Événement rare ?
Fonction coûteuse à évaluer
    par ex., le calcul de f (x) fait appel à un code aux éléments finis
    budget limité d’évaluations
    « rare » ⇒ α(f ) extrêmement petit

État de l’art pré-2004 (thèses : Lagnoux Renaudie, 2006 ; Piera-Martinez, 2008)
     méthodes fondées sur des approximations paramétriques
           ex : FORM/SORM, surface de réponse polynomiale
           économique mais souvent peu précis
     méthodes utilisant l’échantillonnage aléatoire
           Monte-Carlo, échantillonnage préférentiel, stratifié, etc.
           convergentes mais gourmand en évaluations


Idée : approche bayésienne non-paramétrique
info. a priori sur f − méthodes convergentes et économiques
                     →

     J. Bect (Supélec)           Planification séquentielle             4 mai 2010   3 / 33
Processus gaussiens / krigeage
Apparition du krigeage en fiabilité (surface de réponse non-paramétrique)
    Romero, Swiler et Giunta (Struct. Safety, 2004)
    Kaymaz (Struct. Safety, 2005)
    Shan et Wang (J. Mech. Design, 2006)




    J. Bect (Supélec)          Planification séquentielle    4 mai 2010   4 / 33
Processus gaussiens / krigeage
Apparition du krigeage en fiabilité (surface de réponse non-paramétrique)
    Romero, Swiler et Giunta (Struct. Safety, 2004)
    Kaymaz (Struct. Safety, 2005)
    Shan et Wang (J. Mech. Design, 2006)

Premiers travaux en planification séquentielle, point de vue bayésien
    Vazquez et Piera-Martinez (JdS 2007), Vazquez et Bect (SYSID’09)
    Picheny, Ginsbourger, Roustant, Haftka (ENBIS’08)
    Picheny, Ginsbourger, Roustant, Haftka et Kim (J. Mech. Design (tbp))
    Ranjan, Bingham et Michailidis (Technometrics, 2008)
    Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008)




     J. Bect (Supélec)         Planification séquentielle        4 mai 2010   4 / 33
Processus gaussiens / krigeage
Apparition du krigeage en fiabilité (surface de réponse non-paramétrique)
     Romero, Swiler et Giunta (Struct. Safety, 2004)
     Kaymaz (Struct. Safety, 2005)
     Shan et Wang (J. Mech. Design, 2006)

Premiers travaux en planification séquentielle, point de vue bayésien
     Vazquez et Piera-Martinez (JdS 2007), Vazquez et Bect (SYSID’09)
     Picheny, Ginsbourger, Roustant, Haftka (ENBIS’08)
     Picheny, Ginsbourger, Roustant, Haftka et Kim (J. Mech. Design (tbp))
     Ranjan, Bingham et Michailidis (Technometrics, 2008)
     Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008)

Dans cet exposé. . .
     une introduction générale au sujet (biaisée)
     les premiers résultats obtenus par Ling Li dans le cadre de sa thèse

     J. Bect (Supélec)          Planification séquentielle        4 mai 2010   4 / 33
1   Formalisme : théorie bayésienne de la décision


2   Processus gaussiens et modèles dérivés


3   Tour d’horizon des stratégies séquentielles existantes


4   Conclusion et perpectives




      J. Bect (Supélec)         Planification séquentielle    4 mai 2010   5 / 33
1   Formalisme : théorie bayésienne de la décision


2   Processus gaussiens et modèles dérivés


3   Tour d’horizon des stratégies séquentielles existantes


4   Conclusion et perpectives




      J. Bect (Supélec)         Planification séquentielle    4 mai 2010   6 / 33
Cadre décisionnel (1/2)

Contrainte : on dispose d’un budget limité de N évaluations.

                          choisir x ∈ X     −
                                            →        obtenir f (x) ∈ R


Questions
  1   comment choisir séquentiellement les entrées x1 , . . . , xN ?
  2   comment estimer α(f ) à partir de f (x1 ), . . . , f (xN ) ?




      J. Bect (Supélec)              Planification séquentielle           4 mai 2010   7 / 33
Cadre décisionnel (1/2)

Contrainte : on dispose d’un budget limité de N évaluations.

                          choisir x ∈ X     −
                                            →        obtenir f (x) ∈ R


Questions
  1   comment choisir séquentiellement les entrées x1 , . . . , xN ?
  2   comment estimer α(f ) à partir de f (x1 ), . . . , f (xN ) ?


Réponse dans un cadre bayésien (pré-requis)
      choix d’une fonction de coût C (α, α) = (α − α)2
                                         ˆ         ˆ
      choix d’une loi a priori pour la fonction f inconnue
      ⇒ f est maintenant vue comme un processus aléatoire ξ !

      J. Bect (Supélec)              Planification séquentielle           4 mai 2010   7 / 33
Cadre décisionnel (2/2)

Notations : X1 , . . . , XN points d’évaluations
     In = X1 , ξ(X1 ), . . . , Xn , ξ(Xn )      info. disponible au temps n
     Fn = σ(In ), α = α(ξ), αn = αn (In )
                            ˆ    ˆ

Réponse dans un cadre bayésien (suite)
On cherche X1 , . . . XN et αN
                            ˆ
     qui minimisent E (α − αN )2
                           ˆ
     avec Xn+1 Fn -mesurable, ∀n ≥ 1




     J. Bect (Supélec)           Planification séquentielle           4 mai 2010   8 / 33
Cadre décisionnel (2/2)

Notations : X1 , . . . , XN points d’évaluations
     In = X1 , ξ(X1 ), . . . , Xn , ξ(Xn )      info. disponible au temps n
     Fn = σ(In ), α = α(ξ), αn = αn (In )
                            ˆ    ˆ

Réponse dans un cadre bayésien (suite)
On cherche X1 , . . . XN et αN
                            ˆ
     qui minimisent E (α − αN )2
                           ˆ
     avec Xn+1 Fn -mesurable, ∀n ≥ 1

Généralisations possibles :
    évaluations en batchs (utile pour paralléliser)
    évaluations bruités (ex : code de calcul à base de MC)
    décisions randomisées, autres critères d’arrêt, etc.

     J. Bect (Supélec)           Planification séquentielle           4 mai 2010   8 / 33
Estimateur optimal

Notations : Pn          P { · | Fn } et En          E { · | Fn }

Meilleur estimateur FN -mesurable (risque quadratique) :

                                     αN = EN (α)
                                     ˆ




    J. Bect (Supélec)              Planification séquentielle       4 mai 2010   9 / 33
Estimateur optimal

Notations : Pn           P { · | Fn } et En          E { · | Fn }

Meilleur estimateur FN -mesurable (risque quadratique) :

                                       αN = EN (α)
                                       ˆ


En posant pn (x) = Pn {ξ(x) > T }, on a

                  αN = EN
                  ˆ                    1f >T dPX           =        pN dPX ,
                                   X                            X


Important
On a transformé un problème de calcul d’intégrale en un autre problème de
calcul d’intégrale ⇒ intéressant si la seconde est plus facile à calculer !


     J. Bect (Supélec)              Planification séquentielle                  4 mai 2010   9 / 33
Estimateurs fondés sur une fonction de classification

On peut aussi chercher un estimateur « plugin » de la forme

                 αN =
                 ˆ          gN dPX ,          avec gN : X → {0, 1}            (1)
                        X


    gN est une fonction de classification dure
    ex : SVM dans la méthode SMART (thèse de F. Deheeger (LaMI))




    J. Bect (Supélec)          Planification séquentielle         4 mai 2010   10 / 33
Estimateurs fondés sur une fonction de classification

On peut aussi chercher un estimateur « plugin » de la forme

                  αN =
                  ˆ          gN dPX ,          avec gN : X → {0, 1}            (1)
                         X


    gN est une fonction de classification dure
    ex : SVM dans la méthode SMART (thèse de F. Deheeger (LaMI))

Meilleure fonction de classification à injecter dans (1) :

                         gN = 1pN >1/2 = 1ξN >T ,
                                          ˆ

     ˆ
avec ξN (x) la médiane a posteriori de ξ(x) (au temps N).



     J. Bect (Supélec)          Planification séquentielle         4 mai 2010   10 / 33
Stratégie bayésienne optimale (1/2)

On fixe un estimateur αN (par ex : αN = EN (α)).
                     ˆ            ˆ

Stratégie bayésienne optimale ?
    stratégie : suite X1 , . . . , XN avec Xn+1 Fn -mesurable
    bayésienne optimale : minimisant E (α − αN )2
                                            ˆ




     J. Bect (Supélec)        Planification séquentielle         4 mai 2010   11 / 33
Stratégie bayésienne optimale (1/2)

On fixe un estimateur αN (par ex : αN = EN (α)).
                     ˆ            ˆ

Stratégie bayésienne optimale ?
    stratégie : suite X1 , . . . , XN avec Xn+1 Fn -mesurable
    bayésienne optimale : minimisant E (α − αN )2
                                            ˆ

Formellement, la solution s’obtient par programmation dynamique
    calcul par récurrence (rétrograde) du risque bayésien

                RN (IN ) = EN (α − αN )2
                                   ˆ
                  Rn (In ) = min En (Rn+1 (In+1 )) ,            n = N − 1, . . . , 1
                             Xn+1

    stratégie optimale : Xn+1 = argmin En (Rn+1 (In+1 ))


     J. Bect (Supélec)              Planification séquentielle               4 mai 2010   11 / 33
Stratégie bayésienne optimale (2/2)

La stratégie optimale fait apparaître un critère d’échantillonnage optimal :

                         Jn (In , Xn+1 )        En (Rn+1 (In+1 ))




     J. Bect (Supélec)             Planification séquentielle        4 mai 2010   12 / 33
Stratégie bayésienne optimale (2/2)

La stratégie optimale fait apparaître un critère d’échantillonnage optimal :

                         Jn (In , Xn+1 )        En (Rn+1 (In+1 ))


Malheureusement. . .

   espace d’état continu, dim. n
                                                        ⇒      calcul exact impossible !
   espace d’actions continu également


Problème
Comment construire de bonnes solutions sous-optimales ?




     J. Bect (Supélec)             Planification séquentielle               4 mai 2010   12 / 33
1   Formalisme : théorie bayésienne de la décision


2   Processus gaussiens et modèles dérivés


3   Tour d’horizon des stratégies séquentielles existantes


4   Conclusion et perpectives




      J. Bect (Supélec)         Planification séquentielle    4 mai 2010   13 / 33
Pourquoi des processus gaussiens ?
verrou
besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn

clé
modèles (a priori) construit à partir de processus gaussiens (GP)




      J. Bect (Supélec)       Planification séquentielle      4 mai 2010   14 / 33
Pourquoi des processus gaussiens ?
verrou
besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn

clé
modèles (a priori) construit à partir de processus gaussiens (GP)

Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . .
      les origines
            prédiction linéaire BLUP (Mathéron, Parzen ; années 60)
            processus de Wiener en optimisation (Kushner, 1964)
            splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71)




      J. Bect (Supélec)          Planification séquentielle       4 mai 2010   14 / 33
Pourquoi des processus gaussiens ?
verrou
besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn

clé
modèles (a priori) construit à partir de processus gaussiens (GP)

Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . .
      les origines
            prédiction linéaire BLUP (Mathéron, Parzen ; années 60)
            processus de Wiener en optimisation (Kushner, 1964)
            splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71)
      1978, année bayésienne
            en stats, trois articles dans JRSS (Wahba, O’Hagan, Leonard)
            en optimisation : critère EI (Mockus, Tiesis, Zilinskas)



      J. Bect (Supélec)          Planification séquentielle       4 mai 2010   14 / 33
Pourquoi des processus gaussiens ?
verrou
besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn

clé
modèles (a priori) construit à partir de processus gaussiens (GP)

Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . .
      les origines
            prédiction linéaire BLUP (Mathéron, Parzen ; années 60)
            processus de Wiener en optimisation (Kushner, 1964)
            splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71)
      1978, année bayésienne
            en stats, trois articles dans JRSS (Wahba, O’Hagan, Leonard)
            en optimisation : critère EI (Mockus, Tiesis, Zilinskas)
      DACE (Design & Analysis of Computer Experiments)
            Sacks et al. (1989), Currin et al. (1991)
      J. Bect (Supélec)           Planification séquentielle      4 mai 2010   14 / 33
Propriété fondamentale des GP


Propriété
                                                  ˆ
Si ξ ∼ GP (m(x), k(x, x ′ )), alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) ,
     ˆ
avec ξn et kn donnés par les équations du krigeage (simple).




     J. Bect (Supélec)        Planification séquentielle        4 mai 2010   15 / 33
Propriété fondamentale des GP


Propriété
                                                  ˆ
Si ξ ∼ GP (m(x), k(x, x ′ )), alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) ,
     ˆ
avec ξn et kn donnés par les équations du krigeage (simple).

Etat de l’art : modèles hiérarchiques construits autour du GP
     « DACE » : krigeage ordinaire + approche bayésienne empirique
     krigeage bayésien (ex : méthodologie BACCO par O’Hagan et collab.)
     treed GP (par Gramacy & Lee)

Note : krigeage bayésien, treed GP ⇒ (RJ)MCMC



     J. Bect (Supélec)        Planification séquentielle        4 mai 2010   15 / 33
Modèle « DACE » (le plus répandu ?)
On considère :
    moyenne constante inconnue m(x) = m ∈ R
    covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ )
propriété (en supposant σ 2 et θ connus)
         ξ | m ∼ GP m, k(x, x ′ )
 Si                                                        ˆ
                                         alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ )
              m ∼ UR
     ˆ
avec ξn et kn donnés par les équations du krigeage (ordinaire).




      J. Bect (Supélec)         Planification séquentielle         4 mai 2010   16 / 33
Modèle « DACE » (le plus répandu ?)
On considère :
    moyenne constante inconnue m(x) = m ∈ R
    covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ )
propriété (en supposant σ 2 et θ connus)
         ξ | m ∼ GP m, k(x, x ′ )
 Si                                                        ˆ
                                         alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ )
              m ∼ UR
     ˆ
avec ξn et kn donnés par les équations du krigeage (ordinaire).

Approche bayésienne empirique : σ 2 et θ sont estimés par MML
(maximisation de la vraisemblance marginale)




      J. Bect (Supélec)         Planification séquentielle         4 mai 2010   16 / 33
Modèle « DACE » (le plus répandu ?)
On considère :
    moyenne constante inconnue m(x) = m ∈ R
    covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ )
propriété (en supposant σ 2 et θ connus)
         ξ | m ∼ GP m, k(x, x ′ )
 Si                                                        ˆ
                                         alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ )
              m ∼ UR
     ˆ
avec ξn et kn donnés par les équations du krigeage (ordinaire).

Approche bayésienne empirique : σ 2 et θ sont estimés par MML
(maximisation de la vraisemblance marginale)
Mise en garde
Les procédures séquentielles qui ré-estiment les paramètres à chaque
étape par MML n’ont, à l’heure actuelle, aucun fondement théorique.

      J. Bect (Supélec)         Planification séquentielle         4 mai 2010   16 / 33
Quelques quantités utiles pour la suite (et faciles à calculer)
            2
Notation : σn (x) = kn (x, x) ; Φ la FR de la loi N (0, 1).

Probabilité de dépassement du seuil T au point x ∈ X :

                                                           ˆ
                                                           ξn (x) − T
              pn (x) = Pn {ξ(x) > T } = 1 − Φ
                                                              σn (x)




     J. Bect (Supélec)         Planification séquentielle            4 mai 2010   17 / 33
Quelques quantités utiles pour la suite (et faciles à calculer)
            2
Notation : σn (x) = kn (x, x) ; Φ la FR de la loi N (0, 1).

Probabilité de dépassement du seuil T au point x ∈ X :

                                                             ˆ
                                                             ξn (x) − T
              pn (x) = Pn {ξ(x) > T } = 1 − Φ
                                                                σn (x)


Probabilité de mauvaise classification au point x ∈ X :
                                                                                   
                                                                       ˆ
                                                                       ξn (x) − T
                         ˆ
 τn (x) = Pn (ξ(x) − T )(ξn (x) − T ) < 0                  = 1 − Φ                 
                                                                          σn (x)


Remarque : τn = min (pn , 1 − pn ).


     J. Bect (Supélec)         Planification séquentielle               4 mai 2010   17 / 33
Illustration
             2

             1

             0

            −1

            −2
                  0   0.1   0.2   0.3       0.4      0.5      0.6   0.7   0.8   0.9     1

             1
       pn




            0.5



             0
                  0   0.1   0.2   0.3       0.4      0.5      0.6   0.7   0.8   0.9     1



            0.4
            0.3
       τn




            0.2
            0.1
             0
                  0   0.1   0.2   0.3       0.4      0.5      0.6   0.7   0.8   0.9     1



    J. Bect (Supélec)                   Planification séquentielle                4 mai 2010   18 / 33
Illustration
             2

             1

             0

            −1

            −2
                  0   0.1   0.2   0.3       0.4      0.5      0.6   0.7   0.8   0.9     1

             1
       pn




            0.5



             0
                  0   0.1   0.2   0.3       0.4      0.5      0.6   0.7   0.8   0.9     1



            0.4
            0.3
       τn




            0.2
            0.1
             0
                  0   0.1   0.2   0.3       0.4      0.5      0.6   0.7   0.8   0.9     1



    J. Bect (Supélec)                   Planification séquentielle                4 mai 2010   18 / 33
1   Formalisme : théorie bayésienne de la décision


2   Processus gaussiens et modèles dérivés


3   Tour d’horizon des stratégies séquentielles existantes


4   Conclusion et perpectives




      J. Bect (Supélec)         Planification séquentielle    4 mai 2010   19 / 33
Stratégies fondées sur une anticipation de k évaluations
Principe général (k-step look-ahead) :

  Jn (In , Xn+1 ) = En   min En+1           . . . min En+k−1 Rn+k (In+k )
                         Xn+2                     Xn+k


                          avec Rn+k un substitut du risque bayésien Rn+k .




     J. Bect (Supélec)          Planification séquentielle         4 mai 2010   20 / 33
Stratégies fondées sur une anticipation de k évaluations
Principe général (k-step look-ahead) :

  Jn (In , Xn+1 ) = En        min En+1          . . . min En+k−1 Rn+k (In+k )
                             Xn+2                     Xn+k


                               avec Rn+k un substitut du risque bayésien Rn+k .

Cas particulier : k = 1 (one-step look-ahead)

                         Jn (In , Xn+1 ) = En          Rn+1 (In+1 )




     J. Bect (Supélec)              Planification séquentielle         4 mai 2010   20 / 33
Stratégies fondées sur une anticipation de k évaluations
Principe général (k-step look-ahead) :

  Jn (In , Xn+1 ) = En        min En+1          . . . min En+k−1 Rn+k (In+k )
                             Xn+2                     Xn+k


                               avec Rn+k un substitut du risque bayésien Rn+k .

Cas particulier : k = 1 (one-step look-ahead)

                         Jn (In , Xn+1 ) = En          Rn+1 (In+1 )


Stratégies OSL proposées dans la littérature :
    SUR (Piera-Martinez & Vazquez, JdS’07 ; Vazquez & Bect, SYSID’09)
    targeted IMSE (Picheny et. al, ENBIS8 (2008), J. Mech. Design (tbp))


     J. Bect (Supélec)              Planification séquentielle         4 mai 2010   20 / 33
SUR : Stepwise Uncertainty Reduction (1/2)

Principe (cf. algorithme IAGO, thèse Villemonteix, 2008)
Chercher à réduire au plus l’incertitude résiduelle.




     J. Bect (Supélec)         Planification séquentielle   4 mai 2010   21 / 33
SUR : Stepwise Uncertainty Reduction (1/2)

Principe (cf. algorithme IAGO, thèse Villemonteix, 2008)
Chercher à réduire au plus l’incertitude résiduelle.

Mise en œuvre
  1   Approximation gloutonne du risque :

      Rn+1 = En+1 (α − αn+1 )2
                       ˆ                     ⇒        Jn = En (α − αn+1 )2
                                                                   ˆ




      J. Bect (Supélec)        Planification séquentielle           4 mai 2010   21 / 33
SUR : Stepwise Uncertainty Reduction (1/2)

Principe (cf. algorithme IAGO, thèse Villemonteix, 2008)
Chercher à réduire au plus l’incertitude résiduelle.

Mise en œuvre
  1   Approximation gloutonne du risque :

      Rn+1 = En+1 (α − αn+1 )2
                       ˆ                     ⇒        Jn = En (α − αn+1 )2
                                                                   ˆ

  2   Calcul d’une borne supérieure
                                                           2
                          J n ≤ En             γn dPX                           (2)
                                           X

  3   Discrétisation et minimisation de la borne (2).


      J. Bect (Supélec)        Planification séquentielle           4 mai 2010   21 / 33
SUR : Stepwise Uncertainty Reduction (2/2)
Expression(s) de la fonction γn :
 αn+1 = En+1 (α)
 ˆ                                                            2
                                                             γn (x) = pn (x) (1 − pn (x))
                                                             variance de l’indicatrice de dépassement

 αn+1 =
 ˆ                                       dPX                  2
                                                             γn (x) = min (pn (x) , 1 − pn (x)) = τn (x)
             X 1ξn >T
                ˆ
                                                             probabilité de mauvais classement
                                         1

                                        0.8
                     (à une cst près)




                                        0.6

                                        0.4

                                        0.2
                     γn




                                                                    1er cas
                                                                    2eme cas
                                         0
                                              0   0.2         0.4        0.6        0.8   1
                                                                    pn
     J. Bect (Supélec)                                  Planification séquentielle             4 mai 2010   22 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  2.5

                                                                                       0.2
   2
                                                                                      0.15
  1.5




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1
                                      −1
   1                                 10
                                                                                      0.05
  0.5
                                              0        0.5            1                      0   5          10   15
                                                                                                     iter
   0

                                                                                        1
                                                                                      10
 −0.5                                     1

                                     0.8
  −1                                                                                    0




                                                                          |ˆ n − α|
                                                                                      10
                                     0.6
                                pn




 −1.5
                                     0.4                                                −1
                                                                                      10




                                                                           α
  −2                                 0.2

                                          0                                             −2
 −2.5                                                                                 10
        0           0.5     1                 0        0.5            1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  2.5

                                                                                       0.2
   2
                                       −1
                                     10                                            0.15
  1.5




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1
   1
                                                                                   0.05
  0.5
                                              0     0.5           1                          0   5          10   15
                                                                                                     iter
   0


 −0.5                                     1
                                                                                   −0.69
                                                                                  10
                                     0.8
  −1




                                                                      |ˆ n − α|
                                                                                   −0.72
                                     0.6                                          10
                                pn




 −1.5
                                     0.4
                                                                                   −0.75




                                                                       α
                                                                                  10
  −2                                 0.2

                                                                                   −0.78
                                          0                                       10
 −2.5
        0           0.5     1                 0     0.5           1                          0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)             Planification séquentielle                                  4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  2.5

                                                                                       0.2
                                      −1.1
   2                                 10
                                                                                      0.15




                                                                            αn
                                Jn
  1.5




                                                                            ˆ
                                      −1.2                                             0.1
                                     10

   1                                                                                  0.05
                                      −1.3
                                     10
  0.5                                         0         0.5           1                       0   5          10   15
                                                                                                      iter

   0
                                          1
                                                                                       −0.7
                                                                                      10
 −0.5                                 0.8




                                                                          |ˆ n − α|
                                      0.6
  −1
                                 pn




                                      0.4




                                                                           α
                                                                                       −0.8
 −1.5                                                                                 10
                                      0.2

                                          0
  −2
        0           0.5     1                 0         0.5           1                       0   5          10   15
                                                                                                      iter


        J. Bect (Supélec)                 Planification séquentielle                               4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  2.5                                 −1.1
                                     10
                                                                                       0.2
   2
                                      −1.2                                            0.15
                                     10




                                                                            αn
                                Jn
  1.5




                                                                            ˆ
                                                                                       0.1

                                      −1.3
   1                                 10
                                                                                      0.05


  0.5                                         0         0.5           1                       0   5          10   15
                                                                                                      iter

   0
                                          1                                            −0.7
                                                                                      10
 −0.5                                 0.8




                                                                          |ˆ n − α|
                                      0.6
  −1
                                 pn




                                                                                       −0.8
                                                                                      10
                                      0.4




                                                                           α
 −1.5
                                      0.2

                                          0                                            −0.9
                                                                                      10
  −2
        0           0.5     1                 0         0.5           1                       0   5          10   15
                                                                                                      iter


        J. Bect (Supélec)                 Planification séquentielle                               4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  1.5                                 −1.4
                                     10
                                                                                       0.2

                                      −1.5
   1                                 10                                               0.15




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1
                                      −1.6
  0.5                                10
                                                                                      0.05


   0                                          0         0.5           1                      0   5          10   15
                                                                                                     iter


 −0.5                                                                                   0
                                                                                      10
                                          1

                                      0.8
  −1




                                                                          |ˆ n − α|
                                      0.6
                                                                                        −1
                                                                                      10
                                 pn




                                      0.4
 −1.5




                                                                           α
                                      0.2

                                          0                                             −2
  −2                                                                                  10
        0           0.5     1                 0         0.5           1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  1.5
                                      −1.6
                                     10                                                0.2

   1                                                                                  0.15
                                      −1.7




                                                                          αn
                                     10




                                Jn




                                                                          ˆ
                                                                                       0.1
  0.5
                                      −1.8
                                     10                                               0.05


   0                                          0         0.5           1                      0   5          10   15
                                                                                                     iter


 −0.5                                                                                   0
                                                                                      10
                                          1

                                      0.8
  −1




                                                                          |ˆ n − α|
                                      0.6
                                                                                        −1
                                                                                      10
                                 pn




                                      0.4
 −1.5




                                                                           α
                                      0.2

                                          0                                             −2
  −2                                                                                  10
        0           0.5     1                 0         0.5           1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
  1.5

                                                                                       0.2


   1                                                                                  0.15
                                      −2




                                                                          αn
                                     10




                                Jn




                                                                          ˆ
                                                                                       0.1

  0.5                                                                                 0.05


                                              0        0.5            1                      0   5          10   15
                                                                                                     iter
   0

                                                                                        0
                                                                                      10
                                          1

 −0.5                                0.8
                                                                                        −1




                                                                          |ˆ n − α|
                                                                                      10
                                     0.6
                                pn




  −1                                 0.4                                                −2
                                                                                      10




                                                                           α
                                     0.2

                                          0                                             −3
 −1.5                                                                                 10
        0           0.5     1                 0        0.5            1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
 1.5
                                         −2
                                        10
                                                                                                  0.2


  1                                                                                              0.15




                                                                                     αn
                                   Jn




                                                                                     ˆ
                                                                                                  0.1

 0.5                                                                                             0.05


                                                 0             0.5               1                      0   5          10    15
                                                                                                                iter
  0

                                                                                                   0
                                                                                                 10
                                             1

−0.5                                    0.8
                                                                                                   −1




                                                                                     |ˆ n − α|
                                                                                                 10
                                        0.6
                                   pn




 −1                                     0.4                                                        −2
                                                                                                 10


                                                                                      α
                                        0.2

                                             0                                                     −3
−1.5                                                                                             10
       0            0.5        1                 0             0.5               1                      0   5          10    15
                                                                                                                iter


           J. Bect (Supélec)                         Planification séquentielle                                  4 mai 2010        23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
 1.5

                                         −2.5                                                 0.2
                                        10


  1                                      −2.6                                                0.15
                                        10




                                                                                 αn
                                   Jn




                                                                                 ˆ
                                         −2.7                                                 0.1
                                        10

 0.5                                     −2.8                                                0.05
                                        10

                                                 0          0.5              1                      0   5           10   15
                                                                                                             iter
  0

                                                                                               0
                                                                                             10
                                             1

−0.5                                     0.8
                                                                                               −1




                                                                                 |ˆ n − α|
                                                                                             10
                                         0.6
                                    pn




 −1                                      0.4                                                   −2
                                                                                             10



                                                                                  α
                                         0.2

                                             0                                                 −3
−1.5                                                                                         10
       0             0.5       1                 0          0.5              1                      0   5           10   15
                                                                                                             iter


           J. Bect (Supélec)                     Planification séquentielle                                  4 mai 2010        23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
   1

                                                                                           0.2
                                          −3.2
                                         10
                                                                                          0.15
  0.5




                                                                              αn
                                    Jn




                                                                              ˆ
                                          −3.4
                                         10                                                0.1


                                                                                          0.05
                                          −3.6
   0                                     10

                                                  0       0.5             1                      0   5           10   15
                                                                                                          iter


                                                                                            0
                                                                                          10
 −0.5                                         1

                                          0.8
                                                                                            −1




                                                                              |ˆ n − α|
                                                                                          10
                                          0.6
                                     pn




  −1
                                          0.4                                               −2
                                                                                          10



                                                                               α
                                          0.2

                                              0                                             −3
 −1.5                                                                                     10
        0             0.5       1                 0       0.5             1                      0   5           10   15
                                                                                                          iter


            J. Bect (Supélec)                 Planification séquentielle                                  4 mai 2010        23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
   1
                                          −3.5
                                         10
                                                                                           0.2


                                                                                          0.15
                                          −3.7
  0.5                                    10




                                                                              αn
                                    Jn




                                                                              ˆ
                                                                                           0.1


                                          −3.9                                            0.05
                                         10
   0
                                                  0        0.5            1                      0   5          10   15
                                                                                                         iter


                                                                                            0
                                                                                          10
 −0.5                                         1

                                          0.8
                                                                                            −1




                                                                              |ˆ n − α|
                                                                                          10
                                          0.6
                                     pn




  −1
                                          0.4                                               −2
                                                                                          10




                                                                               α
                                          0.2

                                              0                                             −3
 −1.5                                                                                     10
        0              0.5      1                 0        0.5            1                      0   5          10   15
                                                                                                         iter


            J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010       23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
   1

                                                                                       0.2
                                      −4
                                     10
                                                                                      0.15
  0.5




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1


                                                                                      0.05
   0
                                              0        0.5            1                      0   5            10   15
                                                                                                       iter


                                                                                        0
                                                                                      10
 −0.5                                     1

                                     0.8
                                                                                        −1




                                                                          |ˆ n − α|
                                                                                      10
                                     0.6
                                pn




  −1
                                     0.4                                                −2
                                                                                      10



                                                                           α
                                     0.2

                                          0                                             −3
 −1.5                                                                                 10
        0          0.5      1                 0        0.5            1                      0   5            10   15
                                                                                                       iter


        J. Bect (Supélec)                 Planification séquentielle                                  4 mai 2010     23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
   1

                                                                                       0.2


                                                                                      0.15
  0.5




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1


                                      −5                                              0.05
                                     10
   0
                                              0        0.5            1                      0   5          10   15
                                                                                                     iter


                                                                                        0
                                                                                      10
 −0.5                                     1

                                     0.8                                                −1
                                                                                      10




                                                                          |ˆ n − α|
                                     0.6
                                                                                        −2
                                                                                      10
                                pn




  −1
                                     0.4




                                                                           α
                                                                                        −3
                                     0.2                                              10


                                          0                                             −4
 −1.5                                                                                 10
        0           0.5     1                 0        0.5            1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
   1

                                                                                       0.2


                                                                                      0.15
  0.5




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1


                                                                                      0.05
                                      −6
   0                                 10
                                              0        0.5            1                      0   5          10   15
                                                                                                     iter


                                                                                        0
                                                                                      10
 −0.5                                     1

                                     0.8                                                −1
                                                                                      10




                                                                          |ˆ n − α|
                                     0.6
                                                                                        −2
                                                                                      10
                                pn




  −1
                                     0.4




                                                                           α
                                                                                        −3
                                     0.2                                              10


                                          0                                             −4
 −1.5                                                                                 10
        0           0.5     1                 0        0.5            1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2%
   1

                                                                                       0.2


                                                                                      0.15
  0.5




                                                                          αn
                                Jn




                                                                          ˆ
                                                                                       0.1


                                                                                      0.05
                                      −7
   0                                 10
                                              0        0.5            1                      0   5          10   15
                                                                                                     iter


                                                                                        0
                                                                                      10
 −0.5                                     1

                                     0.8




                                                                          |ˆ n − α|
                                     0.6
                                pn




  −1
                                     0.4




                                                                           α
                                     0.2

                                          0                                             −5
 −1.5                                                                                 10
        0           0.5     1                 0        0.5            1                      0   5          10   15
                                                                                                     iter


        J. Bect (Supélec)                 Planification séquentielle                              4 mai 2010      23 / 33
Targeted IMSE
Méthode fondée sur l’IMSE pondéré :

                                              2
                    Rn+1 (In+1 ) =           σn+1 (x) Wn+1 (x) dPX
                                         X

                        où g est une fenêtre ≥ 0 et Wn+1 (x) = En+1 g (ξ(x) − T )




    J. Bect (Supélec)              Planification séquentielle         4 mai 2010   24 / 33
Targeted IMSE
Méthode fondée sur l’IMSE pondéré :

                                                  2
                     Rn+1 (In+1 ) =              σn+1 (x) Wn+1 (x) dPX
                                             X

                          où g est une fenêtre ≥ 0 et Wn+1 (x) = En+1 g (ξ(x) − T )

Le critère d’échantillonnage correspondant s’écrit :

                                                      2
                         Jn (In , Xn+1 ) =           σn+1 (x) Wn (x) dPX
                                                 X


Pondération recommendée par les auteurs :

                           z2                                                      (ξn (x)−T )2
                                                                                    ˆ
                     −       2                                    1            1
                                                                              −2     2   2
      g (z) = e           2 σε   ⇒    Wn (x) ∝                            e         σε +σn (x)
                                                             2    2
                                                            σε + σn (x)


     J. Bect (Supélec)                Planification séquentielle                    4 mai 2010     24 / 33
Une comparaison des critères existants : protocole

    X = [0; 1] avec PX = U[0;1]

    comparaison en moyenne sur 4000 trajectoires d’un GP
          GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1)
          les algos utilisent la vraie fonction de covariance
          T de façon à ce que α = 2%.




    J. Bect (Supélec)          Planification séquentielle        4 mai 2010   25 / 33
Une comparaison des critères existants : protocole

    X = [0; 1] avec PX = U[0;1]

    comparaison en moyenne sur 4000 trajectoires d’un GP
          GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1)
          les algos utilisent la vraie fonction de covariance
          T de façon à ce que α = 2%.

    version discrétisée du problème (« méta-estimation »)
                        iid
          Y1 , . . . , Ym ∼ PX (m = 500)
                                                     1
          on veut estimer l’estimateur αm =          m        j   1ξ(Yj )>T
                                                                          1
          on travaille sur X = {Y1 , . . . , Ym } avec Pm =
                              m
                                                        X                 m   j   δYj




    J. Bect (Supélec)             Planification séquentielle                       4 mai 2010   25 / 33
Une comparaison des critères existants : protocole

    X = [0; 1] avec PX = U[0;1]

    comparaison en moyenne sur 4000 trajectoires d’un GP
          GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1)
          les algos utilisent la vraie fonction de covariance
          T de façon à ce que α = 2%.

    version discrétisée du problème (« méta-estimation »)
                        iid
          Y1 , . . . , Ym ∼ PX (m = 500)
                                                     1
          on veut estimer l’estimateur αm =          m        j   1ξ(Yj )>T
                                                                          1
          on travaille sur X = {Y1 , . . . , Ym } avec Pm =
                              m
                                                        X                 m   j   δYj

    autres critères comparés (en plus de SUR et targeted IMSE)
          Ranjan, Bingham et Michailidis (Technometrics 2008)
          Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008)
          Echard, Gayton et Lemaire (Journées Nat. de Fiabilité, 2010)

    J. Bect (Supélec)             Planification séquentielle                       4 mai 2010   25 / 33
Une comparaison des critères existants : resultats (1/2)


                   10




                    0
       MSE (dB)




                  −10




                  −20




                  −30   SUR
                        tIMSE, σε = 0
                        tIMSE, σε = 0.1
                        tIMSE, σε = 1.0
                  −40
                          5         10            15             20   25         30
                                          nb évaluations
    J. Bect (Supélec)                Planification séquentielle             4 mai 2010   26 / 33
Une comparaison des critères existants : resultats (2/2)


                   10




                    0
       MSE (dB)




                  −10




                  −20



                        SUR
                  −30   tIMSE, σε = 0
                        Ranjan
                        Bichon
                        Echard
                  −40
                           5        10           15             20   25         30
                                         nb évaluations
    J. Bect (Supélec)               Planification séquentielle             4 mai 2010   27 / 33
Conclusions



A retenir :
     Prise en compte d’information a priori sur f , dans un cadre bayésien
     non-paramétrique − méthodes qui convergent rapidement
                       →

     L’approche déplace le problème d’intégration mais ne le supprime pas
     − complément aux méthodes existantes (par ex. Monte Carlo)
     →

     Les premières études empiriques montrent le potentiel des stratégies
     one-step look-ahead (SUR, targeted IMSE)




     J. Bect (Supélec)        Planification séquentielle      4 mai 2010   28 / 33
Conclusions



A retenir :
     Prise en compte d’information a priori sur f , dans un cadre bayésien
     non-paramétrique − méthodes qui convergent rapidement
                       →

     L’approche déplace le problème d’intégration mais ne le supprime pas
     − complément aux méthodes existantes (par ex. Monte Carlo)
     →

     Les premières études empiriques montrent le potentiel des stratégies
     one-step look-ahead (SUR, targeted IMSE)




     J. Bect (Supélec)        Planification séquentielle      4 mai 2010   28 / 33
Conclusions



A retenir :
     Prise en compte d’information a priori sur f , dans un cadre bayésien
     non-paramétrique − méthodes qui convergent rapidement
                       →

     L’approche déplace le problème d’intégration mais ne le supprime pas
     − complément aux méthodes existantes (par ex. Monte Carlo)
     →

     Les premières études empiriques montrent le potentiel des stratégies
     one-step look-ahead (SUR, targeted IMSE)




     J. Bect (Supélec)        Planification séquentielle      4 mai 2010   28 / 33
Perspectives

    Mieux exploiter la complémentarité bayésienne/fréquentiste
          méta-estimation − intervalles de confiance
                          →
                 papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . )
          combinaison GP / techniques d’échantillonnage aléatoire
                 cf. exposé de Pierre Barbillon à MASCOT-NUM 2010




    J. Bect (Supélec)              Planification séquentielle             4 mai 2010      29 / 33
Perspectives

    Mieux exploiter la complémentarité bayésienne/fréquentiste
          méta-estimation − intervalles de confiance
                          →
                 papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . )
          combinaison GP / techniques d’échantillonnage aléatoire
                 cf. exposé de Pierre Barbillon à MASCOT-NUM 2010


    Poursuivre l’analyse des stratégies de planification
          en simulation & sur cas tests industriels
                 collaboration SUPELEC / B. Iooss (code Cathare)
                 D. Ginsbourger et collab. : projet de toolbox libre (R) ?
          sur le plan théorique
                 convergence, vitesse de convergence




    J. Bect (Supélec)              Planification séquentielle             4 mai 2010      29 / 33
Perspectives

    Mieux exploiter la complémentarité bayésienne/fréquentiste
          méta-estimation − intervalles de confiance
                          →
                 papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . )
          combinaison GP / techniques d’échantillonnage aléatoire
                 cf. exposé de Pierre Barbillon à MASCOT-NUM 2010


    Poursuivre l’analyse des stratégies de planification
          en simulation & sur cas tests industriels
                 collaboration SUPELEC / B. Iooss (code Cathare)
                 D. Ginsbourger et collab. : projet de toolbox libre (R) ?
          sur le plan théorique
                 convergence, vitesse de convergence


    En cours : thèse de Li Ling (financement projet CSDL)


    J. Bect (Supélec)              Planification séquentielle             4 mai 2010      29 / 33
Bibliographie


Références traitant de la stratégie SUR :

    E. Vazquez et M. Piera-Martinez, Estimation du volume des ensembles d’excursion
    d’un processus gaussien par krigeage intrinsèque, 39èmes Journées de Statistiques
    (JdS 2007), CD-ROM proceedings, Angers (France), 11–15 juin 2007 [clickme]

    M. Piera-Martinez, Modélisation des comportements extrêmes en ingénierie, Thèse
    de l’Université Paris-Sud 11 / Supélec, 29 septembre 2008 [clickme]

    E. Vazquez et J. Bect, A sequential Bayesian algorithm to estimate a probability of
    failure, 15th IFAC Symposium on System Identification (SYSID 2009), Saint-Malo,
    France. IFAC-PapersOnLine / Elsevier, 2009 [clickme]




     J. Bect (Supélec)           Planification séquentielle                4 mai 2010   30 / 33
Bibliographie


Références traitant de la stratégie targeted IMSE :
    V. Picheny, D. Ginsbourger, O. Roustant et R.T. Haftka, Iterative Designs of
    experiments for constraint approximation, 8th European Network for Business and
    Industrial Statistics conference (ENBIS8), CD-ROM proceedings, Athènes (Grèce),
    21–25 septembre 2008

    V. Picheny, D. Ginsbourger, O. Roustant, R.T. Haftka et N.-H. Kim, Adaptive
    designs of experiments for accurate approximation of target regions, Journal of
    Mechanical Design, to be published [clickme]

    V. Picheny, Improving accuracy and compensating for uncertainty in surrogate
    modeling, Thèse de l’École Nationale Supérieure des Mines de Saint-Etienne, 15
    décembre 2009 [clickme]




     J. Bect (Supélec)            Planification séquentielle          4 mai 2010    31 / 33
Bibliographie


Autres références décrivant des stratégies séquentielles :
     P. Ranjan, D. Bingham et G. Michailidis, Sequential experiment design for contour
     estimation from complex computer codes, Technometrics, 50(4), 527–541, 2008
     [clickme]


     B. J. Bichon, M. S. Eldred, L. P. Swiler, S. Mahadevan et J. M. McFarland,
     Efficient global reliability analysis for nonlinear implicit performance functions,
     AIAA Journal, 46(10), 2459–2468, 2008 [clickme]

     B. Echart, N. Gayton et M. Lemaire, Kriging based Monte Carlo simulation to
     compute the probability of failure efficiently : the AK-MCS methods, 6èmes
     Journées Nationales de Fiabilité, Toulouse, France, 2010




     J. Bect (Supélec)             Planification séquentielle             4 mai 2010      32 / 33
Bibliographie


Apparition du krigeage en fiabilité :
    V. J. Romero, L. P. Swiler et A. A. Giunta, Construction of response surfaces
    based on progressive-lattice-sampling experimental designs with application to
    uncertainty propagation, Structural Safety, 26(2), 201–219, 2004   [clickme]


    I. Kaymaz, Application of kriging method to structural reliability problems,
    Structural Safety, 27(2), 133–151, 2005      [clickme]


    S. Shan et G. G. Wang, Failure surface frontier for reliability assessment on
    expensive performance function, Journal of Mechanical Design, 128(6),
    1227–1236, 2006 [clickme]




     J. Bect (Supélec)           Planification séquentielle             4 mai 2010    33 / 33

Contenu connexe

Tendances

Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017
Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017
Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017Ahmed Ammar Rebai PhD
 
M2 An 1986 20 3 371 0
M2 An 1986  20 3 371 0M2 An 1986  20 3 371 0
M2 An 1986 20 3 371 0guest8b8369
 
Sujet et Correction épreuve de mathématiques ESSEC ECE 2012
Sujet et Correction épreuve de mathématiques ESSEC ECE 2012Sujet et Correction épreuve de mathématiques ESSEC ECE 2012
Sujet et Correction épreuve de mathématiques ESSEC ECE 2012Ahmed Ammar Rebai PhD
 
Euclidien12octobre
Euclidien12octobreEuclidien12octobre
Euclidien12octobreche7t
 
Exercices+2010 11
Exercices+2010 11Exercices+2010 11
Exercices+2010 11hassan1488
 
Algèbre linéaire cours et exercices corrigés djeddi kamel mostafa
Algèbre linéaire cours et exercices corrigés djeddi kamel mostafaAlgèbre linéaire cours et exercices corrigés djeddi kamel mostafa
Algèbre linéaire cours et exercices corrigés djeddi kamel mostafaKamel Djeddi
 
Math%E9matiques%20 Ct
Math%E9matiques%20 CtMath%E9matiques%20 Ct
Math%E9matiques%20 Ctglenoo
 
Traitement de données fonctionnelles par Support Vector Machine
Traitement de données fonctionnelles par Support Vector MachineTraitement de données fonctionnelles par Support Vector Machine
Traitement de données fonctionnelles par Support Vector Machinetuxette
 
Discrimination de courbes par SVM
Discrimination de courbes par SVMDiscrimination de courbes par SVM
Discrimination de courbes par SVMtuxette
 
Planification et analyse d'expériences numériques: approche bayésienne
Planification et analyse d'expériences numériques: approche bayésiennePlanification et analyse d'expériences numériques: approche bayésienne
Planification et analyse d'expériences numériques: approche bayésienneJulien Bect
 
Matrices
MatricesMatrices
Matricesbades12
 
CHAPITRE VIII : Systèmes linéaires Modélisation & Simulation
CHAPITRE VIII :  Systèmes linéaires Modélisation & SimulationCHAPITRE VIII :  Systèmes linéaires Modélisation & Simulation
CHAPITRE VIII : Systèmes linéaires Modélisation & SimulationMohammed TAMALI
 
La complexité des algorithmes récursives Géométrie algorithmique
La complexité des algorithmes récursivesGéométrie algorithmiqueLa complexité des algorithmes récursivesGéométrie algorithmique
La complexité des algorithmes récursives Géométrie algorithmiqueHajer Trabelsi
 
Espace vectoriel euclidien
Espace vectoriel euclidienEspace vectoriel euclidien
Espace vectoriel euclidienTanger Outlets
 
Recherche à voisinage variable
Recherche à voisinage variableRecherche à voisinage variable
Recherche à voisinage variableMohammed Mansouri
 
Aates ch08 lois-a-densite
Aates ch08 lois-a-densiteAates ch08 lois-a-densite
Aates ch08 lois-a-densiteManar Sefiane
 

Tendances (20)

Théo inf
Théo infThéo inf
Théo inf
 
Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017
Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017
Epreuve de mathématiques informatique (modélisation) Agro/Véto BCPST 2017
 
M2 An 1986 20 3 371 0
M2 An 1986  20 3 371 0M2 An 1986  20 3 371 0
M2 An 1986 20 3 371 0
 
Sujet et Correction épreuve de mathématiques ESSEC ECE 2012
Sujet et Correction épreuve de mathématiques ESSEC ECE 2012Sujet et Correction épreuve de mathématiques ESSEC ECE 2012
Sujet et Correction épreuve de mathématiques ESSEC ECE 2012
 
Euclidien12octobre
Euclidien12octobreEuclidien12octobre
Euclidien12octobre
 
Exercices+2010 11
Exercices+2010 11Exercices+2010 11
Exercices+2010 11
 
Algèbre linéaire cours et exercices corrigés djeddi kamel mostafa
Algèbre linéaire cours et exercices corrigés djeddi kamel mostafaAlgèbre linéaire cours et exercices corrigés djeddi kamel mostafa
Algèbre linéaire cours et exercices corrigés djeddi kamel mostafa
 
Math%E9matiques%20 Ct
Math%E9matiques%20 CtMath%E9matiques%20 Ct
Math%E9matiques%20 Ct
 
Traitement de données fonctionnelles par Support Vector Machine
Traitement de données fonctionnelles par Support Vector MachineTraitement de données fonctionnelles par Support Vector Machine
Traitement de données fonctionnelles par Support Vector Machine
 
Discrimination de courbes par SVM
Discrimination de courbes par SVMDiscrimination de courbes par SVM
Discrimination de courbes par SVM
 
9782100576692 extrait
9782100576692 extrait9782100576692 extrait
9782100576692 extrait
 
Planification et analyse d'expériences numériques: approche bayésienne
Planification et analyse d'expériences numériques: approche bayésiennePlanification et analyse d'expériences numériques: approche bayésienne
Planification et analyse d'expériences numériques: approche bayésienne
 
C4 spec-adt
C4 spec-adtC4 spec-adt
C4 spec-adt
 
Matrices
MatricesMatrices
Matrices
 
integration
integrationintegration
integration
 
CHAPITRE VIII : Systèmes linéaires Modélisation & Simulation
CHAPITRE VIII :  Systèmes linéaires Modélisation & SimulationCHAPITRE VIII :  Systèmes linéaires Modélisation & Simulation
CHAPITRE VIII : Systèmes linéaires Modélisation & Simulation
 
La complexité des algorithmes récursives Géométrie algorithmique
La complexité des algorithmes récursivesGéométrie algorithmiqueLa complexité des algorithmes récursivesGéométrie algorithmique
La complexité des algorithmes récursives Géométrie algorithmique
 
Espace vectoriel euclidien
Espace vectoriel euclidienEspace vectoriel euclidien
Espace vectoriel euclidien
 
Recherche à voisinage variable
Recherche à voisinage variableRecherche à voisinage variable
Recherche à voisinage variable
 
Aates ch08 lois-a-densite
Aates ch08 lois-a-densiteAates ch08 lois-a-densite
Aates ch08 lois-a-densite
 

En vedette

Fuerza aerea de los estados unidos
Fuerza aerea de los estados unidosFuerza aerea de los estados unidos
Fuerza aerea de los estados unidosnanytam1
 
Taller 3 internet
Taller 3 internetTaller 3 internet
Taller 3 internetinty09
 
Les aventures de BOND
Les aventures de BONDLes aventures de BOND
Les aventures de BONDCurrante
 
Cable reference id #06 caracas3356
Cable reference id  #06 caracas3356Cable reference id  #06 caracas3356
Cable reference id #06 caracas3356Tom Pereira
 
Merkado - Prospérez dans un monde instable
Merkado - Prospérez dans un monde instableMerkado - Prospérez dans un monde instable
Merkado - Prospérez dans un monde instableJuan Carlos Sanchez
 
Fotografies més boniques
Fotografies més boniquesFotografies més boniques
Fotografies més boniquesPaquivoramar
 
Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...
Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...
Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...OUADA Yazid
 
Professions
ProfessionsProfessions
ProfessionsCurrante
 
Resumen recoleccion de ddatos
Resumen recoleccion de ddatosResumen recoleccion de ddatos
Resumen recoleccion de ddatosrcromero2011
 
Carús rodolfo
Carús rodolfoCarús rodolfo
Carús rodolfolarafratti
 
Grecia - año jubilar de san pablo
Grecia - año jubilar de san pabloGrecia - año jubilar de san pablo
Grecia - año jubilar de san pabloMario Schilman
 
Presentacion 3
Presentacion 3Presentacion 3
Presentacion 3nletty
 

En vedette (20)

Fuerza aerea de los estados unidos
Fuerza aerea de los estados unidosFuerza aerea de los estados unidos
Fuerza aerea de los estados unidos
 
Coreps AIO - journée d'information avril 2010
Coreps AIO - journée d'information avril 2010Coreps AIO - journée d'information avril 2010
Coreps AIO - journée d'information avril 2010
 
Taller 3 informatica
Taller 3 informaticaTaller 3 informatica
Taller 3 informatica
 
Taller 3 internet
Taller 3 internetTaller 3 internet
Taller 3 internet
 
Les aventures de BOND
Les aventures de BONDLes aventures de BOND
Les aventures de BOND
 
Cable reference id #06 caracas3356
Cable reference id  #06 caracas3356Cable reference id  #06 caracas3356
Cable reference id #06 caracas3356
 
Merkado - Prospérez dans un monde instable
Merkado - Prospérez dans un monde instableMerkado - Prospérez dans un monde instable
Merkado - Prospérez dans un monde instable
 
Fotografies més boniques
Fotografies més boniquesFotografies més boniques
Fotografies més boniques
 
Eyelipsface
EyelipsfaceEyelipsface
Eyelipsface
 
Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...
Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...
Communication - Mme Khadidja TAOUSSI, Directrice management de la qualité et ...
 
Micolo gi a
Micolo gi aMicolo gi a
Micolo gi a
 
Professions
ProfessionsProfessions
Professions
 
Rosiris ortega
Rosiris ortegaRosiris ortega
Rosiris ortega
 
Resumen recoleccion de ddatos
Resumen recoleccion de ddatosResumen recoleccion de ddatos
Resumen recoleccion de ddatos
 
Microsoft excel 4
Microsoft excel 4Microsoft excel 4
Microsoft excel 4
 
Aula2
Aula2Aula2
Aula2
 
Utilisation papier
Utilisation papierUtilisation papier
Utilisation papier
 
Carús rodolfo
Carús rodolfoCarús rodolfo
Carús rodolfo
 
Grecia - año jubilar de san pablo
Grecia - año jubilar de san pabloGrecia - año jubilar de san pablo
Grecia - año jubilar de san pablo
 
Presentacion 3
Presentacion 3Presentacion 3
Presentacion 3
 

Similaire à Planification séquentielle pour l'estimation de probabilités de défaillance

Exam of June 2016, Mathematical Statistics 3rd year
Exam of June 2016, Mathematical Statistics 3rd yearExam of June 2016, Mathematical Statistics 3rd year
Exam of June 2016, Mathematical Statistics 3rd yearChristian Robert
 
Modèles numériques coûteux : de la quantification des incertitudes la planifi...
Modèles numériques coûteux : de la quantification des incertitudes la planifi...Modèles numériques coûteux : de la quantification des incertitudes la planifi...
Modèles numériques coûteux : de la quantification des incertitudes la planifi...Julien Bect
 
analyse numerique
analyse numeriqueanalyse numerique
analyse numeriquehomme00
 
Résolution numérique de l'équation de Black Scholes en python
Résolution numérique de l'équation de Black Scholes en pythonRésolution numérique de l'équation de Black Scholes en python
Résolution numérique de l'équation de Black Scholes en pythonAli SIDIBE
 
Journ_e_des_th_sards_2017.pdf
Journ_e_des_th_sards_2017.pdfJourn_e_des_th_sards_2017.pdf
Journ_e_des_th_sards_2017.pdfAmine Hadj-Youcef
 
Journ_e_des_Doctorants__JDD_.pdf
Journ_e_des_Doctorants__JDD_.pdfJourn_e_des_Doctorants__JDD_.pdf
Journ_e_des_Doctorants__JDD_.pdfAmine Hadj-Youcef
 
Chap13 fin--ts-exp
Chap13  fin--ts-expChap13  fin--ts-exp
Chap13 fin--ts-expsikora233
 
slides statistique mathématique.pdf
slides statistique mathématique.pdfslides statistique mathématique.pdf
slides statistique mathématique.pdfFadwaZiani
 
Intro_DeepLearning.pdf
Intro_DeepLearning.pdfIntro_DeepLearning.pdf
Intro_DeepLearning.pdfAmou5
 
Traitement des données massives (INF442, A4)
Traitement des données massives (INF442, A4)Traitement des données massives (INF442, A4)
Traitement des données massives (INF442, A4)Frank Nielsen
 
Chapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdfChapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdfMbarkiIsraa
 
Rappels math - www.coursdefsjes.com
Rappels math - www.coursdefsjes.comRappels math - www.coursdefsjes.com
Rappels math - www.coursdefsjes.comcours fsjes
 

Similaire à Planification séquentielle pour l'estimation de probabilités de défaillance (20)

Actuariat et Données
Actuariat et DonnéesActuariat et Données
Actuariat et Données
 
Théorie des distributions
Théorie des distributionsThéorie des distributions
Théorie des distributions
 
Exam of June 2016, Mathematical Statistics 3rd year
Exam of June 2016, Mathematical Statistics 3rd yearExam of June 2016, Mathematical Statistics 3rd year
Exam of June 2016, Mathematical Statistics 3rd year
 
Modèles numériques coûteux : de la quantification des incertitudes la planifi...
Modèles numériques coûteux : de la quantification des incertitudes la planifi...Modèles numériques coûteux : de la quantification des incertitudes la planifi...
Modèles numériques coûteux : de la quantification des incertitudes la planifi...
 
analyse numerique
analyse numeriqueanalyse numerique
analyse numerique
 
Ch1 anal fonc17-18
Ch1 anal fonc17-18Ch1 anal fonc17-18
Ch1 anal fonc17-18
 
Résolution numérique de l'équation de Black Scholes en python
Résolution numérique de l'équation de Black Scholes en pythonRésolution numérique de l'équation de Black Scholes en python
Résolution numérique de l'équation de Black Scholes en python
 
Journ_e_des_th_sards_2017.pdf
Journ_e_des_th_sards_2017.pdfJourn_e_des_th_sards_2017.pdf
Journ_e_des_th_sards_2017.pdf
 
Journ_e_des_Doctorants__JDD_.pdf
Journ_e_des_Doctorants__JDD_.pdfJourn_e_des_Doctorants__JDD_.pdf
Journ_e_des_Doctorants__JDD_.pdf
 
cours2.pdf
cours2.pdfcours2.pdf
cours2.pdf
 
Chap13 fin--ts-exp
Chap13  fin--ts-expChap13  fin--ts-exp
Chap13 fin--ts-exp
 
slides statistique mathématique.pdf
slides statistique mathématique.pdfslides statistique mathématique.pdf
slides statistique mathématique.pdf
 
Intro_DeepLearning.pdf
Intro_DeepLearning.pdfIntro_DeepLearning.pdf
Intro_DeepLearning.pdf
 
Exam 0607
Exam 0607Exam 0607
Exam 0607
 
Traitement des données massives (INF442, A4)
Traitement des données massives (INF442, A4)Traitement des données massives (INF442, A4)
Traitement des données massives (INF442, A4)
 
Oc1 2013
Oc1 2013Oc1 2013
Oc1 2013
 
Espaces vecs
Espaces vecs Espaces vecs
Espaces vecs
 
Comment faire disparaître les rides
Comment faire disparaître les ridesComment faire disparaître les rides
Comment faire disparaître les rides
 
Chapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdfChapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdf
 
Rappels math - www.coursdefsjes.com
Rappels math - www.coursdefsjes.comRappels math - www.coursdefsjes.com
Rappels math - www.coursdefsjes.com
 

Dernier

Principe de fonctionnement d'un moteur 4 temps
Principe de fonctionnement d'un moteur 4 tempsPrincipe de fonctionnement d'un moteur 4 temps
Principe de fonctionnement d'un moteur 4 tempsRajiAbdelghani
 
Bibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdf
Bibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdfBibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdf
Bibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdfBibdoc 37
 
Cours SE Le système Linux : La ligne de commande bash - IG IPSET
Cours SE Le système Linux : La ligne de commande bash - IG IPSETCours SE Le système Linux : La ligne de commande bash - IG IPSET
Cours SE Le système Linux : La ligne de commande bash - IG IPSETMedBechir
 
Le Lean sur une ligne de production : Formation et mise en application directe
Le Lean sur une ligne de production : Formation et mise en application directeLe Lean sur une ligne de production : Formation et mise en application directe
Le Lean sur une ligne de production : Formation et mise en application directeXL Groupe
 
Présentation_ Didactique 1_SVT (S4) complet.pptx
Présentation_ Didactique 1_SVT (S4) complet.pptxPrésentation_ Didactique 1_SVT (S4) complet.pptx
Présentation_ Didactique 1_SVT (S4) complet.pptxrababouerdighi
 
SciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdfSciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdfSKennel
 
Saint Georges, martyr, et la lègend du dragon.pptx
Saint Georges, martyr, et la lègend du dragon.pptxSaint Georges, martyr, et la lègend du dragon.pptx
Saint Georges, martyr, et la lègend du dragon.pptxMartin M Flynn
 
SciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdfSciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdfSKennel
 
SciencesPo_Aix_InnovationPédagogique_Bilan.pdf
SciencesPo_Aix_InnovationPédagogique_Bilan.pdfSciencesPo_Aix_InnovationPédagogique_Bilan.pdf
SciencesPo_Aix_InnovationPédagogique_Bilan.pdfSKennel
 
Bibdoc 2024 - Ecologie du livre et creation de badge.pdf
Bibdoc 2024 - Ecologie du livre et creation de badge.pdfBibdoc 2024 - Ecologie du livre et creation de badge.pdf
Bibdoc 2024 - Ecologie du livre et creation de badge.pdfBibdoc 37
 
LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...
LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...
LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...Faga1939
 
Zotero avancé - support de formation doctorants SHS 2024
Zotero avancé - support de formation doctorants SHS 2024Zotero avancé - support de formation doctorants SHS 2024
Zotero avancé - support de formation doctorants SHS 2024Alain Marois
 
Presentation de la plateforme Moodle - avril 2024
Presentation de la plateforme Moodle - avril 2024Presentation de la plateforme Moodle - avril 2024
Presentation de la plateforme Moodle - avril 2024Gilles Le Page
 
Annie Ernaux Extérieurs. pptx. Exposition basée sur un livre .
Annie   Ernaux  Extérieurs. pptx. Exposition basée sur un livre .Annie   Ernaux  Extérieurs. pptx. Exposition basée sur un livre .
Annie Ernaux Extérieurs. pptx. Exposition basée sur un livre .Txaruka
 
SciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdf
SciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdfSciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdf
SciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdfSKennel
 
Cours SE Gestion des périphériques - IG IPSET
Cours SE Gestion des périphériques - IG IPSETCours SE Gestion des périphériques - IG IPSET
Cours SE Gestion des périphériques - IG IPSETMedBechir
 
Evaluation du systeme d'Education. Marocpptx
Evaluation du systeme d'Education. MarocpptxEvaluation du systeme d'Education. Marocpptx
Evaluation du systeme d'Education. MarocpptxAsmaa105193
 
le present des verbes reguliers -er.pptx
le present des verbes reguliers -er.pptxle present des verbes reguliers -er.pptx
le present des verbes reguliers -er.pptxmmatar2
 
Bernard Réquichot.pptx Peintre français
Bernard Réquichot.pptx   Peintre françaisBernard Réquichot.pptx   Peintre français
Bernard Réquichot.pptx Peintre françaisTxaruka
 

Dernier (20)

Principe de fonctionnement d'un moteur 4 temps
Principe de fonctionnement d'un moteur 4 tempsPrincipe de fonctionnement d'un moteur 4 temps
Principe de fonctionnement d'un moteur 4 temps
 
Bibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdf
Bibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdfBibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdf
Bibdoc 2024 - Les maillons de la chaine du livre face aux enjeux écologiques.pdf
 
Cours SE Le système Linux : La ligne de commande bash - IG IPSET
Cours SE Le système Linux : La ligne de commande bash - IG IPSETCours SE Le système Linux : La ligne de commande bash - IG IPSET
Cours SE Le système Linux : La ligne de commande bash - IG IPSET
 
DO PALÁCIO À ASSEMBLEIA .
DO PALÁCIO À ASSEMBLEIA                 .DO PALÁCIO À ASSEMBLEIA                 .
DO PALÁCIO À ASSEMBLEIA .
 
Le Lean sur une ligne de production : Formation et mise en application directe
Le Lean sur une ligne de production : Formation et mise en application directeLe Lean sur une ligne de production : Formation et mise en application directe
Le Lean sur une ligne de production : Formation et mise en application directe
 
Présentation_ Didactique 1_SVT (S4) complet.pptx
Présentation_ Didactique 1_SVT (S4) complet.pptxPrésentation_ Didactique 1_SVT (S4) complet.pptx
Présentation_ Didactique 1_SVT (S4) complet.pptx
 
SciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdfSciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_EtudiantActeur.pdf
 
Saint Georges, martyr, et la lègend du dragon.pptx
Saint Georges, martyr, et la lègend du dragon.pptxSaint Georges, martyr, et la lègend du dragon.pptx
Saint Georges, martyr, et la lègend du dragon.pptx
 
SciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdfSciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdf
SciencesPo_Aix_InnovationPédagogique_Atelier_IA.pdf
 
SciencesPo_Aix_InnovationPédagogique_Bilan.pdf
SciencesPo_Aix_InnovationPédagogique_Bilan.pdfSciencesPo_Aix_InnovationPédagogique_Bilan.pdf
SciencesPo_Aix_InnovationPédagogique_Bilan.pdf
 
Bibdoc 2024 - Ecologie du livre et creation de badge.pdf
Bibdoc 2024 - Ecologie du livre et creation de badge.pdfBibdoc 2024 - Ecologie du livre et creation de badge.pdf
Bibdoc 2024 - Ecologie du livre et creation de badge.pdf
 
LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...
LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...
LA MONTÉE DE L'ÉDUCATION DANS LE MONDE DE LA PRÉHISTOIRE À L'ÈRE CONTEMPORAIN...
 
Zotero avancé - support de formation doctorants SHS 2024
Zotero avancé - support de formation doctorants SHS 2024Zotero avancé - support de formation doctorants SHS 2024
Zotero avancé - support de formation doctorants SHS 2024
 
Presentation de la plateforme Moodle - avril 2024
Presentation de la plateforme Moodle - avril 2024Presentation de la plateforme Moodle - avril 2024
Presentation de la plateforme Moodle - avril 2024
 
Annie Ernaux Extérieurs. pptx. Exposition basée sur un livre .
Annie   Ernaux  Extérieurs. pptx. Exposition basée sur un livre .Annie   Ernaux  Extérieurs. pptx. Exposition basée sur un livre .
Annie Ernaux Extérieurs. pptx. Exposition basée sur un livre .
 
SciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdf
SciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdfSciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdf
SciencesPo_Aix_InnovationPédagogique_Conférence_SK.pdf
 
Cours SE Gestion des périphériques - IG IPSET
Cours SE Gestion des périphériques - IG IPSETCours SE Gestion des périphériques - IG IPSET
Cours SE Gestion des périphériques - IG IPSET
 
Evaluation du systeme d'Education. Marocpptx
Evaluation du systeme d'Education. MarocpptxEvaluation du systeme d'Education. Marocpptx
Evaluation du systeme d'Education. Marocpptx
 
le present des verbes reguliers -er.pptx
le present des verbes reguliers -er.pptxle present des verbes reguliers -er.pptx
le present des verbes reguliers -er.pptx
 
Bernard Réquichot.pptx Peintre français
Bernard Réquichot.pptx   Peintre françaisBernard Réquichot.pptx   Peintre français
Bernard Réquichot.pptx Peintre français
 

Planification séquentielle pour l'estimation de probabilités de défaillance

  • 1. Planification séquentielle pour l’estimation de probabilités de défaillance Julien Bect En collaboration avec Ling Li et Emmanuel Vazquez SUPELEC 4 mai 2010 Atelier événements rares GdR MASCOT-NUM J. Bect (Supélec) Planification séquentielle 4 mai 2010 1 / 33
  • 2. Le problème à résoudre. . . Données du problème un domaine X ⊂ Rd compact (espace des facteurs) une fonction f : X → R coûteuse à évaluer une loi PX sur l’espace des facteurs un seuil T ∈ R On veut calculer α(f ) = PX x ∈ X : f (x) > T = 1f >T dPX X J. Bect (Supélec) Planification séquentielle 4 mai 2010 2 / 33
  • 3. Le problème à résoudre. . . Données du problème un domaine X ⊂ Rd compact (espace des facteurs) une fonction f : X → R coûteuse à évaluer une loi PX sur l’espace des facteurs un seuil T ∈ R On veut calculer α(f ) = PX x ∈ X : f (x) > T = 1f >T dPX X Important Il ne s’agit pas (encore) d’un problème d’inférence statistique ! J. Bect (Supélec) Planification séquentielle 4 mai 2010 2 / 33
  • 4. Événement rare ? Fonction coûteuse à évaluer par ex., le calcul de f (x) fait appel à un code aux éléments finis budget limité d’évaluations « rare » ⇒ α(f ) extrêmement petit J. Bect (Supélec) Planification séquentielle 4 mai 2010 3 / 33
  • 5. Événement rare ? Fonction coûteuse à évaluer par ex., le calcul de f (x) fait appel à un code aux éléments finis budget limité d’évaluations « rare » ⇒ α(f ) extrêmement petit État de l’art pré-2004 (thèses : Lagnoux Renaudie, 2006 ; Piera-Martinez, 2008) méthodes fondées sur des approximations paramétriques ex : FORM/SORM, surface de réponse polynomiale économique mais souvent peu précis méthodes utilisant l’échantillonnage aléatoire Monte-Carlo, échantillonnage préférentiel, stratifié, etc. convergentes mais gourmand en évaluations J. Bect (Supélec) Planification séquentielle 4 mai 2010 3 / 33
  • 6. Événement rare ? Fonction coûteuse à évaluer par ex., le calcul de f (x) fait appel à un code aux éléments finis budget limité d’évaluations « rare » ⇒ α(f ) extrêmement petit État de l’art pré-2004 (thèses : Lagnoux Renaudie, 2006 ; Piera-Martinez, 2008) méthodes fondées sur des approximations paramétriques ex : FORM/SORM, surface de réponse polynomiale économique mais souvent peu précis méthodes utilisant l’échantillonnage aléatoire Monte-Carlo, échantillonnage préférentiel, stratifié, etc. convergentes mais gourmand en évaluations Idée : approche bayésienne non-paramétrique info. a priori sur f − méthodes convergentes et économiques → J. Bect (Supélec) Planification séquentielle 4 mai 2010 3 / 33
  • 7. Processus gaussiens / krigeage Apparition du krigeage en fiabilité (surface de réponse non-paramétrique) Romero, Swiler et Giunta (Struct. Safety, 2004) Kaymaz (Struct. Safety, 2005) Shan et Wang (J. Mech. Design, 2006) J. Bect (Supélec) Planification séquentielle 4 mai 2010 4 / 33
  • 8. Processus gaussiens / krigeage Apparition du krigeage en fiabilité (surface de réponse non-paramétrique) Romero, Swiler et Giunta (Struct. Safety, 2004) Kaymaz (Struct. Safety, 2005) Shan et Wang (J. Mech. Design, 2006) Premiers travaux en planification séquentielle, point de vue bayésien Vazquez et Piera-Martinez (JdS 2007), Vazquez et Bect (SYSID’09) Picheny, Ginsbourger, Roustant, Haftka (ENBIS’08) Picheny, Ginsbourger, Roustant, Haftka et Kim (J. Mech. Design (tbp)) Ranjan, Bingham et Michailidis (Technometrics, 2008) Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008) J. Bect (Supélec) Planification séquentielle 4 mai 2010 4 / 33
  • 9. Processus gaussiens / krigeage Apparition du krigeage en fiabilité (surface de réponse non-paramétrique) Romero, Swiler et Giunta (Struct. Safety, 2004) Kaymaz (Struct. Safety, 2005) Shan et Wang (J. Mech. Design, 2006) Premiers travaux en planification séquentielle, point de vue bayésien Vazquez et Piera-Martinez (JdS 2007), Vazquez et Bect (SYSID’09) Picheny, Ginsbourger, Roustant, Haftka (ENBIS’08) Picheny, Ginsbourger, Roustant, Haftka et Kim (J. Mech. Design (tbp)) Ranjan, Bingham et Michailidis (Technometrics, 2008) Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008) Dans cet exposé. . . une introduction générale au sujet (biaisée) les premiers résultats obtenus par Ling Li dans le cadre de sa thèse J. Bect (Supélec) Planification séquentielle 4 mai 2010 4 / 33
  • 10. 1 Formalisme : théorie bayésienne de la décision 2 Processus gaussiens et modèles dérivés 3 Tour d’horizon des stratégies séquentielles existantes 4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 5 / 33
  • 11. 1 Formalisme : théorie bayésienne de la décision 2 Processus gaussiens et modèles dérivés 3 Tour d’horizon des stratégies séquentielles existantes 4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 6 / 33
  • 12. Cadre décisionnel (1/2) Contrainte : on dispose d’un budget limité de N évaluations. choisir x ∈ X − → obtenir f (x) ∈ R Questions 1 comment choisir séquentiellement les entrées x1 , . . . , xN ? 2 comment estimer α(f ) à partir de f (x1 ), . . . , f (xN ) ? J. Bect (Supélec) Planification séquentielle 4 mai 2010 7 / 33
  • 13. Cadre décisionnel (1/2) Contrainte : on dispose d’un budget limité de N évaluations. choisir x ∈ X − → obtenir f (x) ∈ R Questions 1 comment choisir séquentiellement les entrées x1 , . . . , xN ? 2 comment estimer α(f ) à partir de f (x1 ), . . . , f (xN ) ? Réponse dans un cadre bayésien (pré-requis) choix d’une fonction de coût C (α, α) = (α − α)2 ˆ ˆ choix d’une loi a priori pour la fonction f inconnue ⇒ f est maintenant vue comme un processus aléatoire ξ ! J. Bect (Supélec) Planification séquentielle 4 mai 2010 7 / 33
  • 14. Cadre décisionnel (2/2) Notations : X1 , . . . , XN points d’évaluations In = X1 , ξ(X1 ), . . . , Xn , ξ(Xn ) info. disponible au temps n Fn = σ(In ), α = α(ξ), αn = αn (In ) ˆ ˆ Réponse dans un cadre bayésien (suite) On cherche X1 , . . . XN et αN ˆ qui minimisent E (α − αN )2 ˆ avec Xn+1 Fn -mesurable, ∀n ≥ 1 J. Bect (Supélec) Planification séquentielle 4 mai 2010 8 / 33
  • 15. Cadre décisionnel (2/2) Notations : X1 , . . . , XN points d’évaluations In = X1 , ξ(X1 ), . . . , Xn , ξ(Xn ) info. disponible au temps n Fn = σ(In ), α = α(ξ), αn = αn (In ) ˆ ˆ Réponse dans un cadre bayésien (suite) On cherche X1 , . . . XN et αN ˆ qui minimisent E (α − αN )2 ˆ avec Xn+1 Fn -mesurable, ∀n ≥ 1 Généralisations possibles : évaluations en batchs (utile pour paralléliser) évaluations bruités (ex : code de calcul à base de MC) décisions randomisées, autres critères d’arrêt, etc. J. Bect (Supélec) Planification séquentielle 4 mai 2010 8 / 33
  • 16. Estimateur optimal Notations : Pn P { · | Fn } et En E { · | Fn } Meilleur estimateur FN -mesurable (risque quadratique) : αN = EN (α) ˆ J. Bect (Supélec) Planification séquentielle 4 mai 2010 9 / 33
  • 17. Estimateur optimal Notations : Pn P { · | Fn } et En E { · | Fn } Meilleur estimateur FN -mesurable (risque quadratique) : αN = EN (α) ˆ En posant pn (x) = Pn {ξ(x) > T }, on a αN = EN ˆ 1f >T dPX = pN dPX , X X Important On a transformé un problème de calcul d’intégrale en un autre problème de calcul d’intégrale ⇒ intéressant si la seconde est plus facile à calculer ! J. Bect (Supélec) Planification séquentielle 4 mai 2010 9 / 33
  • 18. Estimateurs fondés sur une fonction de classification On peut aussi chercher un estimateur « plugin » de la forme αN = ˆ gN dPX , avec gN : X → {0, 1} (1) X gN est une fonction de classification dure ex : SVM dans la méthode SMART (thèse de F. Deheeger (LaMI)) J. Bect (Supélec) Planification séquentielle 4 mai 2010 10 / 33
  • 19. Estimateurs fondés sur une fonction de classification On peut aussi chercher un estimateur « plugin » de la forme αN = ˆ gN dPX , avec gN : X → {0, 1} (1) X gN est une fonction de classification dure ex : SVM dans la méthode SMART (thèse de F. Deheeger (LaMI)) Meilleure fonction de classification à injecter dans (1) : gN = 1pN >1/2 = 1ξN >T , ˆ ˆ avec ξN (x) la médiane a posteriori de ξ(x) (au temps N). J. Bect (Supélec) Planification séquentielle 4 mai 2010 10 / 33
  • 20. Stratégie bayésienne optimale (1/2) On fixe un estimateur αN (par ex : αN = EN (α)). ˆ ˆ Stratégie bayésienne optimale ? stratégie : suite X1 , . . . , XN avec Xn+1 Fn -mesurable bayésienne optimale : minimisant E (α − αN )2 ˆ J. Bect (Supélec) Planification séquentielle 4 mai 2010 11 / 33
  • 21. Stratégie bayésienne optimale (1/2) On fixe un estimateur αN (par ex : αN = EN (α)). ˆ ˆ Stratégie bayésienne optimale ? stratégie : suite X1 , . . . , XN avec Xn+1 Fn -mesurable bayésienne optimale : minimisant E (α − αN )2 ˆ Formellement, la solution s’obtient par programmation dynamique calcul par récurrence (rétrograde) du risque bayésien RN (IN ) = EN (α − αN )2 ˆ Rn (In ) = min En (Rn+1 (In+1 )) , n = N − 1, . . . , 1 Xn+1 stratégie optimale : Xn+1 = argmin En (Rn+1 (In+1 )) J. Bect (Supélec) Planification séquentielle 4 mai 2010 11 / 33
  • 22. Stratégie bayésienne optimale (2/2) La stratégie optimale fait apparaître un critère d’échantillonnage optimal : Jn (In , Xn+1 ) En (Rn+1 (In+1 )) J. Bect (Supélec) Planification séquentielle 4 mai 2010 12 / 33
  • 23. Stratégie bayésienne optimale (2/2) La stratégie optimale fait apparaître un critère d’échantillonnage optimal : Jn (In , Xn+1 ) En (Rn+1 (In+1 )) Malheureusement. . . espace d’état continu, dim. n ⇒ calcul exact impossible ! espace d’actions continu également Problème Comment construire de bonnes solutions sous-optimales ? J. Bect (Supélec) Planification séquentielle 4 mai 2010 12 / 33
  • 24. 1 Formalisme : théorie bayésienne de la décision 2 Processus gaussiens et modèles dérivés 3 Tour d’horizon des stratégies séquentielles existantes 4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 13 / 33
  • 25. Pourquoi des processus gaussiens ? verrou besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn clé modèles (a priori) construit à partir de processus gaussiens (GP) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  • 26. Pourquoi des processus gaussiens ? verrou besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn clé modèles (a priori) construit à partir de processus gaussiens (GP) Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . . les origines prédiction linéaire BLUP (Mathéron, Parzen ; années 60) processus de Wiener en optimisation (Kushner, 1964) splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  • 27. Pourquoi des processus gaussiens ? verrou besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn clé modèles (a priori) construit à partir de processus gaussiens (GP) Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . . les origines prédiction linéaire BLUP (Mathéron, Parzen ; années 60) processus de Wiener en optimisation (Kushner, 1964) splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71) 1978, année bayésienne en stats, trois articles dans JRSS (Wahba, O’Hagan, Leonard) en optimisation : critère EI (Mockus, Tiesis, Zilinskas) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  • 28. Pourquoi des processus gaussiens ? verrou besoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fn clé modèles (a priori) construit à partir de processus gaussiens (GP) Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . . les origines prédiction linéaire BLUP (Mathéron, Parzen ; années 60) processus de Wiener en optimisation (Kushner, 1964) splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71) 1978, année bayésienne en stats, trois articles dans JRSS (Wahba, O’Hagan, Leonard) en optimisation : critère EI (Mockus, Tiesis, Zilinskas) DACE (Design & Analysis of Computer Experiments) Sacks et al. (1989), Currin et al. (1991) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  • 29. Propriété fondamentale des GP Propriété ˆ Si ξ ∼ GP (m(x), k(x, x ′ )), alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) , ˆ avec ξn et kn donnés par les équations du krigeage (simple). J. Bect (Supélec) Planification séquentielle 4 mai 2010 15 / 33
  • 30. Propriété fondamentale des GP Propriété ˆ Si ξ ∼ GP (m(x), k(x, x ′ )), alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) , ˆ avec ξn et kn donnés par les équations du krigeage (simple). Etat de l’art : modèles hiérarchiques construits autour du GP « DACE » : krigeage ordinaire + approche bayésienne empirique krigeage bayésien (ex : méthodologie BACCO par O’Hagan et collab.) treed GP (par Gramacy & Lee) Note : krigeage bayésien, treed GP ⇒ (RJ)MCMC J. Bect (Supélec) Planification séquentielle 4 mai 2010 15 / 33
  • 31. Modèle « DACE » (le plus répandu ?) On considère : moyenne constante inconnue m(x) = m ∈ R covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ ) propriété (en supposant σ 2 et θ connus) ξ | m ∼ GP m, k(x, x ′ ) Si ˆ alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) m ∼ UR ˆ avec ξn et kn donnés par les équations du krigeage (ordinaire). J. Bect (Supélec) Planification séquentielle 4 mai 2010 16 / 33
  • 32. Modèle « DACE » (le plus répandu ?) On considère : moyenne constante inconnue m(x) = m ∈ R covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ ) propriété (en supposant σ 2 et θ connus) ξ | m ∼ GP m, k(x, x ′ ) Si ˆ alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) m ∼ UR ˆ avec ξn et kn donnés par les équations du krigeage (ordinaire). Approche bayésienne empirique : σ 2 et θ sont estimés par MML (maximisation de la vraisemblance marginale) J. Bect (Supélec) Planification séquentielle 4 mai 2010 16 / 33
  • 33. Modèle « DACE » (le plus répandu ?) On considère : moyenne constante inconnue m(x) = m ∈ R covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ ) propriété (en supposant σ 2 et θ connus) ξ | m ∼ GP m, k(x, x ′ ) Si ˆ alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) m ∼ UR ˆ avec ξn et kn donnés par les équations du krigeage (ordinaire). Approche bayésienne empirique : σ 2 et θ sont estimés par MML (maximisation de la vraisemblance marginale) Mise en garde Les procédures séquentielles qui ré-estiment les paramètres à chaque étape par MML n’ont, à l’heure actuelle, aucun fondement théorique. J. Bect (Supélec) Planification séquentielle 4 mai 2010 16 / 33
  • 34. Quelques quantités utiles pour la suite (et faciles à calculer) 2 Notation : σn (x) = kn (x, x) ; Φ la FR de la loi N (0, 1). Probabilité de dépassement du seuil T au point x ∈ X : ˆ ξn (x) − T pn (x) = Pn {ξ(x) > T } = 1 − Φ σn (x) J. Bect (Supélec) Planification séquentielle 4 mai 2010 17 / 33
  • 35. Quelques quantités utiles pour la suite (et faciles à calculer) 2 Notation : σn (x) = kn (x, x) ; Φ la FR de la loi N (0, 1). Probabilité de dépassement du seuil T au point x ∈ X : ˆ ξn (x) − T pn (x) = Pn {ξ(x) > T } = 1 − Φ σn (x) Probabilité de mauvaise classification au point x ∈ X :   ˆ ξn (x) − T ˆ τn (x) = Pn (ξ(x) − T )(ξn (x) − T ) < 0 = 1 − Φ  σn (x) Remarque : τn = min (pn , 1 − pn ). J. Bect (Supélec) Planification séquentielle 4 mai 2010 17 / 33
  • 36. Illustration 2 1 0 −1 −2 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 1 pn 0.5 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 0.4 0.3 τn 0.2 0.1 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 J. Bect (Supélec) Planification séquentielle 4 mai 2010 18 / 33
  • 37. Illustration 2 1 0 −1 −2 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 1 pn 0.5 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 0.4 0.3 τn 0.2 0.1 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 J. Bect (Supélec) Planification séquentielle 4 mai 2010 18 / 33
  • 38. 1 Formalisme : théorie bayésienne de la décision 2 Processus gaussiens et modèles dérivés 3 Tour d’horizon des stratégies séquentielles existantes 4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 19 / 33
  • 39. Stratégies fondées sur une anticipation de k évaluations Principe général (k-step look-ahead) : Jn (In , Xn+1 ) = En min En+1 . . . min En+k−1 Rn+k (In+k ) Xn+2 Xn+k avec Rn+k un substitut du risque bayésien Rn+k . J. Bect (Supélec) Planification séquentielle 4 mai 2010 20 / 33
  • 40. Stratégies fondées sur une anticipation de k évaluations Principe général (k-step look-ahead) : Jn (In , Xn+1 ) = En min En+1 . . . min En+k−1 Rn+k (In+k ) Xn+2 Xn+k avec Rn+k un substitut du risque bayésien Rn+k . Cas particulier : k = 1 (one-step look-ahead) Jn (In , Xn+1 ) = En Rn+1 (In+1 ) J. Bect (Supélec) Planification séquentielle 4 mai 2010 20 / 33
  • 41. Stratégies fondées sur une anticipation de k évaluations Principe général (k-step look-ahead) : Jn (In , Xn+1 ) = En min En+1 . . . min En+k−1 Rn+k (In+k ) Xn+2 Xn+k avec Rn+k un substitut du risque bayésien Rn+k . Cas particulier : k = 1 (one-step look-ahead) Jn (In , Xn+1 ) = En Rn+1 (In+1 ) Stratégies OSL proposées dans la littérature : SUR (Piera-Martinez & Vazquez, JdS’07 ; Vazquez & Bect, SYSID’09) targeted IMSE (Picheny et. al, ENBIS8 (2008), J. Mech. Design (tbp)) J. Bect (Supélec) Planification séquentielle 4 mai 2010 20 / 33
  • 42. SUR : Stepwise Uncertainty Reduction (1/2) Principe (cf. algorithme IAGO, thèse Villemonteix, 2008) Chercher à réduire au plus l’incertitude résiduelle. J. Bect (Supélec) Planification séquentielle 4 mai 2010 21 / 33
  • 43. SUR : Stepwise Uncertainty Reduction (1/2) Principe (cf. algorithme IAGO, thèse Villemonteix, 2008) Chercher à réduire au plus l’incertitude résiduelle. Mise en œuvre 1 Approximation gloutonne du risque : Rn+1 = En+1 (α − αn+1 )2 ˆ ⇒ Jn = En (α − αn+1 )2 ˆ J. Bect (Supélec) Planification séquentielle 4 mai 2010 21 / 33
  • 44. SUR : Stepwise Uncertainty Reduction (1/2) Principe (cf. algorithme IAGO, thèse Villemonteix, 2008) Chercher à réduire au plus l’incertitude résiduelle. Mise en œuvre 1 Approximation gloutonne du risque : Rn+1 = En+1 (α − αn+1 )2 ˆ ⇒ Jn = En (α − αn+1 )2 ˆ 2 Calcul d’une borne supérieure 2 J n ≤ En γn dPX (2) X 3 Discrétisation et minimisation de la borne (2). J. Bect (Supélec) Planification séquentielle 4 mai 2010 21 / 33
  • 45. SUR : Stepwise Uncertainty Reduction (2/2) Expression(s) de la fonction γn : αn+1 = En+1 (α) ˆ 2 γn (x) = pn (x) (1 − pn (x)) variance de l’indicatrice de dépassement αn+1 = ˆ dPX 2 γn (x) = min (pn (x) , 1 − pn (x)) = τn (x) X 1ξn >T ˆ probabilité de mauvais classement 1 0.8 (à une cst près) 0.6 0.4 0.2 γn 1er cas 2eme cas 0 0 0.2 0.4 0.6 0.8 1 pn J. Bect (Supélec) Planification séquentielle 4 mai 2010 22 / 33
  • 46. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 0.2 2 0.15 1.5 αn Jn ˆ 0.1 −1 1 10 0.05 0.5 0 0.5 1 0 5 10 15 iter 0 1 10 −0.5 1 0.8 −1 0 |ˆ n − α| 10 0.6 pn −1.5 0.4 −1 10 α −2 0.2 0 −2 −2.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 47. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 0.2 2 −1 10 0.15 1.5 αn Jn ˆ 0.1 1 0.05 0.5 0 0.5 1 0 5 10 15 iter 0 −0.5 1 −0.69 10 0.8 −1 |ˆ n − α| −0.72 0.6 10 pn −1.5 0.4 −0.75 α 10 −2 0.2 −0.78 0 10 −2.5 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 48. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 0.2 −1.1 2 10 0.15 αn Jn 1.5 ˆ −1.2 0.1 10 1 0.05 −1.3 10 0.5 0 0.5 1 0 5 10 15 iter 0 1 −0.7 10 −0.5 0.8 |ˆ n − α| 0.6 −1 pn 0.4 α −0.8 −1.5 10 0.2 0 −2 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 49. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 −1.1 10 0.2 2 −1.2 0.15 10 αn Jn 1.5 ˆ 0.1 −1.3 1 10 0.05 0.5 0 0.5 1 0 5 10 15 iter 0 1 −0.7 10 −0.5 0.8 |ˆ n − α| 0.6 −1 pn −0.8 10 0.4 α −1.5 0.2 0 −0.9 10 −2 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 50. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −1.4 10 0.2 −1.5 1 10 0.15 αn Jn ˆ 0.1 −1.6 0.5 10 0.05 0 0 0.5 1 0 5 10 15 iter −0.5 0 10 1 0.8 −1 |ˆ n − α| 0.6 −1 10 pn 0.4 −1.5 α 0.2 0 −2 −2 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 51. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −1.6 10 0.2 1 0.15 −1.7 αn 10 Jn ˆ 0.1 0.5 −1.8 10 0.05 0 0 0.5 1 0 5 10 15 iter −0.5 0 10 1 0.8 −1 |ˆ n − α| 0.6 −1 10 pn 0.4 −1.5 α 0.2 0 −2 −2 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 52. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 0.2 1 0.15 −2 αn 10 Jn ˆ 0.1 0.5 0.05 0 0.5 1 0 5 10 15 iter 0 0 10 1 −0.5 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 53. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −2 10 0.2 1 0.15 αn Jn ˆ 0.1 0.5 0.05 0 0.5 1 0 5 10 15 iter 0 0 10 1 −0.5 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 54. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −2.5 0.2 10 1 −2.6 0.15 10 αn Jn ˆ −2.7 0.1 10 0.5 −2.8 0.05 10 0 0.5 1 0 5 10 15 iter 0 0 10 1 −0.5 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 55. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 −3.2 10 0.15 0.5 αn Jn ˆ −3.4 10 0.1 0.05 −3.6 0 10 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 56. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 −3.5 10 0.2 0.15 −3.7 0.5 10 αn Jn ˆ 0.1 −3.9 0.05 10 0 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 57. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 −4 10 0.15 0.5 αn Jn ˆ 0.1 0.05 0 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 58. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 0.15 0.5 αn Jn ˆ 0.1 −5 0.05 10 0 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 10 |ˆ n − α| 0.6 −2 10 pn −1 0.4 α −3 0.2 10 0 −4 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 59. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 0.15 0.5 αn Jn ˆ 0.1 0.05 −6 0 10 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 10 |ˆ n − α| 0.6 −2 10 pn −1 0.4 α −3 0.2 10 0 −4 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 60. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 0.15 0.5 αn Jn ˆ 0.1 0.05 −7 0 10 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 |ˆ n − α| 0.6 pn −1 0.4 α 0.2 0 −5 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  • 61. Targeted IMSE Méthode fondée sur l’IMSE pondéré : 2 Rn+1 (In+1 ) = σn+1 (x) Wn+1 (x) dPX X où g est une fenêtre ≥ 0 et Wn+1 (x) = En+1 g (ξ(x) − T ) J. Bect (Supélec) Planification séquentielle 4 mai 2010 24 / 33
  • 62. Targeted IMSE Méthode fondée sur l’IMSE pondéré : 2 Rn+1 (In+1 ) = σn+1 (x) Wn+1 (x) dPX X où g est une fenêtre ≥ 0 et Wn+1 (x) = En+1 g (ξ(x) − T ) Le critère d’échantillonnage correspondant s’écrit : 2 Jn (In , Xn+1 ) = σn+1 (x) Wn (x) dPX X Pondération recommendée par les auteurs : z2 (ξn (x)−T )2 ˆ − 2 1 1 −2 2 2 g (z) = e 2 σε ⇒ Wn (x) ∝ e σε +σn (x) 2 2 σε + σn (x) J. Bect (Supélec) Planification séquentielle 4 mai 2010 24 / 33
  • 63. Une comparaison des critères existants : protocole X = [0; 1] avec PX = U[0;1] comparaison en moyenne sur 4000 trajectoires d’un GP GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1) les algos utilisent la vraie fonction de covariance T de façon à ce que α = 2%. J. Bect (Supélec) Planification séquentielle 4 mai 2010 25 / 33
  • 64. Une comparaison des critères existants : protocole X = [0; 1] avec PX = U[0;1] comparaison en moyenne sur 4000 trajectoires d’un GP GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1) les algos utilisent la vraie fonction de covariance T de façon à ce que α = 2%. version discrétisée du problème (« méta-estimation ») iid Y1 , . . . , Ym ∼ PX (m = 500) 1 on veut estimer l’estimateur αm = m j 1ξ(Yj )>T 1 on travaille sur X = {Y1 , . . . , Ym } avec Pm = m X m j δYj J. Bect (Supélec) Planification séquentielle 4 mai 2010 25 / 33
  • 65. Une comparaison des critères existants : protocole X = [0; 1] avec PX = U[0;1] comparaison en moyenne sur 4000 trajectoires d’un GP GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1) les algos utilisent la vraie fonction de covariance T de façon à ce que α = 2%. version discrétisée du problème (« méta-estimation ») iid Y1 , . . . , Ym ∼ PX (m = 500) 1 on veut estimer l’estimateur αm = m j 1ξ(Yj )>T 1 on travaille sur X = {Y1 , . . . , Ym } avec Pm = m X m j δYj autres critères comparés (en plus de SUR et targeted IMSE) Ranjan, Bingham et Michailidis (Technometrics 2008) Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008) Echard, Gayton et Lemaire (Journées Nat. de Fiabilité, 2010) J. Bect (Supélec) Planification séquentielle 4 mai 2010 25 / 33
  • 66. Une comparaison des critères existants : resultats (1/2) 10 0 MSE (dB) −10 −20 −30 SUR tIMSE, σε = 0 tIMSE, σε = 0.1 tIMSE, σε = 1.0 −40 5 10 15 20 25 30 nb évaluations J. Bect (Supélec) Planification séquentielle 4 mai 2010 26 / 33
  • 67. Une comparaison des critères existants : resultats (2/2) 10 0 MSE (dB) −10 −20 SUR −30 tIMSE, σε = 0 Ranjan Bichon Echard −40 5 10 15 20 25 30 nb évaluations J. Bect (Supélec) Planification séquentielle 4 mai 2010 27 / 33
  • 68. Conclusions A retenir : Prise en compte d’information a priori sur f , dans un cadre bayésien non-paramétrique − méthodes qui convergent rapidement → L’approche déplace le problème d’intégration mais ne le supprime pas − complément aux méthodes existantes (par ex. Monte Carlo) → Les premières études empiriques montrent le potentiel des stratégies one-step look-ahead (SUR, targeted IMSE) J. Bect (Supélec) Planification séquentielle 4 mai 2010 28 / 33
  • 69. Conclusions A retenir : Prise en compte d’information a priori sur f , dans un cadre bayésien non-paramétrique − méthodes qui convergent rapidement → L’approche déplace le problème d’intégration mais ne le supprime pas − complément aux méthodes existantes (par ex. Monte Carlo) → Les premières études empiriques montrent le potentiel des stratégies one-step look-ahead (SUR, targeted IMSE) J. Bect (Supélec) Planification séquentielle 4 mai 2010 28 / 33
  • 70. Conclusions A retenir : Prise en compte d’information a priori sur f , dans un cadre bayésien non-paramétrique − méthodes qui convergent rapidement → L’approche déplace le problème d’intégration mais ne le supprime pas − complément aux méthodes existantes (par ex. Monte Carlo) → Les premières études empiriques montrent le potentiel des stratégies one-step look-ahead (SUR, targeted IMSE) J. Bect (Supélec) Planification séquentielle 4 mai 2010 28 / 33
  • 71. Perspectives Mieux exploiter la complémentarité bayésienne/fréquentiste méta-estimation − intervalles de confiance → papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . ) combinaison GP / techniques d’échantillonnage aléatoire cf. exposé de Pierre Barbillon à MASCOT-NUM 2010 J. Bect (Supélec) Planification séquentielle 4 mai 2010 29 / 33
  • 72. Perspectives Mieux exploiter la complémentarité bayésienne/fréquentiste méta-estimation − intervalles de confiance → papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . ) combinaison GP / techniques d’échantillonnage aléatoire cf. exposé de Pierre Barbillon à MASCOT-NUM 2010 Poursuivre l’analyse des stratégies de planification en simulation & sur cas tests industriels collaboration SUPELEC / B. Iooss (code Cathare) D. Ginsbourger et collab. : projet de toolbox libre (R) ? sur le plan théorique convergence, vitesse de convergence J. Bect (Supélec) Planification séquentielle 4 mai 2010 29 / 33
  • 73. Perspectives Mieux exploiter la complémentarité bayésienne/fréquentiste méta-estimation − intervalles de confiance → papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . ) combinaison GP / techniques d’échantillonnage aléatoire cf. exposé de Pierre Barbillon à MASCOT-NUM 2010 Poursuivre l’analyse des stratégies de planification en simulation & sur cas tests industriels collaboration SUPELEC / B. Iooss (code Cathare) D. Ginsbourger et collab. : projet de toolbox libre (R) ? sur le plan théorique convergence, vitesse de convergence En cours : thèse de Li Ling (financement projet CSDL) J. Bect (Supélec) Planification séquentielle 4 mai 2010 29 / 33
  • 74. Bibliographie Références traitant de la stratégie SUR : E. Vazquez et M. Piera-Martinez, Estimation du volume des ensembles d’excursion d’un processus gaussien par krigeage intrinsèque, 39èmes Journées de Statistiques (JdS 2007), CD-ROM proceedings, Angers (France), 11–15 juin 2007 [clickme] M. Piera-Martinez, Modélisation des comportements extrêmes en ingénierie, Thèse de l’Université Paris-Sud 11 / Supélec, 29 septembre 2008 [clickme] E. Vazquez et J. Bect, A sequential Bayesian algorithm to estimate a probability of failure, 15th IFAC Symposium on System Identification (SYSID 2009), Saint-Malo, France. IFAC-PapersOnLine / Elsevier, 2009 [clickme] J. Bect (Supélec) Planification séquentielle 4 mai 2010 30 / 33
  • 75. Bibliographie Références traitant de la stratégie targeted IMSE : V. Picheny, D. Ginsbourger, O. Roustant et R.T. Haftka, Iterative Designs of experiments for constraint approximation, 8th European Network for Business and Industrial Statistics conference (ENBIS8), CD-ROM proceedings, Athènes (Grèce), 21–25 septembre 2008 V. Picheny, D. Ginsbourger, O. Roustant, R.T. Haftka et N.-H. Kim, Adaptive designs of experiments for accurate approximation of target regions, Journal of Mechanical Design, to be published [clickme] V. Picheny, Improving accuracy and compensating for uncertainty in surrogate modeling, Thèse de l’École Nationale Supérieure des Mines de Saint-Etienne, 15 décembre 2009 [clickme] J. Bect (Supélec) Planification séquentielle 4 mai 2010 31 / 33
  • 76. Bibliographie Autres références décrivant des stratégies séquentielles : P. Ranjan, D. Bingham et G. Michailidis, Sequential experiment design for contour estimation from complex computer codes, Technometrics, 50(4), 527–541, 2008 [clickme] B. J. Bichon, M. S. Eldred, L. P. Swiler, S. Mahadevan et J. M. McFarland, Efficient global reliability analysis for nonlinear implicit performance functions, AIAA Journal, 46(10), 2459–2468, 2008 [clickme] B. Echart, N. Gayton et M. Lemaire, Kriging based Monte Carlo simulation to compute the probability of failure efficiently : the AK-MCS methods, 6èmes Journées Nationales de Fiabilité, Toulouse, France, 2010 J. Bect (Supélec) Planification séquentielle 4 mai 2010 32 / 33
  • 77. Bibliographie Apparition du krigeage en fiabilité : V. J. Romero, L. P. Swiler et A. A. Giunta, Construction of response surfaces based on progressive-lattice-sampling experimental designs with application to uncertainty propagation, Structural Safety, 26(2), 201–219, 2004 [clickme] I. Kaymaz, Application of kriging method to structural reliability problems, Structural Safety, 27(2), 133–151, 2005 [clickme] S. Shan et G. G. Wang, Failure surface frontier for reliability assessment on expensive performance function, Journal of Mechanical Design, 128(6), 1227–1236, 2006 [clickme] J. Bect (Supélec) Planification séquentielle 4 mai 2010 33 / 33