Multi-fidelity Gaussian process regression for computer experiments
Institution:
Paris 7Disciplines:
Directors:
Abstract EN:
This work is on Gaussian-process based approximation of a code which can be run at different levels of accuracy. The goal is to improve the predictions of a surrogate model of a complex computer code using fast approximations of it. A new formulation of a co-kriging based method has been proposed. In particular this formulation allows for fast implementation and for closed-form expressions for the predictive mean and variance for universal co-kriging in the multi-fidelity framework, which is a breakthrough as it really allows for the practical application of such a method in real cases. Furthermore, fast cross validation, sequential experimental design and sensitivity analysis methods have been extended to the multi-fidelity co-kriging framework. This thesis also deals with a conjecture about the dependence of the learning curve (ie the decay rate of the mean square error) with respect to the smoothness of the underlying function. A proof in a fairly general situation (which includes the classical models of Gaussian-process based metamodels with stationary covariance functions) has been obtained while the previous proofs hold only for degenerate kernels (ie when the process is in fact finite- dimensional). This result allows for addressing rigorously practical questions such as the optimal allocation of the budget between different levels of codes in the multi-fidelity framework.
Abstract FR:
Cette thèse porte sur l'approximation par processus gaussiens d'un code de calcul qui peut être exécuté à différents niveaux de précision. L'objectif est d'améliorer les prédictions d'un méta-modèle d'un code complexe en utilisant des approximations rapides de celui-ci. Une nouvelle formulation d'une méthode basée sur un modèle de co-krigeage est proposée. En particulier, cette formulation permet de simplifier numériquement la méthode et d'obtenir des expressions analytiques des moyenne et variance de co-krigeage universel. Ceci est une avancée important qui permet d'utiliser ces modèles aisément en pratique. Des méthodes de validation croisée rapides, de planification d'expériences séquentielle et d'analyse de sensibilité ont également été étendues au cadre du co-krigeage multi-fidélité. Ensuite, la thèse étudie une conjecture sur la dépendance de la courbe d'apprentissage (c'est à dire le taux de décroissance de l'erreur quadratique moyenne) par rapport à la régularité de la fonction à approcher. Une preuve dans un cadre général (qui comprend les modèles classiques de régression par processus gaussiens avec noyaux stationnâmes) a été obtenue, tandis que les preuves précédentes ne sont valides que pour des noyaux dégénérés (c'est à dire quand le processus est de dimension finie). Ce résultat permet d'aborder des questions pratiques telles que l'allocation optimale du budget de temps de calcul entre les différents niveaux de codes dans le cadre multi-fidélité.