Le module de convexité variationnelle : invariant spectral de courbure et transport exact par régularisation de Moreau
Dans ce travail en collaboration avec le Prof. R.T. Rockafellar, nous présentons le module de convexité variationnelle associé à une paire de base proximale. Ce module fournit une mesure quantitative de la courbure locale d’une fonction qui peut être non lisse et non convexe. Il décrit le meilleur comportement quadratique de convexité, ou d’hypoconvexité, compatible avec la géométrie variationnelle du sous-différentiel. Il peut ainsi être vu comme un paramètre local de conditionnement : il intervient dans la stabilité des points critiques, dans la bonne définition des applications proximales ou résolvantes, et dans l’analyse locale des méthodes de splitting proximal et des méthodes du premier ordre au-delà du cadre lisse.
Nous rappelons ensuite un résultat fondamental récent de Rockafellar : ce module admet une caractérisation spectrale exacte à l’aide d’un objet du second ordre appelé sous-dérivée seconde stricte. Autrement dit, il peut être interprété comme la plus petite courbure locale observée dans les directions admissibles. Ce résultat donne aussi un critère précis de prox-régularité : une fonction est prox-régulière exactement lorsque ce module n'est pas égal à moins l’infini.
À partir de cette interprétation spectrale, nous expliquons comment ce module se transforme sous régularisation proximale, et plus particulièrement sous enveloppe de Moreau. Nous mettons en évidence un mécanisme de commutation entre la dérivation seconde stricte et la régularisation de Moreau, ce qui conduit à une loi explicite d’atténuation de la courbure.
Nous en déduisons des résultats de stabilité pour le module de convexité variationnelle de l’enveloppe de Moreau, ainsi qu’une formule d’inversion permettant de retrouver la courbure de la fonction initiale à partir de sa version régularisée. L’exposé se termine par plusieurs exemples, lisses, non lisses et véritablement non convexes, qui illustrent les cas où cette interprétation spectrale est pleinement pertinente et ceux où elle dégénère.