AnalyseNotion · Glossaire
Sous-gradient
Un sous-gradient d'une fonction convexe f en un point x est un vecteur g vérifiant l'inégalité de sous-différentiabilité : f(y) ≥ f(x) + ⟨g, y−x⟩ pour tout y. L'ensemble de tous les sous-gradients en x est le sous-différentiel de f en x. Pour une fonction convexe différentiable, l'unique sous-gradient est le gradient classique. En dimension finie, le sous-différentiel d'une fonction convexe propre est non vide en tout point de l'intérieur relatif de son domaine. Les sous-gradients sont utilisés dans les algorithmes de sous-gradient pour minimiser des fonctions convexes non différentiables.
Sommaire
Ce que vous allez apprendre
- Interpréter un sous-gradient comme la pente d’une droite d’appui globale.
- Appliquer l’inégalité de sous-différentiabilité avec des notations expliquées.
- Calculer le sous-différentiel de la valeur absolue en zéro.
- Distinguer sous-gradient, gradient et sous-différentiel.
En clair
Imaginez le graphe en V de la fonction valeur absolue. À sa pointe, aucune tangente unique ne donne la pente : le côté gauche descend, tandis que le côté droit monte. On peut pourtant faire passer par cette pointe plusieurs droites qui restent sous tout le graphe.
La pente de chacune de ces droites fournit un sous-gradient. Celui-ci joue donc le rôle d’une pente d’appui lorsqu’un angle empêche de définir un gradient ordinaire. Il ne décrit pas forcément une direction unique, mais garantit que l’appui ne traverse jamais le graphe d’une fonction convexe.
Définition
Soit une fonction convexe notée f, un point x de son domaine et un vecteur g. Ce vecteur est un sous-gradient de f en x si, pour tout point y du domaine, l’inégalité suivante est satisfaite : . Le symbole entre chevrons désigne le produit scalaire de g avec le déplacement de x vers y.
Autrement dit, la fonction affine construite avec la valeur f(x) et la pente g touche le graphe en x sans le dépasser ailleurs. L’ensemble de tous les vecteurs convenables s’appelle le sous-différentiel de f en x et se note ∂f(x). Un sous-gradient est donc un élément de cet ensemble, et non l’ensemble lui-même.
Si la fonction convexe est différentiable en x, le sous-différentiel ne contient qu’un vecteur : le gradient classique. Dans un espace de dimension finie, le sous-différentiel d’une fonction convexe propre est non vide en tout point de l’intérieur relatif de son domaine. Cette extension du gradient rend possibles des algorithmes de minimisation même lorsque la fonction présente un angle ou une autre non-différentiabilité.
Un exemple, pas à pas
Considérons la fonction valeur absolue, dont le graphe en V permet de voir les droites d’appui. Nous cherchons tous ses sous-gradients à la pointe.
Données. La fonction est f(t)=|t|, le point étudié est x=0, sa valeur est f(0)=0 et le sous-gradient candidat est un nombre g.
1. L’inégalité à vérifier pour tout nombre réel t devient .
2. Avec t=1, on obtient g≤1. Avec t=−1, on obtient g≥−1. Tout candidat doit donc appartenir à l’intervalle [−1, 1].
3. Réciproquement, si −1≤g≤1, alors gt≤t=|t| pour t≥0, et gt≤−t=|t| pour t≤0. L’inégalité vaut donc pour tout t.
Le résultat est . Comme contrôle, g=1/2 donne la droite t/2 : elle passe par l’origine et reste sous les deux branches du V.
En pratique
Lorsqu’une fonction convexe présente un angle, on cherche une droite d’appui plutôt qu’une tangente unique. Le sous-gradient est adapté si plusieurs pentes restent sous le graphe ; si la pente est unique et la fonction différentiable, le gradient classique suffit.
Dans un algorithme de minimisation, un sous-gradient remplace le gradient aux points non différentiables. À chaque étape, on en choisit un puis on effectue un déplacement de pas choisi dans la direction opposée. Lorsque la fonction est différentiable et fournit une direction unique, ce sous-gradient est simplement le gradient.
Pour tester si un point du domaine minimise une fonction convexe, on regarde si le vecteur nul appartient au sous-différentiel en ce point. Le critère est visible sur le graphe : en dimension 1, une droite horizontale passant par le point reste sous toute la courbe ; en dimension supérieure, elle est remplacée par un hyperplan d’appui horizontal. Une simple information locale ne suffit pas si cet appui dépasse le graphe ailleurs.
À ne pas confondre
Sous-gradient et gradient. Le gradient est le vecteur de variation locale d’une fonction différentiable, tandis que, dans le cadre convexe considéré ici, un point anguleux peut admettre plusieurs sous-gradients. Pour la fonction convexe f(t)=|t| en 0, le gradient n’existe pas, mais tous les nombres de [−1, 1] sont des sous-gradients.
Sous-gradient et sous-différentiel. Le premier est un vecteur particulier ; le second est l’ensemble de tous les vecteurs admissibles en un point. Dans l’exemple de la valeur absolue, 1/2 est un sous-gradient, alors que [−1, 1] est le sous-différentiel en 0.
Limites et pièges
Hors du cadre convexe. L’inégalité globale peut échouer même si une dérivée existe. Pour f(t)=−t² en 0, la pente 0 donnerait −t²≥0, ce qui est faux dès que t≠0. Il faut alors employer une notion adaptée à l’analyse non convexe.
Au bord du domaine. L’existence est garantie aux points intérieurs du domaine, pas automatiquement à sa frontière. Avant de chercher un sous-gradient au bord, il faut donc examiner le domaine et vérifier directement l’inégalité pour tous ses points.
À un angle. Choisir une seule pente et l’appeler « le » sous-gradient masque une pluralité possible. Pour la valeur absolue en 0, les valeurs charnières sont −1 et 1 : tout nombre entre elles convient, aucun nombre extérieur ne convient.
Contrôle trop local. Vérifier quelques valeurs de y donne des conditions nécessaires, mais ne prouve pas l’inégalité demandée pour tout y. Il faut compléter le contrôle par un argument global, comme la séparation des cas t≥0 et t≤0 dans l’exemple.
Pour aller plus loin
Sous-différentiel — Approfondir l’ensemble qui rassemble tous les sous-gradients d’une fonction en un point.
fonction valeur absolue — Revoir la fonction en V qui fournit l’exemple conducteur et son angle en zéro.
La géométrie convexe — Relier les droites d’appui à la géométrie plus générale des objets convexes.
Explorez les mathématiques autrement
Retrouvez nos magazines, podcasts et jeux pour explorer les mathématiques autrement.
Découvrir les offres