Passer au contenu principal
AnalyseNotion · Glossaire

Sous-différentiel

Le sous-différentiel d'une fonction convexe f en un point x est l'ensemble de tous les vecteurs g tels que f(y)f(x)+g,yxf(y)\geq f(x)+\langle g,y-x\rangle pour tout y dans le domaine de f. Ces vecteurs sont appelés les sous-gradients de f en x. Pour une fonction convexe différentiable, le sous-différentiel est réduit au singleton {gradient de f(x)}. Le sous-différentiel permet d'étendre la notion de dérivée aux fonctions convexes non différentiables et est fondamental en optimisation convexe et en analyse de convexité.
Droites d'appui de la valeur absolue en zéro Le graphe rouge en V de la valeur absolue et trois droites passant par l'origine, de pentes moins un, zéro et un. t y 0 f(t)=|t| g=−1 g=0 g=1
Les pentes −1, 0 et 1 donnent trois droites d'appui ; toutes les pentes intermédiaires restent également sous le V.
Sommaire

Ce que vous allez apprendre

  • Interpréter le sous-différentiel comme l'ensemble des pentes d'appui d'une fonction convexe.
  • Calculer le sous-différentiel de la valeur absolue en 0.
  • Distinguer sous-différentiel, sous-gradient et gradient.
  • Utiliser l'appartenance du vecteur nul comme critère de minimum global.
  • Repérer les précautions liées au domaine et à la non-convexité.

En clair

Imaginez le graphe en V de la fonction qui associe à un nombre sa valeur absolue. À la pointe, en 0, aucune tangente unique ne s'impose. On peut pourtant poser plusieurs droites passant par la pointe sans qu'elles traversent le V par-dessus.
La pente de chacune de ces droites est un sous-gradient. Le sous-différentiel rassemble toutes les pentes admissibles : pour la valeur absolue en 0, il s'agit de tout l'intervalle de −1 à 1.

Définition

Soit une fonction convexe f définie sur un domaine de ℝn, et soit x un point de ce domaine. Un vecteur g est un sous-gradient de f en x si l'hyperplan affine de pente g, passant par le point de hauteur f(x), reste sous le graphe de la fonction pour tout point y du domaine. Avec le produit scalaire noté par des chevrons, cette condition s'écrit :
gf(x)f(y)f(x)+g,yx  pour tout ydomfg\in\partial f(x)\quad\Longleftrightarrow\quad f(y)\geq f(x)+\langle g,y-x\rangle\ \text{ pour tout }y\in\operatorname{dom}f
Le sous-différentiel de f en x, noté f(x)\partial f(x), est l'ensemble de tous ces vecteurs. Il peut contenir un seul élément, plusieurs éléments, ou être vide dans certains cadres. Pour une fonction convexe différentiable en x, il se réduit au vecteur gradient : f(x)={f(x)}\partial f(x)=\{\nabla f(x)\}. Ainsi, la notion prolonge la dérivée ou le gradient lorsque le graphe présente un angle.
Cette définition est globale : l'inégalité doit être vraie pour tous les points du domaine, et non seulement au voisinage de x. Elle fournit notamment un critère d'optimalité : pour une fonction convexe, le point x est un minimum global exactement lorsque le vecteur nul appartient à son sous-différentiel.

Un exemple, pas à pas

Prenons la fonction f qui associe à tout réel t sa valeur absolue, et cherchons son sous-différentiel au point x = 0. Les données sont f(0) = 0 et un sous-gradient candidat réel, noté g.
1. La condition de sous-gradient devient :
ygy  pour tout yR|y|\geq gy\ \text{ pour tout }y\in\mathbb{R}
2. Pour un réel y positif, l'inégalité est ygy. En divisant par y > 0, on obtient g ≤ 1.
3. Pour un réel y négatif, l'inégalité est −ygy. La division par y < 0 renverse le sens : g ≥ −1. Pour y = 0, l'égalité 0 = 0 n'ajoute aucune contrainte.
4. Les deux conditions donnent exactement :
(0)=[1,1]\partial |\cdot|(0)=[-1,1]
Le contrôle est immédiat : si −1 ≤ g ≤ 1, alors gy ≤ |y| pour tout réel y. Une valeur comme g = 2 échoue dès que y = 1.

En pratique

En optimisation convexe, on teste un minimum en cherchant si le vecteur nul appartient au sous-différentiel. Pour la valeur absolue en 0, c'est le cas puisque 0 appartient à [−1, 1] : la pointe est bien un minimum global.
Lorsqu'une fonction convexe est lisse au point étudié, le gradient ordinaire suffit et donne l'unique sous-gradient. Lorsqu'elle présente un angle, comme la valeur absolue en 0, on remplace ce gradient absent par l'ensemble des sous-gradients admissibles.
Dans un algorithme de sous-gradient, on choisit à chaque étape un élément du sous-différentiel pour déterminer une direction. Ce choix est utile lorsque la fonction convexe n'est pas différentiable ; si elle est lisse, une méthode fondée sur le gradient exploite davantage d'information locale.

À ne pas confondre

Sous-différentiel et sous-gradient. Le sous-différentiel est un ensemble, tandis qu'un sous-gradient est un élément de cet ensemble. Pour la valeur absolue en 0, [−1, 1] est le sous-différentiel et 1/2 est un sous-gradient.
Sous-différentiel et gradient. Le gradient, lorsqu'il existe pour une fonction convexe, est un vecteur unique et le sous-différentiel est alors son singleton. À la pointe de la valeur absolue, le gradient n'existe pas, mais le sous-différentiel [−1, 1] existe.

Limites et pièges

Une vérification seulement locale ne suffit pas. Une droite peut rester sous le graphe près du point puis le dépasser ailleurs. Il faut contrôler l'inégalité de sous-gradient pour tout y du domaine.
Le bord du domaine demande de la prudence. Le sous-différentiel peut y être non borné. Par exemple, pour la fonction f(t) = t définie sur [0, +∞[, tous les réels g ≤ 1 sont des sous-gradients en 0, car ygy pour tout y ≥ 0.
La convexité est une hypothèse structurante. Pour une fonction non convexe, l'inégalité globale peut ne fournir aucun vecteur, même si une dérivée existe. Il faut alors préciser une autre notion de sous-différentiel généralisé au lieu d'appliquer automatiquement la définition convexe.
Un angle ne signifie pas deux valeurs seulement. Pour la valeur absolue en 0, les pentes −1 et 1 bornent l'ensemble, mais chaque pente intermédiaire est aussi admissible. Le sous-différentiel complet est l'intervalle fermé [−1, 1].

Pour aller plus loin

Le sous-gradient approfondit le rôle d'un vecteur particulier choisi dans le sous-différentiel, notamment pour guider une méthode d'optimisation.
Le concept de convexité replace l'inégalité d'appui dans la géométrie générale des fonctions et des ensembles convexes.
Une fonction fortement convexe ajoute une courbure quantitative ; cette propriété affine les garanties d'unicité et de convergence en optimisation.
Continuez avec Tangente

Explorez les mathématiques autrement

Retrouvez nos magazines, podcasts et jeux pour explorer les mathématiques autrement.

Découvrir les offres