sigmoïde

Imaginez un curseur qui reçoit n’importe quel nombre réel. Pour une entrée très négative, sa sortie se rapproche de 0 ; pour une entrée très positive, elle se rapproche de 1. Entre les deux, la transition s’accélère puis ralentit, ce qui dessine un S.

La sigmoïde réalise cette transformation continue. Elle vaut exactement 1/2 lorsque l’entrée vaut 0, sans jamais atteindre 0 ni 1 pour une entrée réelle finie.

La sigmoïde logistique standard est une fonction définie pour tout nombre réel. Si x désigne l’entrée, sa valeur est donnée par $f(x)=\frac{1}{1+e^{-x}}f(x)=\backslash frac\{1\}\{1+e^\{-x\}\}$. Elle appartient toujours à l’intervalle ouvert ]0, 1[, augmente strictement et passe par le point (0, 1/2). Ce point est aussi son point d’inflexion : la courbe y change de courbure.

Une famille plus générale remplace l’exposant −x par −kx. Le nombre réel non nul k règle la pente au point d’inflexion : $f_k(x)=\frac{1}{1+e^{-kx}}f\_k(x)=\backslash frac\{1\}\{1+e^\{-kx\}\}$. La courbe est croissante lorsque k est positif et décroissante lorsque k est négatif. Dans les deux cas, elle passe par (0, 1/2).

Cette courbe transforme ainsi toute entrée réelle en un nombre strictement compris entre 0 et 1. Cette propriété explique son emploi en statistique, en modélisation biologique et comme fonction d’activation dans des réseaux de neurones artificiels. Le graphe rend visibles sa forme en S, ses valeurs limites et son point central.

On applique la sigmoïde standard à trois entrées : −2, 0 et 2. Le paramètre vaut donc k = 1, et la sortie cherchée est $f(x)=\frac{1}{1+e^{-x}}f(x)=\backslash frac\{1\}\{1+e^\{-x\}\}$.

1. Pour x = −2, l’exposant vaut 2 : $f(-2)=\frac{1}{1+e^2}\approx \mathrm{0,1192}f(-2)=\backslash frac\{1\}\{1+e^2\}\backslash approx\; 0\{,\}1192$.

2. Pour x = 0, l’exponentielle vaut 1 : $f(0)=\frac{1}{1+1}=\frac{1}{2}f(0)=\backslash frac\{1\}\{1+1\}=\backslash frac\{1\}\{2\}$.

3. Pour x = 2, l’exposant vaut −2 : $f(2)=\frac{1}{1+e^{-2}}\approx \mathrm{0,8808}f(2)=\backslash frac\{1\}\{1+e^\{-2\}\}\backslash approx\; 0\{,\}8808$.

Les sorties sont donc environ 0,1192, exactement 0,5 et environ 0,8808. Un contrôle direct utilise la symétrie $f(-x)=1-f(x)f(-x)=1-f(x)$ : les deux valeurs arrondies extrêmes ont bien une somme égale à 1 à la précision affichée.

En statistique, la sigmoïde convertit un score réel en une valeur entre 0 et 1. Cette valeur peut recevoir une interprétation probabiliste lorsque le modèle et son étalonnage la justifient ; sans ce cadre, elle reste seulement la sortie d’une fonction.

Dans un réseau de neurones artificiels, elle peut servir de fonction d’activation. Elle est adaptée quand une sortie bornée entre 0 et 1 est recherchée ; une autre activation est préférable si la sortie doit pouvoir rester négative ou croître sans cette borne.

En modélisation biologique, sa forme en S représente une transition qui ralentit à l’approche de deux niveaux limites. Le paramètre k est alors ajusté pour rendre la transition plus progressive ou plus abrupte.

Sigmoïde et fonction exponentielle. L’exponentielle de l’entrée intervient dans la formule, mais elle n’est pas la sigmoïde. La fonction exponentielle prend seulement des valeurs positives et n’est pas bornée au-dessus ; la sigmoïde reste dans ]0, 1[. À l’entrée 0, la première vaut 1 tandis que la seconde vaut 1/2.

Valeur entre 0 et 1 et probabilité. Une sortie de 0,8 n’est pas automatiquement une probabilité de 80 %. Le critère décisif est le contexte statistique qui relie la sortie à un événement. Sans cette interprétation, 0,8 est seulement une valeur de la sigmoïde.

Le signe de k inverse le sens. Pour k > 0, la courbe monte de 0 vers 1 ; pour k < 0, elle descend de 1 vers 0. Il faut donc vérifier le signe avant de qualifier la fonction de croissante.

Le cas k = 0 est dégénéré. La formule donne alors constamment 1/2 : il n’y a plus de courbe en S ni de changement de courbure. C’est pourquoi la famille décrite impose k non nul.

Les bornes ne sont jamais atteintes. Pour toute entrée réelle finie, la sortie est strictement comprise entre 0 et 1. Les valeurs 0 et 1 sont seulement approchées lorsque l’entrée s’éloigne indéfiniment, dans un sens qui dépend du signe de k.

Une pente forte n’est pas un saut. Une grande valeur absolue de k rend la transition très abrupte près de 0, mais la fonction reste continue. Il faut conserver la formule au lieu de remplacer la courbe par deux paliers.

La fiche Logistique (fonction et suite) replace la sigmoïde dans la famille logistique et ses autres formulations.

La fonction exponentielle éclaire le terme qui commande l’approche des deux niveaux limites.

Le point d’inflexion précise le changement de courbure qui se produit au centre de la sigmoïde.

L’article Apprentissage automatique et réseaux de neurones développe le contexte où la sigmoïde sert de fonction d’activation.