valeur singulière

Imaginez un cercle dessiné sur une feuille élastique. Une matrice peut l’étirer en une ellipse : ses valeurs singulières mesurent les facteurs d’étirement selon les directions privilégiées. Dans notre exemple, le cercle devient trois fois plus large, mais garde la même hauteur. Les deux valeurs singulières sont donc 3 et 1.

Ces nombres sont toujours positifs ou nuls. Ils indiquent l’intensité des transformations, sans retenir un éventuel retournement de direction.

Soit A une matrice complexe de m lignes et n colonnes. Sa matrice adjointe, notée A^*, est la transposée de sa matrice conjuguée. La matrice A^*A possède n lignes et n colonnes ; elle est hermitienne et semi-définie positive. Ses valeurs propres sont donc réelles et positives ou nulles. Les valeurs singulières de A sont les racines carrées de ces valeurs propres, comptées avec leur multiplicité.

Pour chaque valeur propre retenue de A^*A, notée λ_i, la valeur singulière correspondante, notée σ_i, vérifie : ${\sigma }_i=\sqrt{{\lambda }_i}\backslash sigma\_i=\backslash sqrt\{\backslash lambda\_i\}$. Les valeurs singulières non nulles ne dépendent pas du format choisi. Pour une matrice rectangulaire, le nombre de zéros affichés dépend de la convention complète ou réduite. Les valeurs sont souvent rangées par ordre décroissant.

La décomposition en valeurs singulières, ou SVD, écrit A comme le produit de deux transformations unitaires et d’une matrice diagonale rectangulaire Σ. Les coefficients diagonaux de Σ sont les valeurs singulières : $A=U\mathrm{\Sigma }{V}^{\ast }A=U\backslash Sigma\; V^*$. Cette décomposition existe aussi pour une matrice rectangulaire et sépare les directions d’entrée, les facteurs d’étirement et les directions de sortie.

On considère la matrice réelle A qui multiplie la première coordonnée par 3 et conserve la seconde. Les données sont ses quatre coefficients, tous exacts :

1. Comme A est réelle et diagonale, sa matrice adjointe A^* est égale à A.

2. On multiplie A^* par A :

3. Les valeurs propres d’une matrice diagonale se lisent sur sa diagonale : elles valent 9 et 1.

4. Leurs racines carrées donnent les valeurs singulières : σ₁ = 3 et σ₂ = 1.

Le contrôle est géométrique : le vecteur horizontal de longueur 1 devient de longueur 3, tandis que le vecteur vertical de longueur 1 reste inchangé. Le cercle unité est donc envoyé exactement sur une ellipse de demi-axes 3 et 1. Une représentation de ces deux formes rend l’étirement visible.

En compression de données, la SVD classe les composantes par valeur singulière décroissante. On conserve les plus grandes lorsque quelques directions concentrent l’essentiel de la transformation ; on garde davantage de composantes si les valeurs diminuent lentement.

En analyse numérique, la plus grande valeur singulière donne l’amplification maximale. Pour une matrice carrée ou de rang colonne plein, la plus petite donne l’amplification minimale ; si la matrice a un noyau non nul, certaines directions d’entrée sont écrasées, même si la convention réduite n’affiche pas ces zéros. Une très petite valeur signale une direction presque écrasée ; on préfère alors une méthode qui traite explicitement ces directions à une inversion directe sensible aux perturbations.

En apprentissage automatique, une matrice de données peut être remplacée par une approximation de rang plus faible. La SVD convient lorsque l’on cherche une structure linéaire compacte ; elle ne remplace pas un modèle non linéaire lorsque les données suivent une géométrie courbe.

Valeur singulière et valeur propre. Une valeur propre décrit l’action d’une matrice carrée sur une direction qu’elle conserve. Une valeur singulière mesure un facteur d’étirement et existe aussi pour une matrice rectangulaire. Pour la matrice diagonale de coefficients −3 et 1, les valeurs propres sont −3 et 1, tandis que les valeurs singulières sont 3 et 1.

Valeur singulière et vecteur singulier. La première est un nombre positif ou nul. Le second est une direction d’entrée ou de sortie associée à ce facteur. Dans notre exemple, 3 est une valeur singulière et la direction horizontale est un vecteur singulier associé.

Valeur singulière nulle. Une valeur égale à 0 signifie qu’au moins une direction est entièrement écrasée. Pour une matrice carrée, cela signale qu’elle n’est pas inversible ; il faut alors éviter toute formule supposant un inverse.

Valeurs répétées. Les nombres singuliers restent bien définis, mais les vecteurs singuliers associés ne sont pas uniques. Une rotation à l’intérieur du sous-espace correspondant fournit d’autres directions valables ; il ne faut pas attribuer une signification absolue à une base particulière.

Presque zéro n’est pas zéro. En calcul numérique, une petite valeur singulière peut provenir des données ou des erreurs d’arrondi. Le seuil de troncature doit être annoncé relativement à la plus grande valeur et à la précision du calcul, plutôt que traité comme une constante universelle.

Matrice rectangulaire. La SVD s’applique toujours, mais le nombre de valeurs singulières et la forme de Σ dépendent des dimensions choisies et de la convention complète ou réduite. Il faut préciser la convention avant de comparer les tailles des facteurs.

Valeur propre — Relier les valeurs propres de A^*A aux racines qui définissent les valeurs singulières.

Matrice adjointe — Voir comment la conjugaison et la transposition construisent la matrice A^* utilisée dans le calcul.

Matrice hermitienne — Approfondir la structure qui garantit des valeurs propres réelles pour A^*A.

Une matrice pour une image — Observer comment une image numérique devient une matrice avant une éventuelle compression.