Pré-orthogonal

Dans le plan, imaginez une flèche horizontale et cherchez toutes les flèches qui lui sont perpendiculaires. Elles forment une droite verticale passant par l'origine. Cette collection est l'orthogonal de l'ensemble choisi : chaque vecteur y fait un angle droit avec chaque élément de cet ensemble. Même si l'ensemble de départ contient plusieurs vecteurs, l'orthogonal rassemble les directions qui leur sont toutes perpendiculaires. Il forme toujours un sous-espace fermé, ce qui signifie notamment qu'une limite de vecteurs orthogonaux reste orthogonale.

Soit A un ensemble de vecteurs d'un espace préhilbertien, c'est-à-dire un espace vectoriel muni d'un produit scalaire. Son orthogonal, noté $A^{\perp }A^\backslash perp$, est l'ensemble des vecteurs x dont le produit scalaire avec chaque vecteur a de A est nul :

Le symbole $⟨x,a⟩\backslash langle\; x,a\backslash rangle$ désigne le produit scalaire de x et de a. L'orthogonal est un sous-espace vectoriel fermé : il contient le vecteur nul, il est stable par addition et par multiplication par un scalaire, et il contient les limites de ses suites convergentes.

Le sous-espace engendré par A regroupe toutes les combinaisons linéaires finies des vecteurs de A. Son orthogonal est exactement celui de A. Dans un espace de Hilbert, la décomposition orthogonale en une partie appartenant à ce sous-espace et une partie lui étant orthogonale exige que le sous-espace considéré soit fermé ; sinon, il faut prendre sa fermeture.

Dans le plan euclidien, muni du produit scalaire usuel, prenons l'ensemble A = {(1, 0)} et, séparément, le vecteur v = (3, 4) à décomposer. Nous cherchons l'orthogonal de A, puis la décomposition de v selon cette direction et sa direction perpendiculaire.

Les données sont les suivantes : le vecteur de référence est (1, 0), le vecteur à décomposer est (3, 4), et le produit scalaire est la somme des produits des coordonnées correspondantes.

Un vecteur quelconque de coordonnées (x, y) appartient à l'orthogonal si son produit scalaire avec (1, 0) vaut zéro.
Le produit scalaire vaut x × 1 + y × 0 = x.
La condition devient x = 0.
L'orthogonal de A est donc l'axe vertical, constitué des vecteurs (0, y).

La composante de v dans la direction de A est (3, 0). La composante orthogonale est (0, 4). Leur somme donne (3, 0) + (0, 4) = (3, 4), qui est bien v. Le contrôle est direct : le produit scalaire de (0, 4) avec (1, 0) vaut 0.

Pour repérer une direction perpendiculaire à plusieurs contraintes linéaires, on traduit chaque contrainte par un produit scalaire nul. L'ensemble des solutions simultanées est l'orthogonal des vecteurs qui portent ces contraintes.

Dans un espace euclidien de dimension finie, cette construction accompagne la projection orthogonale. On sépare alors un vecteur en une composante dans un sous-espace fermé et une composante qui vérifie les produits scalaires nuls avec ce sous-espace.

Pour calculer concrètement, la méthode par système d'équations est préférable lorsque les vecteurs sont donnés par leurs coordonnées. Elle rend chaque condition vérifiable et évite de confondre une direction perpendiculaire avec une simple direction différente.

L'orthogonal d'un ensemble n'est pas l'ensemble des vecteurs qui ne lui appartiennent pas. Le critère qui tranche est le produit scalaire : dans le plan, (0, 1) est orthogonal à (1, 0), tandis que (2, 1) n'est pas orthogonal à (1, 0), même si ces deux vecteurs sont distincts de celui de départ.

L'orthogonal d'un ensemble ne se confond pas non plus avec un complément vectoriel choisi arbitrairement. Un complément doit seulement fournir une somme directe ; l'orthogonal impose en plus la nullité des produits scalaires. Pour A = {(1, 0)}, la droite engendrée par (1, 1) est un complément vectoriel, mais elle n'est pas l'orthogonal de A.

Le mot fermé concerne l'orthogonal, pas automatiquement le sous-espace engendré par A. En dimension infinie, l'ensemble des combinaisons linéaires finies peut ne pas être fermé. Dans ce cas, la projection orthogonale garantie dans un espace de Hilbert porte sur sa fermeture ; parler d'une composante appartenant au sous-espace non fermé serait trop fort.

Le cas A = ∅ rappelle aussi que la condition « être orthogonal à tout élément de A » n'impose aucune contrainte : l'orthogonal de l'ensemble vide est tout l'espace. À l'inverse, si A contient le vecteur nul seulement, la condition reste également automatique, puisque tout produit scalaire avec le vecteur nul vaut zéro.

Enfin, l'orthogonal dépend du produit scalaire choisi. Deux espaces vectoriels identiques munis de produits scalaires différents peuvent donner des directions orthogonales différentes. Il faut donc toujours identifier le produit scalaire avant de résoudre les équations.

Un prolongement naturel consiste à étudier la projection orthogonale : elle utilise la séparation entre une composante portée par un sous-espace fermé et une composante dans son orthogonal. Cette perspective relie la définition à la recherche du meilleur représentant selon la distance induite par le produit scalaire.