Position du problème
Lorsque \(f\) est une forme bilinéaire symétrique sur un espace vectoriel \(E\) et \(F\) un sous-espace vectoriel de \(E\), les sous-espaces \(F\) et \(F^\perp\) sont-ils supplémentaires ? L'exemple suivant montre que la réponse dépend à la fois de la forme bilinéaire \(f\) et du sous espace \(F\).
Exemple :
Soit \(f\) la forme bilinéaire symétrique de \(\mathbf R^3\) définie pour tout \(x=(x_1,x_2,x_3),~y=(y_1,y_2,y_3)\)de \(\mathbf R^3\) par \(f(x,y)=x_1y_1+x_2y_2-x_3y_3\).
Si \(F\) est le sous-espace de \(\mathbf R^3\) d'équation \(x_1+x_2+x_3=0\), alors son orthogonal pour \(f\) est \(F^\perp=Vect\{(1,1,-1)\}\). On a \(F\cap F^\perp\) et \(\dim F+\dim F^\perp=\dim \mathbf R^3\), donc les sous-espaces \(F\) et \(F^\perp\) sont supplémentaires : \(F\oplus F^\perp=\mathbf R^3\).
Si \(G\) est le sous-espace de \(\mathbf R^3\) d'équation \(x_1+x_3=0\), alors son orthogonal pour \(f\) est \(G^\perp=Vect\{(1,0,-1)\}\). On a \(G^\perp\subset G\), donc les sous-espaces \(G\) et \(G^\perp\) ne sont pas supplémentaires.