Quelle stratégie utiliser pour répondre à une question du type "Déterminer une base de l'image (respectivement du noyau) d'un endomorphisme donné" ?

Il faut noter que, du fait du théorème du rang, dès que l'on connaît une base de l'un, on connaît la dimension de l'autre ; pour ce dernier, il suffira donc, pour avoir une base, d'avoir une famille libre ou génératrice ayant le bon nombre d'éléments.

Il y a par conséquent un choix à faire : par lequel faut-il commencer, de l'image ou du noyau, pour avoir la démonstration la plus courte, la plus simple et la moins redondante possible ?

On ne sait rien à l'avance du noyau et, même si on connaissait sa dimension, on ne pourrait pas faire l'économie de la recherche explicite de ses éléments.

Il parait donc judicieux de commencer par rechercher le noyau. En fait on va en déterminer une base, on aura donc sa dimension d'où on déduira la dimension de l'image et on pourra alors terminer l'étude de la façon suivante :

Compte tenu de la façon dont l'endomorphisme est donné (image des vecteurs d'une base), on a déjà un système de générateurs de l'image de . Donc la connaissance de la dimension nous permettra rapidement de trouver une base en cherchant une famille libre ayant le bon nombre d'éléments dans la famille .

Soit un élément de tel que . Cette égalité est équivalente à :

Comme est une base de , cette égalité équivaut au système :

On va résoudre ce système par la méthode du pivot de Gauss en repoussant la discussion sur le paramètre le plus tard possible, pour ne pas introduire de cas particuliers inutiles.

On voit que la troisième équation est l'opposée de la deuxième ; par conséquent le système est équivalent au système suivant :

Apparaît alors naturellement la discussion en fonction du paramètre , en considérant la dernière équation.

La dernière équation implique , la deuxième donne alors et la troisième .

Donc un vecteur appartient au noyau de si et seulement si il peut s'écrire

Le vecteur non nul engendre le noyau de . Il définit donc une base de qui est donc de dimension . L'image de est donc de dimension (théorème du rang).

L'observation de l'expression des vecteurs sur la base permet de "voir" la relation : soit ,

donc les vecteurs sont linéairement dépendants, est combinaison linéaire des vecteurs et .

Donc les vecteurs forment un système de générateurs de l'image de ; comme sa dimension est , définit une base de l'image de .

Deuxième cas :

Le système devient

On a alors et . Donc un vecteur appartient au noyau de si et seulement si il peut s'écrire et sont des nombres réels quelconques. Les vecteurs engendrent le noyau de . Ils ne sont pas colinéaires, donc ils sont libres et définissent une base de , qui est donc de dimension .

Par conséquent l'image de est de dimension :

elle est engendrée par les vecteurs tels que

Il suffit donc de trouver deux vecteurs linéairement indépendants dans cette famille. Par exemple les deux premiers ne sont pas colinéaires, donc ils sont linéairement indépendants et donc définissent une base de l'image de .

Troisième cas :

Le système devient

On a alors et . Donc un vecteur appartient au noyau de si et seulement si il peut s'écrire et sont des nombres réels quelconques.

Les vecteurs engendrent le noyau de . Ils ne sont pas colinéaires, donc ils sont linéairement indépendants et définissent une base de , qui est de dimension .

Par conséquent l'image de est de dimension :

elle est engendrée par les vecteurs : tels que

Il suffit donc de trouver deux vecteurs libres dans cette famille. Par exemple les deux premiers ne sont pas colinéaires, donc ils sont libres et donc définissent une base de l'image de .

On peut donc résumer les résultats trouvés de la manière suivante :

Base de

Base de