Le système linéaire est homogène, donc il admet comme solution. Cette solution est unique si et seulement si le déterminant du système est non nul ; on en déduit qu'il admet d'autres solutions que si et seulement si est nul.

Le déterminant du système est :

On cherche donc les valeurs de qui annulent ; la méthode choisie pour le calcul de doit donc privilégier une factorisation de .

On observe qu'en retranchant la troisième ligne de la première ( ), on obtient une factorisation par :

On fait ensuite la transformation , puis on développe suivant la première ligne.

D'où .

Le système admet donc des solutions autres que si et seulement si .

Étudions maintenant le système pour chacune de ces trois valeurs de .