La matrice \(M\) peut être interprétée comme la matrice des coordonnées dans la base canonique des 4 vecteurs de \(R^3\):
\(v_1=(5,3,a)\)
\(v_2=(2,-4,b)\)
\(v_3=(4,0,2)\)
\(v_4=(-1,1,-1)\)
Le rang de \(M\) est égal au rang de \(\{v_1,v_2,v_3,v_4\}\) donc à la dimension du sous espace engendré par ces vecteurs.
Le mineur d'ordre 2 non nul de la question précédente montre que \(\{v_3,v_4\}\) est libre, donc le rang de \(\{v_1,v_2,v_3,v_4\}\) est égal à 2 si et seulement si \(v_1\) et \(v_2\) appartiennent au sous-espace engendré par \(\{v_3,v_4\}\).
Par conséquent le rang de \(M\) est égal à 2 si et seulement si les déterminants \(\det\{v_1,v_3,v_4\}\) et \(\det\{v_2,v_3,v_4\}\) sont nuls.
\(\det\{v_1,v_3,v_4\}=\left|\begin{array}{ccc}5&4&-1\\3&0&1\\a&2&-1\end{array}\right|\)
En ajoutant la ligne 2 aux lignes 1 et 3, puis en développant suivant la colonne 3 on a :
\(\left|\begin{array}{ccc}8&4&0\\3&0&1\\a+3&2&0\end{array}\right|=4a-4\)
\(\det\{v_2,v_3,v_4\}=\left|\begin{array}{ccc}2&4&-1\\-4&0&1\\b&2&-1\end{array}\right|\)
En procédant de même on obtient :
\(\left|\begin{array}{ccc}-2&4&0\\-4&0&1\\b-4&2&0\end{array}\right|=4b-12\)
Le rang de \(M\) est donc égal à 2 si et seulement si les valeurs des paramètres \(a\) et \(b\) sont : \(a=1\) et \(b=3\).