1. On suppose dans cette question que les polynômes et ne sont pas premiers entre eux.

    Soit alors un polynôme irréductible de qui divise à la fois les polynômes et (remarque : le polynôme est donc soit un polynôme du premier degré si est , soit un polynôme du premier degré ou du deuxième degré si est ).

    Une des conséquences du théorème de Cayley-Hamilton est que le polynôme caractéristique de et le polynôme minimal de ont les mêmes facteurs irréductibles.

    Donc le polynôme divise le polynôme minimal de , noté .

    Soit le polynôme de tel que .

    Comme le polynôme divise le polynôme , le polynôme est un multiple du polynôme . Par conséquent le polynôme est un polynôme annulateur de . D'où la relation :

    .

    On raisonne alors par l'absurde :

    si la matrice est inversible, en multipliant à gauche l'égalité par l'inverse de la matrice , on obtient :

    .

    Or le polynôme est un diviseur du polynôme minimal de et d'un degré strictement inférieur puisqu'on a l'égalité , d'où l'absurdité de la relation , d'après la définition du polynôme minimal.

    Donc : la matrice n'est pas inversible.

  2. Si les polynômes et sont premiers entre eux, alors il existe deux polynômes et de tels qu'on ait l'identité de Bézout :

    .

    D'où l'égalité des matrices suivante :

    , où désigne la matrice unité de .

    D'après le théorème de Cayley-Hamilton : , d'où l'égalité :

    .

    La matrice est inversible.

  3. Conclusion :

    Pour tout polynôme de , la matrice est inversible si et seulement si les polynômes et sont premiers entre eux.

  4. Soit .

    Comme , la matrice est inversible.

    On remarque ensuite que si et , on a les égalités et .

    D'après ce qui précède, il suffit de savoir si les polynômes et sont premiers avec le polynôme caractéristique de .

    Un calcul simple donne .

    (On retrouve le fait que est inversible puisque n'est pas valeur propre de )

    Les polynômes et sont premiers entre eux donc la matrice est inversible.

    Par contre les polynômes et ont tous deux comme racine, donc ils ne sont pas premiers entre eux, par conséquent la matrice n'est pas inversible.