Cardinal d'un ensemble

De tout temps, les mathématiciens ont fait usage de raisonnements élémentaires portant sur des ensembles de façon plus ou moins consciente, par exemple la phrase : "Le tout est plus grand que la partie". Le maniement des syllogismes (tel que "Si tout \(A\) est un \(B,\) si tout \(B\) est un \(C,\) alors tout \(A\) est un \(C"),\) la question de l'appartenance d'un objet à une collection, l'inclusion d'un ensemble dans un autre relève de ce type de raisonnement.

Cantor, le premier à revendiquer l'usage des ensembles infinis en mathématiques, donne la "définition" suivante :

"Par ensemble, on entend un groupement en un tout, d'objets bien distincts de notre intuition ou de notre pensée."

Ce qui montre une fois de plus qu'on ne peut pas tout définir en mathématiques et que, ainsi que nous l'avons vu, le terme d'ensemble fait partie des termes primitifs.

Très tôt dans l'histoire, les mathématiciens se sont heurtés au problème de l'infini. Un philosophe de l'Antiquité a avancé ainsi des paradoxes logiques faisant intervenir l'infini dont le plus célèbre était celui d'Achille et la tortue: dans une course entre Achille et la tortue, Achille laisse la tortue prendre une avance au départ; Achille ne rattrapera jamais la tortue, dit le philosophe, car lorsque Achille parvient à la position atteinte par la tortue quand Achille a commencé sa course, celle-ci a avancé et se trouve dans une autre position; quand Achille atteint cette nouvelle position, la tortue a de nouveau avancé et ainsi de suite. Bien sûr, Zénon sait parfaitement qu'Achille rattrape la tortue, mais il s'agit pour lui de lancer un défi: comment démonter le raisonnement précédent?

La solution trouvée par le philosophe Aristote dans l'Antiquité fut de distinguer deux sortes d'infini.

L'infini potentiel, ou infini en puissance que l'on utilise par exemple lorsqu'on dit "Pour tout entier, on peut en trouver un plus grand";

L'infini actuel qui consiste à accepter et à travailler avec une infinité d'objets, de nombres considérés comme disponibles en même temps, tels que l'infinité d'intervalles de temps et de distances envisagés dans l'exemple d'Achille ou pour prendre un exemple d'aujourd'hui, le fait de dire "soit l'ensemble des entiers...".

La solution trouvée par Aristote fut d'accepter des raisonnements faisant intervenir l'infini potentiel et de refuser l'infini actuel, en considérant qu'on n'en avait pas besoin en mathématiques.

Le point de vue auquel se sont arrêtés les mathématiciens depuis l'Antiquité a, pour l'essentiel, été de refuser le débat. On évite d'introduire l'infini actuel, ensemble portant sur une infinité d'objets existant simultanément, et on se contente, y compris dans le calcul infinitésimal, de l'infini potentiel, en se donnant la possibilité d'augmenter ou de diminuer toute grandeur donnée. Classiquement, on peut dire qu'un point appartient à une droite, mais il est impossible de dire que la droite est constituée de points. Ceci sert de garde-fou après les querelles provoquées par l'usage de l'infini.

Galilée (au début du dix-septième siècle) remarque que la relation entre les entiers naturels et leurs carrés est bijective ; donc qu'une partie des entiers est en bijection avec les entiers. La relation "Le tout est plus grand que la partie", ne s'applique pas aux ensembles infinis. Ceci renforce la méfiance des mathématiciens vis à vis de l'usage de l'infini actuel mais pourtant les nécessités de l'analyse les confrontent à ce problème. Par exemple, les développements décimaux illimités font bien intervenir un infini actuel, infinité des chiffres du développement de nombres tels que \(\sqrt 2\)ou \(\pi.\) De plus en plus, les mathématiciens font usage de l'infini dans leurs raisonnements, sans avoir les moyens de justifier rigoureusement ces méthodes.

L'acceptation de l'usage de l'infini actuel fut le fait de plusieurs mathématiciens de la seconde moitié du siècle dernier dont Bolzano est un précurseur et Cantor le plus connu.

Au cours de cette période, on suit un processus de débat et d'acceptation. Ainsi, on voit une évolution chez un mathématicien comme Bolzano. En 1817, il montre l'existence de la borne inférieure d'un ensemble minoré de nombres réels par un raisonnement en compréhension. Trente ans plus tard, il utilise l'infini actuel en montrant que deux intervalles compacts de\(\mathbb R\) sont équipotents, (c'est-à-dire en bijection). Il remarque qu'une différence caractéristique entre ensemble fini et ensemble infini est l'existence de sous-ensembles propres équipotents au tout. Cependant Bolzano n'arrive pas à dégager clairement la notion de puissance d'un ensemble (généralisation de la notion de nombre d'éléments pour un ensemble infini) et à la distinguer de la notion d'ordre de grandeur.

Il faut séparer nettement les questions liées à l'infini et à la notion de cardinal ou de puissance d'un ensemble, beaucoup plus difficiles. Depuis les paradoxes de Zénon, jusqu'à Bolzano et Cantor, les mathématiciens sont confrontés à la difficulté de concevoir une grandeur finie composée d'une infinité de points dépourvus de grandeur. La notion d'équipotence, c'est-à-dire de l'existence d'une bijection entre ensembles est dégagée petit à petit.

Quand on travaille avec les ensembles finis, pour comparer deux ensembles du point de vue du nombre de leurs éléments, on peut soit compter celui-ci pour chacun des deux ensembles, soit essayer d'établir une bijection entre les deux ensembles. Toutefois, si l'un des ensembles finis est strictement inclus dans l'autre, on sait qu'il a moins d'éléments.

Ceci n'est plus vrai pour les ensembles infinis. Paradoxalement, la propriété qui avait choqué Galilée va devenir une définition. On va définir un ensemble infini comme un ensemble qui possède un sous-ensemble propre équipotent à cet ensemble.

On peut introduire la notion d'ensemble dénombrable pour des ensembles d'objets que l'on peut ranger en une suite, c'est-à-dire pour lesquels on peut établir une bijection avec l'ensemble des entiers. Y a-t-il des ensembles qui ne sont pas dénombrables?

Cantor aborde ces questions à propos d'ensembles exceptionnels apparus dans l'étude des séries trigonométriques. En 1873 il montre que l'ensemble des rationnels est dénombrable et que l'ensemble des nombres réels ne l'est pas. En 1877, après avoir montré que les ensembles \(\mathbb R\)et \(\mathbb R^2\) peuvent être mis en bijection, il écrit à Dedekind "Je le vois, je ne le crois pas", tant ce résultat est en contradiction avec l'intuition. De 1878 à 1884, il publiera six mémoires sur la théorie des ensembles. Il dégage la notion d'équipotence de deux ensembles, de puissance d'un ensemble, d'ensemble totalement ordonné, étudie les propriétés topologiques de\(\mathbb R\) et aborde les problèmes de mesure. Ses travaux sont très controversés, et s'il reçoit l'appui de Dedekind et de Weierstrass, il se heurte à une très grande hostilité de mathématiciens influents comme Schwarz et Kronecker.

Dedekind prolonge les travaux de Cantor en dégageant la notion d'application quelconque d'un ensemble dans un autre, la notion d'ensemble ordonné et celle d'ensemble réticulé.

Très vite le langage des ensembles est adopté par les mathématiciens, mais très vite aussi, des paradoxes surgissent : par exemple Cantor lui-même en montre l'apparition lorsque l'on utilise une notion telle que "l'ensemble de tous les ensembles". En voici quelques autres en mathématiques ou ailleurs :

La règle "toutes les règles possèdent des exceptions" est une règle; donc elle doit avoir une exception; donc au moins une règle ne possède pas d'exception.

On connaît ainsi plusieurs énoncés autoréférents qui se nient eux-mêmes : le paradoxe du menteur quand il dit "je mens", faut-il le croire ? Que penser de "la phrase que j'énonce est fausse" ?

Russel en 1902 définit la classe \(N\) de tous les classes \(E\) qui n'appartiennent pas à elles-mêmes. D'après la définition, \(N\) ne s'appartient pas. Mais si \(N\) ne s'appartient pas, il fait partie des classes qui ne s'appartiennent pas et appartient donc à \(N.\)

Hausdorff en 1914 écrit dans les "Fondements de la théorie des ensembles" que c'est "... un champ dans lequel rien n'est évident, dont les énoncés vrais sont souvent paradoxaux et dont les énoncés plausibles sont faux..."

Certains mathématiciens sont violemment opposés à l'usage des ensembles. D'autres y voient une avancée essentielle:

"La solution des difficultés qui entouraient auparavant l'infini mathématique est probablement la plus grande réalisation dont notre âge ait à se glorifier", Russel, 1910.

"Personne ne nous chassera du paradis que Cantor a créé pour nous", Hilbert.

Différents courants de pensée cherchent une solution à ces problèmes. Ceci conduit à l'élaboration de théories axiomatiques des ensembles fixant "les règles du jeu". Celle utilisée aujourd'hui a été élaborée par Zermelo en 1908 et améliorée par Fraenkel en 1922. Même si on sait qu'on ne pourra jamais prouver qu'elle n'entraîne pas de contradiction, elle est acceptée par la grande majorité des mathématiciens, comme l'exprime le texte de Bourbaki, (collectif de mathématiciens):

"Nous nous contenterons de remarquer que ces difficultés peuvent être surmontées d'une manière qui évite toutes les objections et ne laisse aucun doute quant à l'exactitude du raisonnement".

"Pendant vingt-cinq siècles, les mathématiciens ont corrigé leurs erreurs, voyant leur science enrichie et non pas appauvrie ; en conséquence, cela leur donne le droit de contempler le futur avec sérénité".

Les solutions trouvées pour la théorie élémentaire des ensembles ont été esquissées avant. On va voir maintenant ce qu'est le cardinal d'un ensemble et chercher quels sont les cardinaux des ensembles de nombres connus. Quelques indications sur les démonstrations de dénombrabilité ou non dénombrabilité d'ensembles seront données pour permettre à ceux qui le souhaitent de faire eux-mêmes les démonstrations complètes.