Logo825 94


La théorie des ensembles et son interprétation ontologique 

 

 

Nous allons proposer un survol parcellaire de la théorie des ensembles, théorie nouvelle qui peut être vue comme un moment de refondation de la mathématique à l'aube du XXe siècle. Nous verrons à cette occasion l’importance de l’axiome de compréhension restreinte, qui permet de dépasser le paradoxe de Russell. Cet axiome implique un présupposé ontologique fort au sujet des éléments sur lesquels on s’autorise à raisonner, ce qui intéresse le philosophe.

 

Pour citer cet article 

Mehyaoui Selma. La théorie des ensembles et son interprétation ontologique. 2021. https://philosciences.com/513.

 

Plan :


  1. De la dualité des mathématiques à leur refondation
  2. La refondation par Cantor
  3. Dépasser le paradoxe de Russell
  4. Fonder l'identité sur l’appartenance ?
  5. Conclusion

 

Texte intégral :

1. De la dualité des mathématiques à leur refondation

Les Éléments d’Euclide (en grec ancien Στοιχεία / stoïkheïa, env. 300 av. J.-C.) fondaient les mathématiques sur une axiomatisation géométrique. Plus tard, au XVIIe siècle, l’analyse proposa une inflexion plus scripturaire à la mathématique (pensons à Leibniz, au calcul différentiel), concomitante de l’émergence de la théorie de Newton.

Tracer en géométrie, compter en analyse, étaient les maîtres mots de la pratique mathématique. De cette existence bihèdre, la Mathématique s’accommodait et David Hilbert, au début du XXe siècle, réconcilia les intuitions visuelles de la géométrie avec les écritures studieuses de l’analyse en théorisant ses espaces (on pourra alors faire le raccord, et écrire des probabilités et des espérances en termes de produits scalaires ou de projections, ou penser des vecteurs dans des espaces de fonctions).

Mais les efforts de Hilbert, précisément, doivent beaucoup à sa foi en une unité (et une perfection) possible des mathématiques à son admiration pour le grand Cantor. Il ne voulut jamais s’exiler du « paradis » que, selon lui, Cantor avait créé, envers et contre toutes les incohérences qui furent à raison soulevées. Car, avec la théorie des ensembles, une refondation profonde des Mathématiques venait d’émerger qui se proposait d'être à la hauteur de l’exigence de rigueur et d’unité que les mathématiciens attendaient.

Le premier temps de cette refondation avait, donc, eu lieu à la fin du XIXe siècle avec Georg Cantor. Quelques décennies plus tard, Russell et Whitehead publieront leurs Principia Mathematica (1913) et mettront la théorie des ensembles au cœur du système de fondation des mathématiques.

Nous allons dérouler notre brève exploration du caractère fondateur de la théorie des ensembles en mathématiques et de ses implications en deux temps.

- D’abord, le temps de l’Histoire : comment se déroula cette nouvelle fondation ? Pourquoi la théorie des ensembles de Cantor devrait-elle servir de socle à l'édifice mathématique tel que rebâti par Russell et Whitehead ? Quels furent quelques uns de ses plus ardents artisans, de ses plus sceptiques détracteurs ? Quelle postérité pour la théorie des ensembles ? Nous verrons que l’importance de la théorie des ensembles dépasse la seule mathématique pour embrasser également la logique - et donc, pas le truchement du langage ou du raisonnement, la philosophie.

- Ensuite, nous interrogerons les implications philosophiques de cette importance fondamentale donnée à la théorie des ensembles : n’annonce-t-elle pas une philosophie qui fondera l’identité sur l’appartenance ? L’axiome de compréhension restreinte n’implique-t-il pas une telle lecture ? Les implications quant à l'infini (ou aux infinis) sont elle transposables dans l'Univers  ?  Les critiques que l’on peut, dès lors, apporter au glissement de la mathématique à la philosophie qui s'opère alors, ne sont-elles pas nombreuses ? L’analogie mathématiques-philosophie au cœur de l’approche d'un philosophe comme Alain Badiou n’est-elle pas alors contrariée au cœur même de son intention ? N’implique-t-elle pas une ontologie enchaînée à l’appartenance, à la communauté au sens large ? Nous tenterons de dépasser ces objections en plaidant pour la recherche d’ensembles universels, de propriétés génériques : s’accommoder de la théorie des ensembles en philosophie, c'est reformuler l’impératif de la quête du commun.

2. La refondation par Cantor

Le rôle de Cantor

En 1869, Heine soumet à Cantor la question de l'unicité de l'approximation par une série de Fourier. Cantor commence alors à travailler avec des classes de fonctions. La plus simple de ces classes est celle des fonctions simplement continues. Un an plus tard, il affirme que les fonctions qui sont continues admettent une unique écriture en série de Fourier. Ensuite, Cantor se penche sur le cas des fonctions admettant un nombre fini de points de discontinuité. Dans ce cas, l'unicité tient. Ce début est donc prometteur.

La notion d’ensemble infini avait été étudiée par Bolzano, tchèque et germanophone, dans les années 1820, puis il aura fallu attendre 1847 pour que son livre sorte en parution posthume. En fait, commencer notre exploration de la théorie des ensembles par Cantor est arbitraire : Bolzano l’a précédé, a caractérisé les ensembles infinis, et Cantor lui doit donc beaucoup. Ce dernier se penchera ensuite sur le cas de fonctions admettant un nombre infini de points de discontinuité : et c’est à partir de là qu'il se posera, jusqu’à la fin de ses jours et jusqu’aux affres de la folie, la question des ensembles infinis.

En 1874, Georg Cantor démontre qu’il n’existe pas plus de nombres algébriques que de nombres entiers mais que, par contre, il existe plus de nombres réels. Affirmation qui sut créer l'étonnement car, avec elle, l’infini n'est plus considéré comme une limite inatteignable mais comme un objet d’investigation mathématique. Se marque ainsi la naissance de la théorie des ensembles – qui est en fait aussi une théorie de l’infini – et qui nous occupera ici. On comprend ici que la théorie des ensembles reformule l’intelligence de l'infini, la nuance et la déploiera d'ailleurs en plusieurs infinis possibles par le truchement des cardinalités.
Mais on voit aussi poindre le problème du continu qui occupera toute la fin de la vie de Cantor. Cantor veut montrer que s’il y a un nombre infini de points de discontinuité, l’approximation de Fourier est unique. Il n’y arrivera pas, mais ce sera prouvé en 1908. 

Comme nous l'avons dit, les cardinaux nous autorisent à parler de plusieurs infinis. C’est un premier trait saillant de la théorie des ensembles : la théorie des ensembles reformule l’infini, en même temps qu'elle nous permet de repenser ce que « compter » veut dire (2) . De plus la théorie des ensembles tutoie la vérité apodictique des objets premiers, les donne en collection, sans plus de prétention que les ordonner, les classer, les joindre les uns aux autres.

Mais pourquoi vouloir fonder les mathématiques sur la théorie des ensembles ?

On peut la trouver belle car élémentaire ; elle garantit une axiomatique minimale et économe ontologiquement (on ne charrie pas de grandes suppositions sur la nature de l’espace comme dans la géométrie d’Euclide (qui suppose un espace euclidien, justement) ni ne formule une quelconque contrainte de nature sur quelque ensemble de départ). Elle est donc très élégante.

C’est sans doute ce goût de la vérité dans la simplicité, de l'universalité par l'élémentarité, qui aura mû Cantor (ou Dedekind) dans sa recherche d'une théorie à la fois ramassée dans son axiomatique et exhaustive dans son déploiement, permettant une unification de la mathématique.

Mais, le rêve de Cantor a butté sur un écueil que ce dernier n’avait pas prévu. En 1903, Russell publie en effet son célèbre paradoxe : quid de l’ensemble de tous les ensembles ? Est-ce un ensemble ? Qu’en est il alors, de l'ensemble de tous les ensembles qui ne se contiennent pas eux-mêmes ?

Le paradoxe de Russell

Le paradoxe de Russell découle de la question suivante : l'ensemble des ensembles n'appartenant pas à eux-mêmes appartient-il à lui-même ?

- Si l’on répond oui, alors, comme par définition les membres de cet ensemble n'appartiennent pas à eux-mêmes, il n'appartient pas à lui-même. Il y a contradiction.

- Si l’on répond non, alors il a la propriété requise pour appartenir à lui-même. Émerge à nouveau une contradiction.

Que l’on réponde oui ou que l’on réponde non, nous aboutissons à une contradiction : c’est ce qui rend « paradoxale » l'existence d'un tel ensemble. On peut formuler le paradoxe de Russell de façon plus ramassée. En définissant E comme : E = {X|x ∉ x}, nous avons montré que E ∈ à E est absurde et que E ∉ E l’est aussi. La question se pose de savoir si l’on peut, ou doit, justement parler de E comme d’un «ensemble», puisque nous avons montré qu’une telle définition n’est pas viable. La réponse est non.

La réponse à ces questions exhibe un paradoxe, une contradiction. L’écueil de l’incohérence menace l’édifice de Cantor. Le rêve de Cantor butte sur un écueil que ce dernier n’avait pas prévu. Un grand défi est né à la théorie cantorienne, qui ne se dépassera que par une nouvelle axiomatique, qui restreigne le schéma de compréhension. Nous allons voir que deux étapes son nécessaires.

3. Dépasser le paradoxe de Russell

La restriction de la compréhension des ensembles

Pour dépasser le paradoxe de Russell, il nous faut être plus rigoureux dans notre façon de construire un ensemble, et restreindre la compréhension. Cela correspond au « pour chaque ensemble A » dans l’énoncé qui suit : pour chaque énoncé ϕ de L et pour chaque ensemble A, la collection E={x ∈ A : ϕ(x)} est un ensemble. ϕ est un énoncé du langage L qui dit une propriété que devront vérifier tous les x dans A sélectionnés par notre collection. Par exemple, si A est l’ensemble des nombres naturels et que ϕ(x) vérifie « x est égal à zéro modulo deux » (cela nous fait beaucoup penser aux fonctions de prédicat de Frege), alors on vient de construire l’ensemble des nombres pairs.

Comme nous venons de le suggérer, cette nouvelle formulation de l'ensemble E nous permet de dépasser le paradoxe de Russell. Avant cette reformulation, si l’on se posait la question de savoir ce qu’était exactement un ensemble, Cantor aurait répondu : « un ensemble est constitué par tous les objets qui vérifient une certaine propriété », c’est-à-dire par la compréhension sans restriction, assez intuitive mais prêtant le flanc au paradoxe de Russell. Avec notre nouvelle formulation, on restreint la compréhension et se prémunit donc du paradoxe qui menaçait l’édifice.

En effet, supposons qu’il existe un x tel que pour tout ensemble y, y ∈ x et que x soit un ensemble. Cela revient à supposer que l’ensemble de tous les ensembles existe (en tant qu’ensemble). En appliquant notre nouvelle formulation., nous avons que B = {y ∈ x | y y} est un ensemble : ce qui est une contradiction car la question de savoir si B ∈ B n’a pas de réponse (soit B ∈ B et dans ce cas B B, soit B B et donc non(B B) i.e. B ∈ B). Ainsi, nous venons de montrer par l’absurde que la collection de tous les ensembles n’est pas un ensemble, et que la nouvelle formulation nous prémunit donc de nous autoriser à exhiber le paradoxe de Russell.

Forger une nouvelle axiomatique

Une nouvelle axiomatique va émerger : ce sera l’axiomatisation ZF, pour Zermelo-Fraenkel, que la postérité retiendra sous le terme de théorie ZFC (on y associe, à juste titre car fort pratique, l'axiome du choix). L’axiomatisation ZF a été élaborée au début du XXe siècle par Ernst Zermelo et Abraham Fraenkel (aidés par Thoralf Skolem).
Uniquement pour donner une idée, nous donnerons la liste des axiomes ZFC, liste que les non mathématiciens pourrons se dispenser de lire. Il s'agit d'un série d'axiomes qui permettent de refonder la théorie des ensembles de manière plus stricte.

Énumérons  :
- L’axiome d’Existence d’Ensembles dit : « Il existe un ensemble ».
- L’axiome d’Extensionalité dit : « Chaque ensemble est déterminé par ses éléments, i.e. : si tout élément de l’ensemble A est aussi un élément de B, et inversement, tout élément de l’ensemble B appartient à l’ensemble A, alors les deux ensembles A et B sont égaux ».
- Le Schéma d’axiomes de Compréhension dit : « Pour chaque énoncé φ de L et chaque ensemble A, la collection {x ∈ A : φ(x)} est un ensemble ».
- L’axiome de la paire dit : « (∀x)(∀y)(∃z)(x ∈ z ∧ y ∈ z), i.e. pour chaque choix de deux ensembles x et y, il y en a un troisième qui contient les deux ».
- L’axiome de la Réunion dit : « Pour tout ensemble F, il existe un ensemble qui contient tous les éléments des ensembles éléments de l’ensemble F ».
- Le Schéma d’axiomes de Remplacement dit : « un ensemble A étant donné, son image par une relation fonctionnelle est un ensemble ».
- L’Axiome de l’Infini dit : « Il existe un ensemble auquel appartient l’ensemble vide et qui est clos par application du successeur ».
- L’Axiome de l’Ensemble des Parties dit : « Pour tout ensemble A, il existe un ensemble auquel appartiennent tous les sous-ensembles de A, et seulement ceux-ci. Cet ensemble s’appelle l’ensemble des parties de A et il est noté P (A) ».
- L’axiome de Fondation dit : « Tout ensemble x non vide possède un élément minimal pour l’appartenance sur x, soit un élément y n’ayant aucun élément en commun avec x ». Supposons, en admettant l’axiomatique ZFC, que l’on ait .

En 1908, soit six ou sept ans après la trouvaille du paradoxe de Russell et cinq ans après sa publication, Zermelo publie sa théorie. Elle propose l'axiome d’extensionnalité, l'axiome de la paire, l'axiome de la réunion, l'axiome de l'ensemble des parties, l'axiome de l'infini, le schéma d'axiomes de compréhension, l'axiome de l'ensemble vide. Le schéma d’axiomes de remplacement et l’axiome de fondation compléteront cette collection d’axiomes pour donner l’axiomatisation ZF à proprement parler. L’axiome de compréhension restreinte élimine le paradoxe de Russell, comme nous l'avons prouvé dans ce devoir. La théorie des ensembles peut retrouver son statut fondateur, premier, fondamental. C’est une grande victoire pour l’héritage cantorien !

Deux choses intéressantes

Retenons deux traits saillants du fil historique que nous déroulons.

D’abord, que Russell lui-même, dans les Principia Mathematica qu’il a publiés avec son professeur Whitehead, a dépassé son propre paradoxe en formalisant une théorie des types, qui hiérarchise les objets: il existe des éléments primitifs, dits de type 0; les objets qui contiennent des objets de type 0 sont de type 1, ceux qui contiennent des objets de type 1 sont de typer 2, etc. Ce système interdit le type d'autoréférence qui donne lieu au paradoxe. Mais elle est ontologiquement moins économe que l’axiomatisation ZF, c’est pourquoi nous préférons nous en tenir à cette dernière pour parler de la théorie des ensembles.

Ensuite, retenons également la grande probité intellectuelle de Cantor dans l’adversité qu’est la contradiction russellienne : en effet, averti par le logicien britannique de la découverte de l’incohérence, Cantor a publié une note au lecteur en exergue à son dernier ouvrage, dans laquelle il reconnaît que son édifice est profondément ébranlé par la trouvaille de Russell. Saluons cette honnêteté comme un gage de la bonne foi et de l’amour inconditionnel de la vérité qui anime le vrai mathématicien.

La postérité de la théorie des ensembles est immense : elle irrigue la mathématique telle qu’elle est pratiquée aujourd’hui, mais aura eu également fort affaire dans la fondation de la logique. Pensons la logique du premier ordre de Frege, où les fonctions de prédicat ne peuvent être définies que jointes à la donnée d’un ensemble. Ce qui est intéressant, c’est que Russell comme Frege, qui sont des figures de proue du logicisme, prétendaient fonder la mathématique sur la logique. Ce que nous voyons, c’est que la logique (peut-être pas celle, opaque, des Principia Mathematica de Russell et Whitehead, mais par exemple bien celle de Frege) semble supposer a minima une théorie des ensembles, une donnée de ce que peut être un ensemble, et donc que cette dernière est doublement fondatrice.

Pour la logique, et pour la mathématique, la notion d’ensemble semble donc première. Reste à se rappeler que la logique tutoie les secrets du sens et du langage, et qu’en cela la théorie des ensembles fonde, via un geste syncrétique, bien plus que la mathématique et la logique : c’est la philosophie toute entière qui peut s’en trouver bouleversée.

4. Fonder l'identité sur l’appartenance ?

Appliquer les mathématiques

Nous venons de proposer un survol succinct de la théorie des ensembles comme moment de refondation de la mathématique. Nous avons souligné l’importance de l’axiome de compréhension restreinte, qui permet de dépasser le paradoxe de Russell. Mais justement, il nous semble que cet axiome implique un présupposé ontologique fort qui a une implication importante sur les raisonnements s’appuyant sur la théorie des ensembles ainsi remaniée. Il implique qu'une chose quelconque soit pensée en tant qu'elle est élément d'autre chose - en l'occurrence d'un ensemble de départ. En effet, la possibilité de caractériser un ensemble à partir d'une propriété de ses éléments n'est possible que si l'élément est pris dans un ensemble de départ. De manière formelle :  B = {x ∈ A | P x}.  La contrainte est que x appartienne A. 

Si l'on veut penser une chose ou personne de la réalité empirique selon ce principe, il s'ensuit que son identité dépend de son appartenance ! C'est un problème et non des moindres.

Ainsi Alain Badiou, philosophe français contemporain, ne peut échapper aux conséquences d'un tel présupposé lorsqu'il propose de fonder une ontologie sur l’héritage de la théorie des ensembles. Dans L’Être et l’événement (1988) il détaille l’ontologie, et dans Le nombre et les nombres (1990), l’héritage mathématique auquel il souhaite rendre hommage. L'œuvre de Badiou est difficile à pénétrer : pour autant, nous comprenons qu'il désire utiliser la théorie des ensembles pour repenser l'ontologie, notamment sous prétexte que son formalisme s'y prête. 

Dans L’Être et l’événement Badiou énonce la prééminence de Heidegger en philosophie, il dénonce une pensée contemporaine qui aurait suivi les mutations des mathématiques et la logique du Cercle de Vienne et enfin critique la résurgence d'une doctrine post cartésienne du sujet. Il affirme que la mathématique est la seul ontologie valide (définissant cette dernière selon la formule de l'être en tant qu'être). Il confirmera cette position ultérieurement dans Logiques des mondes et L’Être et l’Événement 2. Alain Badiou soutient la thèse que l'ontologie (théorie de l'être) est plus spécifiquement exprimée par la théorie des ensembles. Par contre dans Le nombre et les nombres. Il y a une critique du nombre, de son règne, de son despotisme, un refus de l'utilisation sociale généralisée du dénombrement.

Problèmes philosophiques 

Presque tout est mathématisable. Cela ne veut pas dire que le Monde soit construit mathématiquement (c'est la thèse galiléenne), cela veut dire que la pensée mathématique est applicable à beaucoup des champs de la réalité. Les questions qui se posent sont : quel est l’intérêt de penser mathématiquement tel aspect de la réalité et quel usage fait-on du résultat ? Cela amène t-il à une vérité sur cette réalité et quelle est la valeur de cette vérité mathématique. Peut on en faire un vérité empirique ? une vérité ontologique ?

Ce qui interpelle le plus chez Badiou, c'est la prétention à une ontologie mathématique, ce qui renvoie à une métaphysique d'avant les avertissements de Kant, puisqu'il s'agit de prétendre pouvoir penser directement l'être, voire même à un idéalisme platonicien. Le cocktail propre à l'auteur nommé, son «matérialiste dialectique» assume qu’il n’y a pas que des corps et des langages, mais aussi des vérités infinies et universelles. La conception formaliste (pour laquelle la mathématique consiste en un système d’opérations réglées) et intellectualisante (pour laquelle ce sont des principes intellectuels originaires qui sont au fondement de la pensée mathématique) sont souvent opposées. On peut les réconcilier et considérer que la pensée mathématique nait de l'association des deux : principes cognitifs mathématiques et langage formalisé permettant des opérations parfaitement réglées. Cette pensée acquiert ainsi une grande efficacité pour saisir certains aspects de la réalité. Mais de là à supposer que la pensée mathématique atteigne le réel en soi, l'être même, c'est une prétention que nous qualifierions d'assez imprudente.

Pour Alain Badiou, « la science de l'être en tant qu'être existe depuis les Grecs, car tel est le statut et le sens des mathématiques » (L'être et l'événement, Introduction §1)  Soudain éclairé par un « trait de lumière », « l'énoncé selon quoi les mathématiques sont l'ontologie » (L'être et l'événement, Introduction §2) vint à Badiou. Suite au passage en revue de l'évolution des mathématiques il en conclut que « La question de la nature exacte du rapport des mathématiques à l'être est donc entièrement concentrée - pour l'époque où nous sommes - dans la décision axiomatique qui autorise la théorie des ensembles » (Idid.). Si l'on suit Badiou, fonder la mathématique sur la théorie des ensembles, c'est donc par la même occasion poser les linéaments d'une ontologie. 

Prenons l'exemple d'une ontologie qui, dans le règne des Hommes, serait fondée sur la théorie des ensembles. Badiou récuse la possibilité d'un fondement des mathématiques (Introduction §3) puisque, pour lui, l'identité mathématiques-ontologie autorise à cette discipline d'hérité de l'apodicticité de l'être-même : pour autant, les mathématiques admettent en pratique un fondement. Lui-même n'oserait sans doute pas le récuser. Il faut donc examiner les conséquences de ce fait-fondation. Chacun d'entre nous serait pensé comme un élément d'un ensemble, qui nous somme et nous dépasse. Dès lors que nous avons détaillé les problèmes des axiomatiques incomplètes, une telle entreprise de fondation d'une philosophie sur la mathématique devient périlleuse. Comprenons pourquoi. Un faisceau de critiques peut émerger de la présence de l’axiome de compréhension restreinte dans l’axiomatique ZF qui fonde la théorie des ensembles contemporaine : pour le dire de façon ramassée, en s’imposant l’axiome de compréhension restreinte, ne dessine-t-on pas alors une identité fondée sur l’appartenance ?

Décrire les individus par la théorie des ensembles est une chose, mais fonder une ontologie sur la dite théorie en est une autre. Dans le premier cas, la Mathématique reste dans le domaine purement épistémique, dans l'autre on l'ontologise, en fait la source-même de notre réalité. Rappelons que dans notre cas il s'agit de considérer les personnes comme des éléments-individus appartenant à un ensemble. Notons que l'entreprise de Badiou fait ce pari en semblant pencher du côté de l'ontologisation que nous venons d'évoquer. La caractérisation par l’appartenance a des conséquences, elle n'est pas neutre. Le philosophe se doit d'en évaluer les conséquences.

Si on décide de considérer les personnes comme des éléments de la théorie des ensembles comportant l’axiome de compréhension restreinte alors on considère ces personnes comme étant caractérisée par leur appartenance. Elle deviennent un individu qui appartient à un ensemble premier. Cet individu doit être quelque chose comme le membre d’un groupe. Ceci n’est pas faux mais partiel. Un individu humain n’est pas que cela. Il a bien d’autres motivations et peut opérer des choix selon une pensée qui se détermine selon ses propres principes et lui confère une "liberté". La théorie des ensembles appliquée dans le royaume des Hommes dénie notre "liberté", laquelle, ne peut s’accommoder de l’axiomatique ZF.

Continuons notre lecture critique : examinons à son tour l’axiome de fondation. Non, tout ne peut être pensé en tant qu’ensemble. Car non, nous ne pourrons toujours exhiber un élément premier. Ce fantasme de la base, de la fondation, de l’élément granulaire minimal, du plus petit commun, traverse la pensée humaine. Il est même au cœur d’une certaine intelligence de Dieu. Il motive la quête de régularité, la foi en l’unité du monde. Pourtant, rien n’est moins sûr que son actualité dans la contingence bigarrée du monde.
Certaines quêtes sont infinies qui ne tombent jamais sur une base première, certaines recherches de commencement sont sans fin, et admettre cela c’est oser s’affranchir de la tutelle de Dieu en même temps que se promettre à un vertige prodigieux. Si la peur de notre propre finitude nous pousse à nous trouver un Dieu, la peur de l’infini est peut-être plus grande encore et ce serait trop facile, et sans doute un peu lâche, que de transposer l’axiome de fondation dans le règne chaotique des choses et de la substance.

Alors, doit-on pour autant rejeter toute philosophie qui prétendrait se trouver des étais, voire une raison d’être, dans la théorie des ensembles ? Peut-être pas. Peut-être la clef est-elle dans une pensée audacieuse de l'ensemble de départ si important dans l'axiome de compréhension, ensemble que nous nous posons par arbitraire.
Peut-être le salut est-il dans la recherche d’ensembles universels, et de propriétés génériques. La quête du commun, plutôt que la soumission au régime de la communauté, doit alors présider à nos explorations. Si on ne peut penser {x | ϕ(x)} mais doit penser {x ∈ A| ϕ(x)} , alors autant chercher un A le plus universel qui soit, et une propriété la plus générique qu’il nous soit possible de trouver. De toute façon, la définition des fonctions de prédicat de la logique de Frege nous enjoignait déjà cette quête par la place toute particulière qu’elle donne à l’émergence du sens dans la sémantique. Que l’on soit ou non dans une intelligence dénotationnelle du sens à la façon du premier Wittgenstein, on comprend bien que nommer, c’est pointer, indiquer, montrer, et donc parcourir puis cerner une collection d’éléments - ici, par "dénotation" nous entendons "référence", au sens de Frege.

La dénotation pour Gotlob Frege correspond au référent concret désigné par un mot ou une proposition. Dans ses Ecrits logiques et philosophiques, on peut lire que : "La dénotation d’un nom propre est l’objet même que nous désignons par ce nom ; la représentation que nous y joignons est entièrement subjective ; entre les deux gît le sens " (Écrits logiques et philosophiques, p. 106). En général, nous supposons une dénotion et c'est la recherche et le désir de la vérité qui nous poussent à passer du sens à la dénotation (Ibid., p.108-109). Mais ici, le dénoté est donné : c'est un élément d'un ensemble, d'une collection. 

La restriction de ZF devient alors une injonction à l’élargissement de notre horizon de pensée : retournement formidable, inattendu et prometteur. Prometteur, parce qu’il oblige à dépasser les communautés connues, les A déjà étiquetés, les catégories trop rigides. Prometteur encore, parce qu'il oblige à penser une propriété ϕ qui tantôt dise un universel « avoir un ADN à double hélice », ou « être un sujet pensant », tantôt nous autorise à saisir la particularité « est un homme », « est une femme », et autorise à fonder la sociologie chère à Badiou. L'effort est alors concentré sur la propriété qui nous particularise, et on réalise que la différence entre le commun et le singulier peut être pensée, sous ce prisme, comme une différence accidentelle d'échelle plutôt que comme une différence ontologique (puisque l'ensemble de départ, A, demeure le même pour tous - seuls les ϕ filtrent plus ou moins, plus ou moins sévèrement).  

L’universel et le particulier, vieux couple de la philosophie, de la logique et des mathématiques, se retrouve ainsi idéalement « à portée d’ensemble », à portée de définition, si l’on fait l’effort de s’atteler à cette quête de commun dont nous faisons le fil d’Ariane de notre proposition. Bien sûr, nous ne sommes pas naïfs, savons que la circularité nous guette : si est commun ce qui est propre à tous, alors qu’est-ce que le « tous » dont nous parlons ? L’axiome ZF oblige à le postuler par hypothèse, à le penser comme un ensemble. Peut-être, alors, que cet axiome envers lequel nous avons pensé devient une chance et un allié, la possibilité de ne pas glisser dans la folie d’une quête sans fin, la garantie d’un commencement, le courage de la fondation.

Conclusion

Étranges digressions, long voyage, que les détours permis par l’appropriation philosophique de la mathématique : dès lors que la théorie des ensembles y est dite fondamentale, nous avons vu que naissent des écueils qu’elle permet à son tour de contourner.

Paradoxale fondation, donc, dès que l'on projette la mathématique dans le monde des Hommes, ou dans celui des étants, des choses et de la substance. En proposant cet excursus, nous avons peut-être oublié que nous sommes partis d’une longue histoire, qui articule la fin du XIXe siècle et le début du XXe : une histoire qui s’écrit alors que l’Europe des empires se disloque, que la notion d’appartenance se reformule, que l’intelligence de l’homme comme membre d’une communauté (nationale, en l’occurrence) déclenchera la guerre qui vaudra, pour le pacifisme qu’il adopta, à Russell la prison.

Aussi est-il patent que la question de la dépendance ou non de l’ontologie à l’appartenance, que la question de la définition de l’identité, n’ont rien d'une fantaisie spéculative de ratiocineur. Elles furent terriblement d’actualité du temps de Russell, et constituent la toile de fond historique et philosophique à cette refondation des mathématiques.

Ça n’est qu’à la condition qu’émerge la possibilité de dégager un peu de cette liberté qui nous est si chère, et, nous le croyons, fondamentale, d’une axiomatique aussi précise que l’axiomatique ZFC, que nous pouvons nous autoriser de faire nôtre le geste de philosophes-mathématiciens comme Badiou, et de consentir peut-être à inviter la mathématique, en tant que fondée sur la théorie des ensembles, au cœur de la philosophie. Sans cette réflexivité, une telle démarche se cantonnera à un usage idéologique, tendant à réduire les personnes à des éléments d’un ensemble sous prétexte que la théorie des ensembles autorise une modélisation efficace de certaines réalités de masse.

 

Remerciements : 

Merci à Mirna Dzamonja pour la qualité de ses cours, auxquels cet article doit en grande partie les connaissances à partir desquelles il chemine.

 

Bibliographie :

Badiou A., L'être et l'évènement, Paris, Seuil, 1988.
      -        , Le nombre et les nombres, Paris, Seuil, 1990.
      -        , Logiques des mondes, Paris, Seuil, 2006.
      -        , L’Être et l’Événement 2, Paris, Seuil, 2008.
 Frege G., Écrits logiques et philosophiques (traduction & introduction par Claude Imbert), Paris, Seuil, 1971.