Théorie des ensembles et théorie des catégories et des topoi selon Alain Badiou

Ce texte de séminaire date de 1993/1994:

http://www.entretemps.asso.fr/Badiou/93-94.3.htm

On y saisit clairement la différence établie par Badiou entre la théorie axiomatique des ensembles , qui est selon lui ce que la philosophie appelle depuis Aristote “ontologie” (c’est là la thèse de “l’Etre et l’événement” en 1988) et la théorie des topoi qu’il assimile à une théorie logique des mondes possibles, de l’entendement créateur divin donc, sur le modèle leibnizien:

Factuellement, on peut penser que la théorie des catégories et des topos s’est présentée, tend à se présenter, comme un dispositif global qui serait une alternative à la théorie des ensembles, c’est-à-dire comme une autre manière de fixer le cadre général dans lequel se déploient les concepts de la mathématique, et par conséquent aussi comme une autre méthode d’exposition de la mathématique. Contradiction qui était au départ mon hypothèse.
Selon la méthode consistant à placer la philosophie sous condition de phénomènes de ce genre, de cette situation, la philosophie doit savoir ce qui est en jeu pour elle-même dans cette situation. Lorsque la philosophie se met sous condition de phénomènes scientifiques de ce type, elle ne se met pas sous condition des discours scientifiques, mais sous condition des événements scientifiques.[1]
La thèse que j’ai été amené à soutenir, c’est qu’il ne s’agit pas de deux dispositifs concurrentiels du fondement de la mathématique. Du point de vue du philosophe, il apparaît qu’en réalité, il n’y a pas d’unité de plans entre les deux entreprises : elles ne sont pas deux stratégies pour fonder ou exposer les mathématiques. La visée propre de ces deux entreprises n’a pas la même assignation.
La théorie des ensembles est de l’ordre de la décision ontologique. C’est une véritable prescription décisoire quant à ce qu’est une pensée de l’être-en-tant-qu’être. La vocation immédiate de la théorie des ensembles est de décider un univers mathématique et de faire se mouvoir la pensée mathématique de l’intérieur de cet univers.
La théorie des topos est en réalité une théorie des possibles. C’est une description de possibilité. Son vecteur essentiel est de décrire ce que c’est qu’un univers possible, en retenant les prescriptions d’existence. La métaphore que j’utilise à cet égard est leibnizienne : l’entendement divin est composé de la totalité des univers possibles qui ne lui ek-sistent pas. Et Dieu crée un univers possible qu’il fulgure, selon la norme du meilleur univers possible (celui qui produit le maximum d’effets avec le minimum de causes). Donc, il y a la totalité virtuelle des univers dans l’entendement divin, et un univers qui existe, le meilleur.
On dira que la théorie des topos est la théorie de l’entendement divin, c’est-à-dire des univers possibles, et même de la classification des univers possibles, tandis que la théorie des ensembles est une décision d’univers. Elle en prescrit un, qu’elle crée, qu’elle fulgure.
En continuant la métaphore, on pourrait dire que la théorie des topos est une investigation du concept d’univers, donc une théorie des univers, tandis que la théorie des ensembles est une création d’univers, ce n’est pas une théorie d’univers -on peut même dire qu’elle n’a pas de concept d’univers -, mais une effectuation d’univers.

Les formulations de Badiou qui se présente comme un athée radical, pour éliminer toute forme de Transcendance et d’Un, sont énergiques et très différentes de celles de Brunschvicg (dont Badiou peut être considéré comme le continuateur s’agissant de la primauté donnée à la mathesis, mais non pas concernant l’idéalisme de Brunschvicg, rejeté par Badiou comme tout ce qui remonte avant 1945 au nom d’un matérialisme dialectique hérité de Sartre). Car Brunschvicg rejette aussi la Transcendance mais pour trouver Dieu, le “Dieu des philosophes et des Savants aperçu par la Raison désintéressée”, dans l’immanence radicale :voir chapitre V (“Dieu”) de:

http://classiques.uqac.ca/classiques/brunschvicg_leon/heritage_de_mots_idees/heritage_de_mots.html

Dieu ne naîtra pas d’une intuition tournée vers l’extérieur comme celle qui nous met en présence d’une chose ou d’une personne. Dieu est précisément ce chez qui l’existence ne sera pas différente de l’essence ; et cette essence ne se manifestera que du dedans grâce à l’effort de réflexion qui découvre dans le progrès indéfini dont est capable notre pensée l’éternité de l’intelligence et l’universalité de l’amour. Nous ne doutons pas que Dieu existe puisque nous nous sentons toujours, selon la parole de Malebranche, du mouvement pour aller plus loin jusqu’à cette sphère lumineuse qui apparaît au sommet de la dialectique platonicienne où, passant par dessus l’imagination de l’être, l’unité de l’Un se suffit et se répond à soi-même. Méditer l’Être nous en éloigne ; méditer l’unité y ramène.

Il est intéressant de comparer ces lignes avec celles de Badiou dans le texte de 1993-1994 rejetant l’Un et tout ce qui est principiel , au nom de sa vision de la théorie des ensembles comme “théorie du multiple pur, sans-Un”, banalisant “l’Infini”par rapport à sa conception traditionnelle métaphysique-théologique:

lémentaire de la différence.[2]
Ce qui est en jeu, c’est la doctrine des multiplicités. Dans le théorie des ensembles, il n’y a qu’un seul type de multiplicités : des multiplicités composées d’éléments, donc la différence entre deux multiplicités est une différence d’éléments.
Chez Bergson ou Deleuze, il y a des multiplicités qualitatives qui supposent une intuition globale de ce qu’elles sont. La multiplicité qualitative l’emporte sur l’autre, pour eux. La multiplicité ensembliste est une retombée analytique de la multiplicité qualitative.
– Il n’y a pas de fond, en théorie des ensembles. Les multiplicités ne sont pas dépendantes d’un fond, et donc il n’y a pas de fondement qui serait la pensée de ce fond. Il n’y a pas de grand animal, de désordre premier, derrière tout ça. Il n’y a que le vide. Il y a des multiples, et parmi eux, et en eux, il y a le vide. Il n’y a donc aucune dimension qualitative originelle. En deçà du multiple, il y a le vide, et rien d’autre. Ce que disaient les atomistes grecs. Ce vide est unique. Il n’y aurait aucun sens à ce qu’il y ait plusieurs vides. Cette unicité du vide en fait ce qu’on peut appeler un fond sans fond.
– L’infini n’est évidemment pas l’Un. L’infini va se présenter comme lui-même ramifié à l’infini en multiplicités singulières. L’infini c’est une propriété possible pour les multiples.
La théorie des ensembles banalise absolument l’infini, au sens où elle le sépare absolument de l’Un. L’infini n’est en rien principiel, dans la théorie des ensembles.

En quoi consiste la pensée de l’être, si elle est pensée d’un univers ainsi constitué ? La pensée, dans cet univers, c’est la mathématique, en tant qu’elle fonctionne dans son cadre ensembliste. Ce qui est pensé, c’est le pensable de cet univers-là.
La maxime est très simple : la mathématique revient, pour l’essentiel, à désenchevêtrer des multiplicités, de manière à faire apparaître l’identité multiple de ces multiplicités. C’est une résolution au sens chimique. Ce qui crée l’opacité, c’est l’enchevêtrement, la surimposition des multiples. La démonstration est une monstration des multiplicités enchevêtrées.
Quel est le mouvement propre de la mathématique ainsi définie ? Qu’est-ce qu’on appelle couramment un objet mathématique ? Un objet sous prescription ensembliste ? Un objet, c’est une multiplicité complexe.

L’activité mathématicienne est une éclaircie de la présentation sous une norme le plus souvent ineffective, qui est celle de l’imprésenté, à savoir le vide. La pensée mathématique consiste toujours à tirer la complexité vers son vide propre. La mathématique active, sous prescription ensembliste, est polarisée par l’imprésenté, polarisation le plus souvent ineffective.
La théorie des catégories n’est nullement une prescription d’univers. Il faut plutôt la concevoir comme un dispositif expérimental, un montage dont le but est de spectrographier des décisions ontologiques. Ce spectre est constitué du point des contraintes logiques, intérieures à une décision ontologique. A ce point essentiel, que les contraintes logiques en question demeurent en général inaperçues de l’intérieur de la décision. Le dispositif expérimental fait voir ce que la décision ne permet pas de voir et qui lui est cependant intérieur.
Cela a à voir avec la distinction de Wittgenstein entre montrer et dire. Wittgenstein définit la logique comme ce qui se montre dans la proposition, mais ne se laisse pas dire en forme de proposition. Il y a un montrer quelque chose qui est en jeu dans le dire, mais qui n’est pas dicible.
On pourrait dire que la théorie des topos montre ce qu’une décision ontologique ne peut pas à proprement parler dire, bien que ça lui soit immanent. De ce point de vue là, la théorie des catégories n’est pas un dire du dire. Elle n’est pas un langage de la théorie des ensembles -puisque, pour elle, la théorie des ensembles n’est qu’un cas -. Par contre, elle montre quelque chose qui, dans la théorie des ensembles, n’est pas dit, et qui, cependant, la contraint. De ce point de vue là, la théorie des topos est un appareil de monstration, qui montre quelque chose des décisions ontologiques possibles, sans qu’elle le vise au même sens du dire dans la théorie des ensembles.
C’est une des raisons pour lesquelles la théorie des catégories est d’essence géométrique, parce que sa véritable destination est de montrer, et l’espace de cette monstration est d’inspiration géométrique, au sens très large de visant à montrer. «Ce qui est impossible à dire, il faut le taire», mais on peut le montrer, en silence. On pourrait dire : la théorie des catégories, c’est le silence de la théorie des ensembles ; un dispositif où on la montre. Cet indicible propre, c’est sa logique. La théorie des topos est un lieu de monstration, à certains égards silencieux, de l’indicible des décisions ontologiques.
Cela ne construit pas une rivalité, pas plus que chez Wittgenstein, le silence n’est en rivalité avec le dire. La destination du silence, qui est le montrer, est irréductible au dire.

Cantor l’inventeur de la théorie des ensembles était quant à lui moins définitif : ce croyant (protestant) sincère à passé les dernières années de sa vie dans les cliniques psychiatriques parce qu’il ne pouvait supporter d’avoir ” tué Dieu” en disséminant l’Infini dans le multiple et en le coupant de l’Un.
Mais ici c’est l’Un Transcendant qui est envisagé, or les travaux de Marie Anne Cochet là disciple de Brunschvicg ont montré que la transcendance de l’Un conduit à des impasses, qui sont celles de la théologie:

https://meditationesdeprimaphilosophia.wordpress.com/2015/04/30/atheisme-spiritualisme-philosophie-et-sens-commun-selon-brunschvicg/

https://horreurislamique.wordpress.com/pourquoi-je-macharne-contre-lislam/

L’un ne peut être conçu que comme unification à l’œuvre dans l’immanence de l’Esprit humain , et présente dans la théorie des catégories avec cet exiome qui à tout objet associe un “morphisme -identité”

https://fr.m.wikipedia.org/wiki/Théorie_des_catégories

ce morphisme-identité qui existe par décision axiomatique pour tout objet dans toute catégorie, est l’Un immanent (et certainement pas Transcendant)à la conscience . C’est l’Un-en-un de la “non-philosophie” de François Laruelle.
Mais si la théorie des ensembles est l’ontologie, elle correspond à ce que nous appelons ici “plan vital-ontologique”:pas étonnant que Badiou n’y trouve pas l’Unni aucun principe, puisque tout ce qui est principiel se situe sur le plan spirituel de l’idée. Or Badiou commet une erreur d’interprétation de la pensée de Platon:

La théorie platonicienne des Idées est une doctrine de l’actuel. La pensée est sous condition de l’existence en acte des Idées.
Dans le dispositif aristotélicien, ce qui est, la substance, est dans un rapport de la puissance et de l’acte. Il finit par y avoir un acte pur qui est dieu. Mais ce qu’il y a, c’est la réalisation de son acte immanent existant en puissance.
Deleuze est la plus forte pensée contemporaine de l’être comme actualisation. L’essence de l’être est le virtuel et pas l’actuel, pour Deleuze. Le cahot est la virtualité anarchique pure. Donc, tout est actualisation.
Dans ma pensée, il n’y a pas de virtuel. Le possible est lui-même une projection de l’actuel.”
A ceci il faut opposer les propos de Brunschvicg dans l’Idéalisme contemporain, vers 1900:
les trois propositions génératrices du scepticisme, de l’athéisme et de l’immoralisme sont: le vrai est, Dieu EST, le Bien EST”
L’athéisme de Badiou consiste à vouloir rabattre le plan spirituel, le “monde des Idées” de Platon, sur le plan vital-ontologique du “monde”,l’ordre de l’Esprit sur l’ordre de la matière et de la vie.
Mais le plan spirituel N’EST PAS (sinon il “serait dans le monde” dans le plan vital) : il DOIT ÊTRE.
Et si la mathématique ensembliste correspond au plan vital-ontologique du multiple pur “sans-Un” des “étants” alors la théorie des topoi doit orienter la conscience vers le plan spirituel des Idées de Platon et alors l’interprétation leibnizien ne de Badiou se comprend:

La théorie des topos est en réalité une théorie des possibles. C’est une description de possibilité. Son vecteur essentiel est de décrire ce que c’est qu’un univers possible, en retenant les prescriptions d’existence. La métaphore que j’utilise à cet égard est leibnizienne : l’entendement divin est composé de la totalité des univers possibles qui ne lui ek-sistent pas. Et Dieu crée un univers possible qu’il fulgure, selon la norme du meilleur univers possible (celui qui produit le maximum d’effets avec le minimum de causes). Donc, il y a la totalité virtuelle des univers dans l’entendement divin, et un univers qui existe, le meilleur.
On dira que la théorie des topos est la théorie de l’entendement divin, c’est-à-dire des univers possibles, et même de la classification des univers possibles, tandis que la théorie des ensembles est une décision d’univers. Elle en prescrit un, qu’elle crée, qu’elle fulgure.
En continuant la métaphore, on pourrait dire que la théorie des topos est une investigation du concept d’univers, donc une théorie des univers, tandis que la théorie des ensembles est une création d’univers, ce n’est pas une théorie d’univers -on peut même dire qu’elle n’a pas de concept d’univers -, mais une effectuation d’univers.

Advertisements
This entry was posted in Alain Badiou, category theory, Léon Brunschvicg, Ontologie, Philosophie, Plan vital-plan spirituel, Platon, Science, mathesis, Théorie des ensembles (set theory), Théorie des topoi (topos theory) and tagged , , , , , , , , , . Bookmark the permalink.