Le livre de René Lavendhomme, Lieux du sujet. Psychanalyse et mathématique (Seuil, 2001, pp. 356, € 25,15), publié dans la collection “Champ Freudien”, fondée par Jacques Lacan, dirigée par Jacques-Alain Miller et Judith Lacan Miller, est une contribution importante d’un mathématicien et topologue, qui a aussi fait un cheminement dans le champ lacanien, en particulier celui de l’enseignement de Lacan qui a eu recours aux mathématiques, et qui à partir du nœud borroméen (déjà existant à Piazza Armerina dans la Villa du Casale, au IIIème siècle en Sicile) a fait référence à la topologie.

 

Dans la première page de l’introduction, Lavendhomme donne ses points de repère : « Je conçus le projet de présenter un peu de mathématiques dans un style qui fasse écho aux préoccupations analytiques ». Ce projet est achevé dans le livre, ce qui reste inachevé est la lecture de Freud et de Lacan par l’auteur, ce n’était d’ailleurs pas son but. Bien sûr, il y a une légion de psychanalystes qui donnent et peuvent donner le glossaire et le dictionnaire qu'utilise Lavendhomme à propos de psychanalyse. L’inconscient freudien est déjà trépassé dans « le sujet défini comme sous-jacent au langage » (7). Mais le sujet - bien que de l’inconscient - est ce qui reste d’une non-lecture du sujet et donc de Descartes. En fait, l’hommage à Descartes comporte sa non-lecture.

La question n’est pas celle du mathématicien qui serait « celui qui efface le plus totalement les marques de la production de son texte » (7) : nous pouvons dire l’envers, c’est-à-dire que tout mathématicien porte les marques de la production de son texte, bien plus évident que dans les cas limites de Galois, Cantor, Gödel, Grothendieck…

 

La question reste de savoir quel est l’apport de la mathématique à la psychanalyse et quel est l’apport de la psychanalyse à la mathématique. Alors certaines réponses pourraient être données aux problèmes cruciaux. Parmi lesquels ceux que les psychanalystes de l’imaginaire et du symbolique posent aux psychanalystes du réel, les plus mathématiciens parmi les lacaniens.

La question non résolue - et peut-être mal posée - est celle radicale de l’usage des mathématiques par Lacan. Sûrement, le nœud borroméen remplit la nécessité didactique de n’oublier aucun des trois registres de Lacan, imaginaire, symbolique, réel.

 

Bien que sa topologie ne soit pas celle des topologues, Lacan utilisait-il les mathématiques comme schémas pédagogiques ou croyait-il avoir en main la Grund Logik de l’inconscient ? Jean-Michel Vappereau poursuit sa voie sur cette piste de fondements ; Jacques-Alain Miller parle plutôt d’un rêve de Lacan, depuis que Lacan à propos du complexe d’Œdipe a parlé d’un rêve de Freud. C’est-à-dire qu’il retient que Lacan utilisait les petites lettres comme un physicien, pour ne pas dire comme un cabaliste, et que le résultat a été pédagogique, bien qu’étant un rêve. C’est un pas en avant de Miller, qui a débuté avec une logique du signifiant qui avait toutes les qualités de la logique fondamentale. Bien qu’il faudrait lire son affirmation qu’au-dessus de deux plus deux font quatre, il n’a jamais mis ni Dieu ni Lacan.  Ce réalisme du deux plus deux font quatre mériterait un livre : c'était aussi l’argument clef de Napoléon pour faire taire son interlocuteur, comme tout public.

 

Venons au livre de René Lavendhomme, qui nous a quittés en 2005. Lieux du sujet. Psychanalyse et mathématique est un livre que nous avons lu en 2005, en suivant le conseil d’Alain Cochet, psychanalyste et mathématicien, que nous avons rencontré pour un entretien sur son travail théorique sur la topologie lacanienne. Ce livre de René Lavendhomme, en particulier, nous a permis aussi de lire le difficile parcours d'Alexandre Grothendieck dans la topologie.

Avant de rouvrir les fiches de lecture du livre de Lavendhomme pour écrire cette note, que nous n’avons jamais renoncé de faire, malgré les nombreux livres dont nous n’arrivons jamais à faire le compte rendu, disons ce qui reste de ce livre.

 

René Lavendhomme nous a donné l’idée du grand expert de la matière, mais qu’il se tient à l’écart du véritable enjeu de la topologie, celui de sa propre axiomatique. Il a peut-être la sensation qu’il y a aussi pour lui l’éventualité de devenir fou, comme Cantor et Grothendieck. Cela dit, aucun des deux n’était fou : il y avait des questions très difficiles à analyser.

Alors il maintient un rapport détaché avec sa matière, d’une manière ironique. En conclusion, où il pourrait glisser dans la structure en abîme de la topologie, il dit simplement : « il faut s’arrêter quelque part » (344). Sans analyser la structure à l’infini de la démarche topologique.

Il n’est pas le seul sur cette piste arrêt. La plupart des enseignants universitaires opère le même choix, tout en comprenant que l’infini potentiel appliqué à la théorie comporte de saper l’édifice même qu’ils sont en train de bâtir.

Or la leçon que nous tirons de Lavendhomme est justement celle de la suite en abîme de la théorie mathématique, laquelle à partir de Galois crée un groupe d’homologie pour parler d’une inconnue qui ne sera jamais connue. Il y aura toujours les théorèmes de Gödel pour désavouer le dernier « concept » qui devrait éclaircir l’inconnue.

 

Personne ne sait encore aujourd’hui ce qu’est le nombre. Aucun mathématicien n’écrit clairement ce qu’est le nombre. Alors le nombre devient l’inconnue, et un groupe d’homologie est supposé pour parler du « nombre » défini par une série d’opérations. La suite des « concepts » candidats à résoudre le drame de la non-connaissance accomplie du nombre est longue : ensembles, éléments, types, groupes, catégories, classes, topos (Pierre Cartier maintient d’autorité le singulier de Grothendieck pour le pluriel topoi), faisceaux, motifs, flèches, formules…

 

Mais nous rentrons maintenant dans la « bottega » de René Lavendhomme, qui vise « un discours anthropologique sur le sujet parlant », en se demandant : « Ne serait-il pas possible qu’à l’intérieur de l’écriture même du texte mathématique se fasse jour la relation que ce texte entretient avec le sujet », où, bien sûr, « Le sujet dont il s’agit ici est le sujet défini comme sous-jacent au langage » (7).

Pouvons-nous lire les paradoxes des mathématiques avec l’action de l’inconscient ? Et si l’inconscient était le nombre, tel qu’il a été aussi théorisé par Pythagore ?

La récurrence du terme « sujet » dans la première page du livre est remarquable. Le concept même de sujet est le métaconcept qui garantirait le fonctionnement des autres concepts, sauf qu’il est incomplet et indécidable.

Le concept (du latin cum capere, prendre ensemble) est une chimère : il n’y a aucune prise sur la parole. Ce qui est ôté revient. Le retour du refoulé c’est bien ça.

 

« La mathématique n’est pas une science mais une discipline. Une science vise un savoir sur le fonctionnement d’une réalité. Une discipline vise une vérité sur la structure d’un réel » (9). Mais cette distinction parvient à celle de la psychanalyse comme discipline sous-jacente à la psychologie : ces catégories philosophiques du bon lycéen éclatent dans le discours de Lavendhomme, qui, ne proposant pas une lecture du refoulement freudien, appelle au secours la nuit du non savoir de Jean de la Croix (9), et bien d’autre mystiques.

 

« Ce que Lacan a avancé, ce sont certaines homologies de structure » (10).

« Les mathèmes lacaniens ne constituent pas un modèle de fonctionnement, ils ne se réduisent pas non plus à des simples artifices littéraires. Ils indiquent une homologie de structure sans réduire les concepts analytiques à des concepts mathématiques » (11). Mais l’homologie ira jusqu’à devenir identité de structure.

 

La logique et la structure. Ni la logique ni la structure ne sont formelles. La condition réside dans la forme, le semblant, non réductible à la notion d’apparence, ni à celle d’objet a de Lacan.

 

L’homologie est toujours une « logie », un discours d’un discours, tout comme le discours commun : un métalangage. En tout cas, si la thèse de Lavendhomme est vraie, alors la topologie lacanienne (elle est déjà logie en tant que topologie) est une façon de s’exprimer au tableau noir. Rien de plus.

 

Nous disons que la mathématique fonctionne dans le local. Autrement dit par Lavendhomme : « En chaque lieu la cohérence restant assurée, les contradictions sont entre ce qui se dit de lieu en lieu » (15). Il n’y a pas de logique de la pragmatique de lieu en lieu. De lieu en lieu : le transfini de Cantor. De lieu en lieu l’incomplétude de Gödel. De lieu en lieu : l’intervalle.

Et dans le lieu nous pouvons bâtir des maisons, des ponts, des routes, mais pas l’homme.

 

« Ce n’est pas seulement les espaces topologiques qui intéressent le topologue, mais aussi, et peut-être surtout, les fonctions continues d’un espace topologique vers un autre » (15). La procédure et la procession, selon Augustin, n’ont rien des fonctions continues. Il n’y a pas de généalogie. La notion de fonction continue en mathématique correspond à celle de lien, de rapport, de relation phallique.

Le rêve est que nous ne connaissons pas x mais en connaissant y on pourrait trouver une fonction continue (exprimée par une équation) telle que x = f(y).

Nous ne connaissons pas le fils, mais étant donné le père… Lacan ne connaît pas l’inconscient, mais en présumant connaître le langage, il peut écrire : l’inconscient est structuré comme un langage. Le langage serait accessible pendant que l’inconscient serait inaccessible. Et l’accès tant recherché – aussi par Pierre Soury – est une propriété de la fonction de refoulement.

 

En plus, il n’y a pas de transformations linéaires, parce que le formateur est unpoint hors tout alignement.

Le point d’Euclide est supposé pouvoir s’aligner, et ainsi constituer la base de la ligne, et la ligne la base de la surface, et la surface la base du volume. La simple notion de voisinage semblerait suffire. Mais le voisinage de X n’atteindra jamais X. La grenouille ne deviendra jamais éléphant.

 

 

La langue de Lavendhomme devient intéressante lorsqu’elle s’approche du paradoxe et donc elle devient ironique : « L’espace qui imaginarise le mieux la structure du sujet, c’est une surface impossible » (57). Nous sommes à un pas du théorème : il n’y a plus de sujet, la créature gnostique, le golem de Descartes.

 

Mais le rêve est très fort et puissant et Lavendhomme passe de la métaphore à l’identité de structure (59). Et donc s’accomplit le rêve inachevé du cabaliste et chaque opération menée sur la science de vie change la vie. Le golem parle, parfaitement homéomorphe à l’homme qui est né de la femme !

 

« Je voudrais faire un texte de topologie minimale » (71) affirme Lavendhomme, maximalisant le « un » comme sujet. La topologie - minimale comme maximale - est déjà algèbre de l’espace et requiert les géomètristes comme exécuteurs dans le plan du discours en petites lettres.

 

Lavendhomme a besoin de la spatialisation, donc du plan : « Il nous faut deux lieux distincts et non vides, donc au minimum deux points. Appelons ces deux points x et y. Il nous faut deux lieux. Cela s’impose » (72). Et qui serait l’impositeur, l’imposteur, le Dieu trompeur de Descartes ?

 

X = f(Y) est l’équation du lien social, de la généalogie, bien sûr dans l’espace social. En ce sens, la topologie explore les généalogies familiales et extra-familiales, les voisinages et les voisins, les plus proches comme les plus loins.

Afin que la topologie marche, selon Lavendhomme, il faut que x et y soient aussi homotopes.

 

« Il y a un caractère conjonctif qui est le cœur de la structuration, et peut-être même au cœur de toute structure » (96). Mais l’absolu est sans solution, sans conjonction. C’est un rêve d’amour de l’humanité, toujours réalisé par un caractère disjonctif qui est la cervelle de la haine.

 

Il faut aussi pour Lavendhomme « que la topologie, l’espace – la droite en l’occurrence – soit la base, le réel » (106). Et avec cette droite tout reste dans le cercle. Ce réel en Heidegger devient la mort, en s’exerçant à la regarder en face, et non plus la fuir.

 

La question du continu est la question ontologique et aussi théologique. S’il n’y a pas de continu, il n’y a pas de rapport ontologique (dieu-démon-homme-animal) et il n’y a pas de rapport théologique, c’est-à-dire entre Dieu et l’homme.

 

Voici une très belle question : « Qu’est-ce qu’une courbe ? Nous l’avons dit en forme de boutade, une courbe c’est comme une droite mais qui serait courbée » (136). La courbe est ce qui est irréductible à la droite. Ici la structure du cercle pourrait se vider et laisser s’instaurer la spirale.

 

 « Faire cette étude des schèmes a priori, c’est assez exactement faire les mathématiques » (149). Ici, il y a tout le rêve de la mathématique comme métaphysique, de cette mathématique qui, lorsqu’elle donne du fil à tordre aux mathématiciens, les fait tourner vers la théologie, de Pascal à Cantor.

Mais nous ne pouvons pas appliquer la mathématique à l’homme et le transformer en exécuteur, sinon en le réduisant à x, à l’inconnue. En effet, il y a de nombreuses théories de l’homme comme inconnu. Mais il n’existe aucun schème a priori de l’homme.

 

« La vérité ne peut être formalisée à l’intérieur même d’une théorie » (175). Et donc « Tout ce que l’on peut faire, c’est tenter de construire, à l’extérieur, dans la métalangue, un modèle » (176). Tout comme dieu, supérieur ou inférieur. Le dieu constructeur et le dieu déconstructeur. Peirce est dans la première hypothèse et Derrida est dans la deuxième hypothèse, toutes les deux chimériques.

 

Lavendhomme ajoute : « Il n’y a d’approche de la vérité qu’en dehors d’elle-même, dans ce que Tarski appelle un métalangage » (200). Il n’y a pas de confrontation avec la théorie de Peirce, en particulier celle de l’abduction.

 

En Lavendhomme il y a l’exigence d’une autre théorie, mais elle cède les armes au métalangage, ceci s’appelle un escamotage, qui cherche toujours à pactiser avec la mort.

« Il y a là comme une force mortelle qui surgit de la logique » (204), lorsqu’elle est prise comme la logique de vie. La force mortelle est celle du discours, du logos comme discours et non pas comme parole.

 

La logique épistémique étudie le connaître et le croire, sur fond de connaissance commune, au point que « nous touchons ici à des problèmes qui intéressent la théorie des jeux et donc la théorie formelle des rapports sociaux » (221). C’est ce que nous appelons la mathématique appliquée à la vie humaine. Un simple coup d’œil aux programmes universitaires suffit pour y voir l’application à l’homme de plusieurs approches mathématiques.

 

La vie est en fait « mise à plat dans le mathème ». Telle est « la situation d’un sujet dans un monde » (226). Et la logique du temps se réduit à celle de la durée du dit monde.

 

Lorsque Lavendhomme écrit des catégories et des topos, à propos du travail de Grothendieck, dans la troisième partie du livre, le premier chapitre s’appelle « Logique locale » (233). Et la question est celle de la « vérité locale ». Le raisonnement commence par « Prenons un ensemble… ». Mais l’ensemble est imprenable. Bien que bibliquement « au commencement était la flèche ». « La flèche du temps, ou du mouvement, ou du changement pur (235).

 

« Un faisceau est un ensemble […] variant avec les ouverts d’un espace topologique » (239). Les faisceaux aussi se fondent sur le point euclidien, c'est-à-dire aristotélicien dans ses présupposés de circularité, qui ont poussé Heidegger à définir l’être circulaire.

 

« Ce qui voudrait être la mathématique des mathématiques n’est finalement qu’une mathématique particulière » (272). Mais c’est le paradoxe même de l’universel dans le particulier, lié au discours, qui est un vieux fondement et non pas un nouveau, comme l’indique Lavendhomme. La logique singulière, l’inconscient, est autre chose.

 

Certains problèmes – c’est-à-dire des paradoxes -  sont résolus en passant à une logique d’ordre supérieur, qui peut être toujours dépassée par une logique d’ordre supérieur, ad infinitum. Ce qui n’est pas analysé est la structure en abîme de l’infini potentiel, qui masque encore l’invention de l’infini en acte de Cantor.

 

Comme Lacan avec la notion phantasme de Nom-du-Père, qu’il ne peut que développer en Nom de Nom de Nom… nous pouvons trouver des passages logiques tels que « le faisceau des sous-faisceaux du faisceau final » (335).

 

Lavendhomme dit pour les faisceaux – mais c’est valable pour toute la topologie – « la question de la vérité ne prend plus la forme «oui ou non ?» mais la forme «où ?». Et ceci donne à penser » (335). Par exemple, une question de la vérité qui ne prend plus la forme « oui ou non ou où ».

 

L’opérateur de collectivisation (343) est le lien social, le lien généalogique.  Et le symbole de collectivisation est dit aussi d’abstraction (346).

« Le collectivisateur est très puissant et on peut en fait reconstruire tous les autres connecteurs logiques comme de simples abréviations » (347). Ceci est la base de toute la question : ou la logique singulière, l’inconscient, ou la collectivisation, l’enfer de tous, la logique universelle.

 

Alors, chaque théorie produite par la mathématique est alors formée de la classe  des énoncés résultant d’axiomes et de règles de déduction. En fait, dans chaque théorie nous lisons la poignée d’axiomes et les règles de déduction. Et ces théories sont circulaires, parce que la vérité par déduction est déjà comprises dans les prémisses logiques.

L’abord de la logique abductive est seulement annoncée par une série de paradoxes.

 

La question revient-elle à savoir « qui axiomatise ? ». Qui décide ? Qui est souverain dans l’état d’émergence ?

 

« L’idée essentielle est de prendre pour objet quelque chose comme une formule Ф(x) (353).  C’est ça. Mais l’homme n’est pas x-men, n’est pas Ф(x), pas même dans l’exception « non Ф(x) » valable selon Lacan pour le père de l’ordre primitive.

 

« Un objet est simplement un ensemble X, mais sous sa face logique, c’est aussi bien la propriété d’appartenir à X » (354). Lavendhomme avec la topologie manie une théorie de l’appartenance, de la collectivisation, du rapport sexuel, du lien social. C’est un rêve. Son application – aussi par les théologies politiques – est toujours un cauchemar.

 

Nous voici confronté à la réponse de Lavendhomme à la question de la base des théories de la connaissance, de la géométrie à la psychologie, qui est une réponse à la question du continu, des groupes d’homologie et du cercle.

« Il faut s’arrêter quelque part » (354). Cette phrase est écrite deux pages avant la conclusion du livre. L’homologie entre le réel mathématique et le réel en psychanalyse n’est jamais atteinte. L’hypothèse abductive de René Lavendhomme n’a pas encore rencontré sa vérité effectuelle. Le rêve ne s’arrête pas : « Ce serait alors dans un topos de Grothendieck que toute la structure devrait être explorée » (356). Et justement « Ce ne sont là que pistes allusives » (356). Nous sommes en train d’achever la deuxième lecture de la piste allusive de Lavendhomme.

« Le symbolique peut révéler quelque chose de la structure » (356). Oui, la nature de rêve de la piste allusive de la topologie ; que Lavendhomme conçoit bien comme « encerclement » (356). En fait, c’est une tâche pour chacun de dissoudre ce que Freud lui-même a appelé le cercle magique.