Foncteur & transformation naturelle - métonymie

Note de lecture au 07/06/2020:

Je laisse cet article, comme une étape de ma propre évolution concernant le sujet. L'étape suivante est ici:

• "Présentation du 12 juin au groupe de logique catégorique" de 2019.

La différence essentielle, qui manquait en 2018, c'est la compréhension de la différence entre l'automatisme de répétition au niveau I1/I01 dans une posture "rationnelle logique", et au-delà du niveau I01, dans une "approche topologique".

La première est de l'ordre de la "succession" et du "temps" élémentaire, et la seconde, de l'orthogonalité.

Le travail ultérieur, en 2020, a consisté à définir plus précisément la transition entre ces deux premières postures du Sujet. Pour une présentation synthétique des postures du Sujet, voir :

• "Le Sujet à livre ouvert - représentation du tryptique R/I/S".

Quant au rapprochement un peu forcé Froncteur/ métaphore- transformation naturelle/métonymie, je pense qu'il doit s'inscrire dans la perspective que je développe d'une évolution du mode de pensée d'un niveau Imaginaire à l'autre.

J'y reviendrai à l'occasion, si j'ai quelqu'interlocuteur psychanalyste avec qui en parler...

Après avoir défini ce qu'est un foncteur, le pas suivant, c'est de construire une catégorie dans laquelle les objets seraient non plus des catégories, mais des foncteurs, ce qui nous amène à définir un morphisme entre deux foncteurs, que l'on appelle à ce niveau "transformation naturelle".

J'avoue qu'arrivé à ce degré d'abstraction, je suis resté très longtemps dans une position Ik < Im < Ik+1: comprenant ce que je lisais (Ik) sur le sujet, mais sans en saisir le sens (en Ik+1). Pour arriver à conceptualiser le problème, je suis donc revenu, comme toujours à "Conceptual mathematics" de Lawvere, à la page 149 précisément, pour comprendre la structure même du problème.

De façon tout à fait générale, les objets de notre catégorie, les foncteurs, présentent une certaine "structure interne", qui peut être "décrite" en termes de graphes dans la catégorie "Grap". Pour nous y retrouver, Lawvere nous propose une check list que je vais suivre pas à pas:

1. Définir les noms des éléments de la structure : ici des "points" et des "flèches";
2. Définir les morphismes qui déterminent cette structure élémentaire : ici, il faut deux morphismes "source" et "cible";
3. Déterminer, dans les éléments de langage 1/, quels sont les "domaines" et "codomaines" des morphismes de la structure élémentaire, définis en 2/.

- Je ne comprends pas bien la différence entre les deux premiers points.

- Ça vient du fait que "l'objet graphe" décrit en 1/ résulte d'une construction élémentaire, à partir de morphismes dans la catégorie des Ensembles (Ens). Explicitement, ce graphe :

est la réécriture sur un même plan (appelons-le Ik+1) d'un objet constitué de deux ensembles de points (de Ens) entre lesquels on a construit deux ensembles de morphismes, comme ceci :

C'est pourquoi l'on appelle ces deux ensembles de morphismes cruciaux l'un "source" (s sur le schéma) , l'autre "cible" (t pour target sur le schéma).

=> le graphe de la figure 1 fige à un niveau Imaginaire Ik+1, une sémantique de niveau Ik ET une syntaxe entre Ik et Ik+1 explicitées dans la figure 2.

Maintenant, le point 3/ de notre check list consiste à repérer, dans notre vocabulaire de niveau Ik+1, ce qui relève de la sémantique de niveau Ik, et de la syntaxe qui le manipule.

- Ce n'es pas très simple, pourquoi cette gymnastique ?

- C'est effectivement le point sur lequel j'ai butté ! Et je pense que notre façon d'expliciter les différents niveaux de langage, permet d'éclairer ce qui est implicite dans le texte de Lawvere. Nous devons retrouver dans un langage de niveau Ik+1, ce qui, dans les morphismes qui l'ont constitué (ici "s" et "t" ), était en position de domaine en Ik et en position de codomaine en Ik+1. Dans notre exemple : (a,b,c) en position de domaine en Ik, et (x,y,z,w) en position de codomaine en Ik+1.

Ramené au niveau Ik+1, (voir la figure 1), nous avons l'équivalence sémantique suivante :

• (a, b, c) <=> domaine (objets en Ik) <=> flèches (langage Ik+1);
• (x, y, z, w) <=> codomaine (objets en Ik+1) <=> points (langage Ik+1).

Très sincèrement, je ne comprends même pas que l'on puisse y comprendre quelque chose, sans la mise en perspective que je propose !

Bref, il nous reste à définir une fonction F entre deux objets X et Y  (i.e.: F: X=>Y), qui préserve leur structure interne. C'est-à-dire qu'il faut définir la syntaxe permettant de manipuler notre sémantique de niveau Ik+1, en reculant d'un cran dans notre Imaginaire.

Pour chaque composant de la structure, je dois donc définir une application de X vers Y (ici "point" et "flèche"), autrement dit F se compose de deux fonctions:

• F(point) : X(points) => Y (points)
• F(flèche): X(flèches) => Y(flèches)

Maintenant, il faut exprimer le fait que ces deux fonctions, articulées ensemble, respectent la structure interne commune aux objets X et Y.

C'est-à-dire que les morphismes caractérisant notre structure (le point 2/ de notre cahier des charges) sont conservés, lorsque F me fait passer de X à Y. 

Or, l'image de cette structure, au niveau Ik+1 s'exprime par une relation α entre des "flèches" en position de domaine et des "points" en position de codomaine. Je parle d'image, parce que cette relation α est purement synchronique : c'est la représentation ex post en Ik+1, de ce qui se développe entre Ik et Ik+1. Et donc, pour chacun de mes objets, X et Y de même type, nous avons :

• α _X : X(flèches) => X(points)
• α _Y : Y(flèches) => Y(points)

Ce qui nous conduit au diagramme suivant (où A est mis pour les flèches et B pour les points) :

J'ai reproduit ci-dessus le schéma de Lawvere, manque de chance ce qui est diachronique, la fonction F, est représenté horizontalement et la fonction α qui, elle, est synchronique, est représentée verticalement, l'inverse eut été plus correct (je ne peux pas m'empêcher de penser au schéma en L de Lacan en le regardant, il faudra que j'y réfléchisse 5 mn, mais ce n'est pas le moment) !

- Ouf ! tu as fini par faire le tour de ce diagramme qui est véritablement au coeur de toute la théorie des catégories !

- Oui, et je n'en suis pas peu fier, car il m'a fallu du temps, et quasiment me reconfigurer le cerveau pour y arriver !

La subtilité qui m'avait complètement échappé, c'est qu'il y a un ordre entre les éléments de langage (points/ flèches), qui est une trace de leur structure sous-jacente (domaine/ codomaine), dont la fonction α est l'image ( i.e.: α porte de "flèche" à "point" et non l'inverse). Une dissymétrie structurelle (i.e.: diachronique) se marque alors (faute de pouvoir écrire en 3D) par une dissymétrie graphique (i.e.: synchronique) gauche / droite, que l'on retrouve, par exemple dans les termes "adjoint à gauche" ou "adjoint à droite", auxquels nous nous intéresserons plus tard. Et ça se complique quand le schéma qui est donné ne respecte pas cette règle !

- Après ce schéma concernant les foncteurs, il serait peut-être temps d'en venir à notre transformation naturelle, non ?

- Oui, et comme le sujet est de la première importance, je vais suivre au plus près ce qu'en dit Mc Lane in "Sheaves in Geometry and Logic":

C'est toujours un peu perturbant de passer d'un texte à l'autre, car les symboles varient, et il faut tout réécrire. Mais bon, essayons de voir comment ce que nous avons vu, d'une façon générale, chez Lawvere, s'applique ici aux foncteurs tels que Mc Lane les définit.

Il faut déjà remarquer que nos deux foncteurs, F et G ont les mêmes domaine et codomaine (respectivement les catégories C et D) :

• F : C => D;
• G : C => D.

Ensuite Mc Lane appelle α une "transformation naturelle" α : F => G, mais cet α n'a rien à voir avec ce que nous avons lu chez Lawvere (chez ce dernier, α servait à décrire la structure interne à préserver). 

Si l'on en revient au point 1/ de notre check-list;

• points <=> F & G,    
• flèche <=> α .

Quelle que soit la complexité des éléments considérés, et c'est ce qui fait toute la beauté de la chose, les éléments de langage au niveau où nous décrivons ces transformations naturelles restent toujours "points" et "flèches" qui représentent leur "structure élémentaire" sous forme de graphe α : F => G.

Maintenant, arrivons-en au point 2/ de la check list. La mécanique est toujours la même, seulement cette fois-ci, la structure des objets est plus complexe, nous sommes passés de catégories de morphismes à des catégories de foncteurs...

- Comment vas-tu gérer cette nouvelle complexité ?

- En fait, Mc Lane restreint déjà le champ des possibles en se limitant à comparer 2 foncteurs ayant en commun domaine et codomaine. Si nous regardons un foncteur comme un moyen d'établir une métaphore entre deux catégories (A est à B comme C est à D), la transformation naturelle est à première vue une "traduction" d'un langage x dans un langage y, rapportant un lien entre A et B.

- Donc, là, tu en es au "etc.", à la répétition du même ?

- Oui. L'autre point est que l'on associe un objet c de C à des foncteurs définis en chaque point  de  C, (i.e. : Fc => Gc), pour parler du résultat α dans D. Strictement parlant, on génère α par un geste répétitif, que l'on repère par un indice c pris dans C :  α = ( α_c1, α_c2  , ... , α_cn .... ).

Enfin, tu remarqueras que le schéma de Mc Lane ne concerne que le niveau de description de D (i.e.: Fc, Fc', Gc, Gc' sont des éléments de D).

- Il manquerait tout le niveau C ? C'est-à-dire que la représentation générale devrait se faire sur un cube, la face Ix inférieure pour C et la face supérieure, Ix+1 pour D ?

- Pas tout à fait : la face inférieure se réduit à l'arrête f : C => C' et l'ensemble formerait un prisme que l'on pourrait décrire ainsi :

• Vue de dessus : le carré de Mc Lane liant F, G et α ;
• Vue de gauche : le carré de Lawvere pour f et F;
• Vue de droite : le carré de Lawvere pour f et G;
• Enfin, les deux triangles des vues de face et arrière sont triviaux : ce sont les définitions de F, G et α  respectivement en c et c'.

Bien entendu, les 2 carrés liés aux foncteurs et celui lié à la transformation naturelle, commutent. Tu remarqueras également que notre discours porté sur la transformation naturelle est en quelque sorte "orthogonal" aux foncteurs : ce que nous avions défini comme "synchronique" dans le schéma de Lawvere est maintenant "diachronique" autrement dit le foncteur, qui était vu comme un "résultat" en Ik+1 devient l'élément dynamique (entre Ix et Ix+1) pour construire α niveau suivant (Ix+1), avec Ik+1 = Ix comme étape charnière du discours...

Ce qui est vu comme un empilement α = ( α_c1, α_c2  , ... , α_cn .... ) résulte d'une succession, en passant de c₁ à c₂  etc... Cette "répétition du même" indique que d'une certaine façon nous sommes dans l'attente d'un concept unificateur d'ordre supérieur.

- Tu penses au topos ? Je ne voudrais pas refroidir tes ardeurs mais avant d'y arriver, si tu explicites un "saut diachronique" à l'aide d'une structure, tu tues le principe même de ta dichotomie primitive synchronie/ diachronie !

- C'est effectivement le point sur lequel il me faudra revenir et je ne suis pas encore armé pour avancer plus loin ! Quoiqu'il en soit, il est clair que cette torsion au niveau Ik+1 = Ix est le signe implicite d'un renversement de perspective :

• Jusqu'au concept de foncteur, on passe d'un niveau au suivant, en poussant Im vers le haut ;
• Ici, la situation se retourne: on cherche à décrire une structure au niveau supérieur dont la répétition est repérable au niveau inférieur.

L'idée n'est plus de "monter Im", mais de travailler sur les indices, pour en inférer un discours de niveau supérieur. C'est tout le concept de faisceau.

- Autrement dit, nous quittons la logique pour la topologie ?

- À mon sens, c'est implicite  et sans doute lié à la difficulté que tu viens de soulever. Mais ce que nous observons ici me renvoie à des considérations très anciennes dans un nouveau langage :

=> Avec les foncteurs nous étions dans la métaphore, avec les transformations naturelles nous sommes dans la métonymie.

- Avoue que tu n'es pas mécontent de la placer celle-là !

- J'avoue !

- Mais revenons au schéma de Mc Lane. Dans le cas de α tu parles d'indice et pour F et G tu parles de variable, pourquoi ?

- Dans la mesure où F et G ont leurs domaines en C, ils s'agit bien de définir des fonctions (entre Ix et Ix+1), exactement comme lorsque tu écris f(x) = x². Par contre, α, qui n'est qu'une transcription de F en G est toute entière définie au niveau Ix+1 du codomaine D ; elle n'a pas de lien direct avec Ix, sauf la répétition, d'un geste qui à chaque point c de C produit une carte.

- Ce schéma représenterait donc une double répétition: pour chaque morphisme f (donc à partir du niveau Ix de C ), α est défini (en D, au niveau Ix+1), par une série de cartes...

- Oui, mais c'est là que le schéma de Mc Lane impose une contrainte entre les deux niveaux de description portant sur les deux séries (i.e.: f en Ix et α en Ix+1). Pour chaque morphisme f de C (entre c' et c), nous devons avoir:

G(f) º  α_c' = α_c º F(f)

L'idée est assez complexe et revient à dire que la structure de l'indice se retrouve sur la structure du résultat de l'application, au niveau supérieur. C'est un peu comme si Dingo ouvrait la porte en tournant l'ombre de la clef...

Mais, très franchement, je n'arrive pas à imaginer le degré d'intelligence de Mc Lane, qui a pu développer sa théorie avec une définition si condensée. C'est un peu comme faire des multiplications avec des chiffres romains. J'avoue que sans les béquilles que je me suis fabriquées je ne m'y serais même pas aventuré ! Et ce qui se laisse entrevoir à partir d'un paragraphe de Mc Lane, me fait peur pour la suite...

Bonne rumination !

Hari.