Corps de l’article

Théorème de Gödel, équation factorielle, calcul différentiel, autant d’expressions mathématiques susceptibles de donner de l’urticaire à n’importe quel littéraire. Nous sommes tous enclins à séparer la sphère mathématique de la sphère littéraire sous prétexte que chacune de ces disciplines s’échafaude sur une conception du monde qui lui est propre. Certes, les rapports entre littérature et mathématiques ne vont pas de soi. Le gouffre entre ces deux domaines pourrait être comparé à l’océan qui sépare deux continents, rappelant en cela les propos de Charles Percy Snow qui, au milieu du XXe siècle, lamentait l’imperméabilité de la frontière séparant les mathématiques des sciences humaines[1]. Si, comme nous le supposons, nombreux sont les littéraires qui affirment ne rien comprendre aux mathématiques, allant jusqu’à avouer leur peur des chiffres, les scientifiques, pour leur part, ne perdraient pas leur temps à lire un roman, un recueil de poésie ou un essai de critique littéraire, se demandant bien, en outre, à quoi peut ressembler la recherche universitaire dans le domaine de la littérature et des humanités en général. Portrait juste ou grossière caricature ?

Dans un numéro de la revue Argument, paru en 2019, Jean-René Roy, lui-même un scientifique, affirme ne pas vraiment s’inquiéter de l’écart entre ces deux cultures – pour ne pas dire ces deux solitudes. « L’incommunicabilité entre [les domaines scientifique et littéraire] est-elle vraiment un problème ? », se demande-t-il[2]. Un respect mutuel, voire une admiration pour ces domaines devrait être de mise, puisque tous deux contribuent, mais de différentes manières, à comprendre le monde dans lequel on vit. Roy ajoute qu’il y a « quelque chose de vivifiant à avoir ainsi deux mondes intellectuels autonomes qui peuvent s’enrichir mutuellement[3] », observation que nous ne souhaitons en aucun cas contester. L’écart entre ces deux domaines de spécialisation n’a rien d’étonnant et on ne peut s’attendre à ce que les uns et les autres soient experts de ces deux branches du savoir. Là n’est pas la question. Les littéraires – critiques, écrivains, lecteurs – s’intéressent très souvent à un éventail assez large de différents savoirs : l’histoire, la psychologie, la géographie, la sociologie, voire les sciences et la technologie. Pourquoi pas davantage les mathématiques ?

Si l’écriture littéraire n’a que très peu de limitations – après tout, de quoi ne peut-on pas parler dans une oeuvre littéraire ? – force est de constater que seul l’Oulipo semble avoir investi pleinement le champ des mathématiques. Même son de cloche du côté de la critique : rares sont les études qui cherchent à circonscrire l’apport des mathématiques à la littérature ou vice versa, de la littérature aux mathématiques. Encore une fois, l’exception que sont les études oulipiennes confirme la règle. Quelques publications notables ayant paru au XXIe siècle méritent toutefois d’être soulignées.

La revue Tangence publiait en 2002 un dossier « Littérature et mathématiques », dirigé par Richard Saint-Gelais. D’emblée, celui-ci affirme le caractère disparate de ces deux termes : « On ne dissimulera pas les difficultés et limites d’un regard croisé sur la littérature et les mathématiques[4] ». En évoquant « l’affaire Sokal », qui dénonçait le recours incohérent à des concepts scientifiques par les études culturelles, et notamment par la « cultural theory », Saint-Gelais plaide néanmoins en faveur d’un rapprochement dialectique des mathématiques et de la littérature. Les sept articles qui constituent ce dossier, incluant celui de Saint-Gelais, qui propose justement une approche « perpendiculaire » pour analyser les rapports entre mathématiques et littérature[5], offrent un riche éventail d’auteurs et d’oeuvres analysés. Entre autres, y paraissent des articles qui traitent de science-fiction, du cinéma de Woody Allen et du roman d’Italo Calvino, Si par une nuit d’hiver un voyageur, ce numéro de Tangence n’étant pas circonscrit par un cadre temporel ni par l’étude d’un genre littéraire ou artistique particulier[6].

Cinq ans après le dossier de Tangence, c’est en 2007 que la revue britannique Journal of Romance Studies publie à son tour un dossier sur les mathématiques et la littérature. Si les neuf articles qui le constituent sont écrits en anglais, il est intéressant de noter que la directrice du dossier, la professeure Mairéad Hanrahan, est spécialiste de littérature française et que ses recherches portent notamment sur Hélène Cixous et Jean Genet. En outre, la majorité des articles porte sur des écrivains français ou francophones[7]. S’agit-il d’un intérêt particulier parmi les spécialistes de littérature de langue française pour les problématiques liant littérature et mathématiques ou d’un simple hasard ? Peut-on attribuer aux travaux de l’Oulipo d’avoir suscité un certain intérêt envers ces problématiques qui s’étend bien au-delà du groupe et de ses réalisations ? Même si ces études ne relèvent pas explicitement de l’Oulipo, l’influence du groupe ne touche pas seulement les écrivain(e)s, mais aussi les critiques qui cherchent à mieux comprendre et à faire perdurer ces oeuvres.

L’Oulipo aura donc ouvert la porte pour réfléchir aux conjonctions entre littérature et mathématiques, mais il existe d’autres façons d’explorer les connexions possibles, pour les spécialistes des études littéraires ou pour les auteur(e)s. Justement, le recueil de nouvelles publiées dans le numéro « Mathématiques » de la revue Moebius en 2014 mérite d’être signalé pour la diversité et l’originalité indéniables des textes qui y paraissent et leur manière d’appréhender les mathématiques. Normand Baillargeon, responsable du numéro en question, relève trois ponts qui émergent de ces nouvelles, ponts qui permettent de traverser le gouffre qui sépare mathématiques et littérature : le pont formaliste, le pont ludique et le pont du récit[8]. Il sera aussi intéressant de jeter un regard au numéro à venir de la revue XYZ qui invite, au moment où nous rédigeons cette présentation, des textes portant sur les « algorithmes ». Depuis le tournant du siècle, nous assistons peut-être à un moment d’intérêt accru des littéraires pour les mathématiques qui, sans exclure l’Oulipo, s’en délient. Les articles composant ce dossier, consacrés pour la plupart à la littérature contemporaine voire à l’extrême contemporain, nous incitent à penser que c’est bien le cas.

Par ailleurs, les littéraires ne sont pas les seuls à se sentir interpellés par les possibilités qui s’ouvrent dans cette exploration. Nombreux sont les mathématiciens qui se tournent vers le discours littéraire dans le but de vulgariser leur domaine de connaissances, en passant par l’art narratif pour raconter des histoires. Pour ne citer qu’un exemple, le Théorème vivant de Cédric Villani[9] (2012) est écrit sous forme de récit autobiographique décrivant le processus de la découverte d’un théorème dans un registre assez léger et amusant, ou encore, son livre plus récent, Les Mathématiques sont la poésie des sciences[10] (2015), qui illustre à quel point les mathématiciens se préoccupent d’élégance et de beauté en prouvant leurs théorèmes. Sont-ils si différents des poètes ou des écrivain(e)s qui exploitent la fonction poétique du langage et de ce fait, accordent une grande valeur à l’esthétique et à la beauté ?

En parallèle aux critiques littéraires qui cherchent à approfondir la signification des oeuvres, il y a, parmi les mathématiciens, ceux qui s’intéressent à mettre en valeur l’apport des mathématiques à la culture générale et plus particulièrement à la littérature. La collection de plusieurs tomes parus entre 2012 et 2020, sous le titre Imagine Math. Between Culture and Mathematics, présente un vaste éventail d’études faisant des liens entre les mathématiques et la musique, les arts visuels, l’architecture et bien sûr la littérature, dont des articles rédigés par des mathématiciens qui portent sur les textes d’écrivains tels Jorge Luis Borges et Italo Calvino, soulignant ainsi la dimension mathématique de ces textes littéraires.

En lisant ces contributions, il y aurait lieu de nuancer les propos sur l’océan qui séparerait les deux continents. L’histoire révèle un constant réseau d’échanges entre les formes littéraires et les mathématiques. Déjà Fontenelle, en 1699, faisait correspondre mathématiques et littérature en soulignant la liberté intellectuelle dont dispose le savant en mathématique, qui se compare en quelque sorte à la liberté imaginative des écrivains[11]. En outre, à un certain niveau, les mathématiques pures se moquent tout autant que la littérature du caractère utilitaire de leur production. L’exploration des nombres n’est pas plus utile que l’imagination littéraire, mais toutes deux peuvent mener à une exaltation qui apporte un sens nouveau à l’expérience du monde et de la vie. Ainsi, ce réseau d’échanges riche et varié s’est métamorphosé au XXe siècle par une critique littéraire empreinte d’un désir d’objectivité scientifique, par la formation de groupes ralliant écrivains et mathématiciens comme l’Oulipo et par l’arrivée du numérique.

Penser les relations entre les mathématiques et la littérature force le constat que tant les pôles de la production, du texte et de la lecture sont investis par des problématiques et des enjeux susceptibles de remettre en question quelques présupposés. D’abord, quelles sont les stratégies d’écriture et de production du texte littéraire basées sur les mathématiques ? Doit-on voir ces réglages comme autant de marques d’effacement de l’auteur et de sa subjectivité ? D’un autre point de vue, l’auteur mathématicien confère-t-il à son texte le genre « mathématico-littéraire », de surcroît si le propos porte sur les maths ? Souvent, comme dans ce cas-ci, les questions qui surgissent ont tout à voir avec la définition du genre. En anglais, on croise dans quelques travaux l’expression math fiction lorsque les mathématiques constituent un sujet important dans une oeuvre. Mais que signifie au juste un « sujet important » ? La présence des mathématiques dans un livre n’est pas forcément quantifiable et elle ne se limite pas à son impact dans la séquence d’actions ou à sa place dans le schéma actantiel. Qu’en est-il lorsque les mathématiques se situent plutôt sur le plan architectural d’une oeuvre ? Narration, structure, intertexte, motifs, figures et métaphores, chaque composante d’un texte a la faculté d’actualiser quelques éléments de mathématiques. Et s’il s’agit de poésie ? L’expression math fiction perd alors en pertinence, on parlera plutôt de math poetry. D’ailleurs, la poésie est peut-être le genre littéraire qui se rapproche le plus des mathématiques par l’attention qu’elle accorde à la métrique, faisant ainsi écho à Villani qui considère les maths comme le versant poétique des sciences. Quant au troisième pôle, celui de la lecture, il faut prendre un pas de recul pour considérer quelques effets des mathématiques dans une oeuvre, comme le rire, l’incrédulité, l’amusement, l’incompréhension ou au contraire, l’acquisition d’un savoir, qui sont liés souvent aux nombreux publics auxquels s’adresse la littérature empreinte de mathématiques : poésie complexe (∈, Roubaud), ouvrages de vulgarisation (Le Théorème du perroquet, Guedj), romans pour la jeunesse (La Fractale des raviolis, Raufast), biographies romancées (Icare trahi, Auffray), science-fiction (L’Accroissement mathématique du plaisir, Dufour), etc.

Si les articles du présent dossier ont comme point de départ l’étude de textes littéraires par des spécialistes de la littérature, ils sauront, nous le souhaitons, ouvrir de nouvelles pistes, tant du côté des oeuvres qui se prêtent à une lecture que l’on pourrait dire mathématique, que du côté des approches par lesquelles aborder les textes. Plusieurs articles se serviront de fondements de la géométrie pour examiner différentes configurations textuelles. Dans l’article de Natalie Berkman, la géométrie sert une analyse croisée de deux tables des matières, celles inaugurant Le città invisibili (1972) et Mai quai Conti (2014), respectivement d’Italo Calvino, oulipien, et de Michèle Audin, oulipienne. Ces textes conceptualisent de manière tout à fait originale les éléments paratextuels, à la fois structure géométrique et indice de la contrainte de l’oeuvre. Dans une autre conception de la géométrie, ce sont les fractales qui retiennent l’attention de Dominique Raymond. Dans son article, elle propose une théorisation de la figure fractale en littérature, par une mise en parallèle avec le dispositif emboîté de la mise en abyme et par l’examen d’un corpus français et québécois qui s’est emparé littéralement ou métaphoriquement de la figure. Pour sa part, Fadi Khodr s’intéresse lui aussi aux figures géométriques, ainsi qu’à l’algèbre, que le poète libanais Salah Stétié – décédé en mai 2020 – inscrit dans ses poèmes et un de ses romans. Dans son étude, Khodr tente d’élucider comment cette inscription de termes mathématiques traduit sa perception du monde. Les parallèles dressés entre mathématiques et poésie, à l’instar des propos de Villani, sont aussi au coeur de l’analyse que fait Catherine Khordoc de deux pièces de Wajdi Mouawad, qui a recours aux théories des graphes et des nombres et à la cryptographie. La cryptographie serait en effet explicitement comparable à la poésie, dans la pièce Ciels du dramaturge libano-québécois. Si nous voulions mettre de l’avant les rapprochements entre mathématiques et littérature sans nécessairement passer par l’Oulipo, il serait toutefois incongru, voire injustifiable d’en écarter complètement les oeuvres oulipiennes. Ainsi, en plus de l’étude de Berkman qui porte sur des textes de Calvino et d’Audin, l’article de Caroline Lebrec pose un regard sur un roman d’une autre oulipienne, Anne Garréta. Sphinx fait l’objet d’une lecture queer de la part de Lebrec, qui utilise des éléments de mathématiques, comme la notion de variable et la contrainte algébrique X prend Y pour Z, pour faire ressortir le régime énigmatique du discours du neutre, versé dans le questionnement non pas des identités sexuelles, mais de leur pertinence. Pour Guillaume Surin, les arts au XXe siècle ont eu recours à des procédés mathématiques remettant en cause le travail traditionnel de composition, notamment la stochastique, qui renvoie à l’aléatoire, à la combinatoire, au calcul des probabilités, au hasard. De ce point de vue la littérature accuserait un retard vis-à-vis des autres arts. Voilà où se loge Surin qui, dans son article, analyse quelques pratiques stochastiques littéraires plus ou moins connues, notamment celle de Jacques Derrida. Une motivation semblable anime Nataša Raschi, c’est-à-dire dévoiler une constante mathématique étonnamment peu étudiée chez un auteur célèbre. Raschi cherche, par une lecture fine des écrits mathématiques de Denis Diderot, à cerner la conception fondamentalement empirique et pragmatique de la langue mathématique promue par l’encyclopédiste. Dans un dialogue rappelant l’esthétique derridienne, Cassie Bérard et Antoine Dussault présentent une analyse à deux voix et à quatre mains des « fictions du chaos » mises en oeuvre dans les textes de Sébastien Brebel. Dans une approche fort originale et en fait, pas du tout chaotique, Bérard et Dussault mettent en oeuvre une lecture mathématique du chaos. Un autre dialogue, sous forme d’entretien cette fois-ci, nous donne à lire les réponses de Michèle Audin aux questions de Christelle Reggiani à propos des rapports entre écriture, littérature et mathématiques. La question de la domination masculine dans le milieu littéraire, évoquée dans plusieurs articles, dont celui de Lebrec notamment, fait partie des préoccupations abordées dans cet entretien. Or, il importe de constater que la majorité des études de ce dossier sont signées par des femmes, indiquant ainsi que cette domination est loin d’être absolue. Bref, ces études illustrent bien la richesse, la diversité et la fécondité des croisements entre mathématiques et littérature, et rendent obsolète la question de la distance entre les deux disciplines.