I. Le mathématicien face à la serrure

1On peut lire dans le De Subtilitate de Cardan une description de ces cadenas à combinaison dont l’usage est encore courant de nos jours :

« Si ie vouloi ici reciter & nombrer toutes les façons des serrures, la narration engendreroit ennui. Toutefois ie mettrai ici l’exemple d’une que Ianellus a composée.
Ceste serrure sous tout nom qui fut de sept lettres pouvoit exactement estre close & fermee : & ne pouvoit estre ouverte sous autre nom que sous celui dont elle avoit esté fermee… »

2Sur chaque côté du montant du cadenas, se trouvent deux petites lignes qui servent de repère :

« A ces lignes sept lettres de diction doivent estre mises droit à droit, en tournant & en adaptant les cercles ou anneaux par l’ordre que tu as proposé de garder : comme ainsi soit que le nom soit de sept lettres SERPENS, chacun anneau constituera sa lettre alendroit de l’espace de deux lignes, à fin qu’elle puisse estre close ou ouverte […]. Et quand la serrure sera fermee, les anneaus sont tournés sans empeschement, à fin qu’ainsi la proportion du nom soit confondue1. »

3« Serrure ou cadenat faict en façon esmerveillable », dit un ouvrage de « secrets » où se trouve reproduit le texte de Cardan2. Pareille curiosité devait sans nul doute flatter le goût du mystère si répandu au xvi^e siècle et que ne devait pas entièrement renier le xvii^e. Mais de Cardan, du moins, on aurait pu espérer, sur ce sujet, quelque notation de mathématicien : d’autant qu’il s’était préoccupé d’analyse combinatoire. Le défi qu’avaient en quelque sorte jeté les artisans à l’esprit de méthode ne resta pas toutefois sans réponse : ces cadenas que l’on doit à la subtilité des faiseurs d’artifice, n’y a-t-il pas moyen de les ouvrir à coup sûr, si l’on sait s’y prendre habilement ?

4Telle est la question que s’est posée Jean Borrel – plus connu sous le nom de Butéo (1492 ?-1572 ?) – dans sa Logistica, ouvrage de mathématiques écrit en latin, et publié à Lyon en 15593. Le texte4 dont nous donnons la traduction ci-dessous, et qui fait suite à une brève description du mécanisme des serrures à combinaison, frappe par la fermeté avec laquelle la difficulté se trouve réduite, étapes par étapes : Jean Borrel y explicite clairement avec la patience des initiateurs la méthode lexicographique de dénombrement et d’énumération.

5Puisqu’aussi bien il en fera mention ci-dessous, précisons qu’avant de s’occuper de cadenas, il avait rencontré, dans la même Logistica, à propos de jets de dés, un autre problème de dénombrement et d’énumération : il avait dressé les tables des combinaisons avec répétitions de six chiffres pris un à un, deux à deux, trois à trois, quatre à quatre.

II. Les mots et les clauses

Traduction du texte de Jean Borrel

6« Imaginez maintenant, à propos d’un instrument construit selon l’un des modes dont on vient de parler, que quelqu’un, désireux de l’ouvrir, ait oublié la formule ; je pose la question suivante : selon quelle méthode la recherche peut-elle être conduite pour que nous ne soyons pas forcés de briser la serrure ?

7Pour découvrir cet endroit déterminé où se fait l’ouverture, il faut, de toute nécessité, établir une table bien ordonnée, dans laquelle sont contenus, sans qu’aucun soit omis, tous les modes de révolution5, distincts entre eux, qui peuvent se produire lorsqu’on fait tourner quatre anneaux. Comme parmi tous ces modes, il en est un, unique, selon lequel a été obtenue la fermeture, c’est en le retrouvant qu’on provoque en effet l’ouverture. Mais c’est là une tâche à ce point longue et compliquée qu’il faut user, pour construire la table, d’un artifice peu commun. Personne jusqu’ici n’a traité ce sujet. C’est que, comme cela apparaîtra dans ce qui suit, la variation parcourt jusqu’à 1 296 modes. Aussi n’y a-t-il pas lieu de compter sur une découverte fortuite. Car, comme le dit Cicéron dans le De divinatione : « En jetant quatre osselets au hasard, il se peut qu’on obtienne le coup de Vénus6, mais si l’on en jetait quatre cents obtiendrait-on cent fois ce même coup ? »7. Pour mieux faire entendre comment va procéder notre recherche, il faudra en amorcer l’exposé à partir de ses cas les plus simples, c’est-à-dire en considérant le cas d’un anneau unique ; après quoi, il faut passer au cas de deux anneaux, puis à celui de trois, et enfin à celui de quatre. Et bien que les formes gravées sur les anneaux soient celles de lettres, je vous demande toutefois, pour la plus grande commodité de l’exposé, de vous représenter chacun de ces anneaux comme portant non pas des lettres, mais autant de nombres progressant à partir de l’unité, à savoir 1, 2, 3, 4, 5, 6. Il n’est pas nécessaire de conserver l’ordre de la progression. On dira plus loin de quelle manière ces nombres correspondent aux lettres. Mais venons-en à la détermination des tables. Bien que celles-ci aient quelque chose de semblable aux tables relatives aux jets de dés qu’on a vues ci-dessus, elles en diffèrent cependant beaucoup, et leurs dimensions s’accroissent plus vite.

8La première table, correspondant au cas d’un seul anneau, sera constituée de six caractères représentant des nombres en progression naturelle, et cette table aura autant de parties qu’il y a de nombres ; elle se présente de cette manière : 1, 2, 3, 4, 5, 6. Il est manifeste en effet, que pour un seul anneau, aucune variété de révolution ne peut aller au-delà des six lettres que comporte l’anneau.

9Pour deux anneaux, on obtiendra la table en répétant six fois la première table ; on construira ainsi une suite ordonnée de groupes de deux nombres divisée en autant de parties que de fois où l’on répète la première table. Dans la première partie, les nombres de la première table sont précédés par l’unité ; dans la seconde, ils sont précédés par 2, dans la troisième par 3, dans la quatrième par 4, dans la cinquième par 5, dans la dernière par 6. Il y aura donc en tout 36 petites lignes dans cette table.

10La troisième table, relative au cas de trois anneaux, procède de la seconde répétée six fois, et se divise également en 6 parties. Sa première partie, ou premier ordre, sera obtenue en préposant l’unité devant chacune des petites lignes de la seconde table ; en préposant de la même façon les nombres 2, 3, 4, 5, 6, on obtiendra les autres parties qui toutes comporteront ainsi le même nombre de termes. En tout, cette troisième table comportera 216 termes.

11Nous en arrivons enfin au terme de notre recherche, à la quatrième table relative au cas de quatre anneaux. Elle sera formée, selon la même procédure que précédemment, en répétant six fois la troisième table. Sa première partie, ou premier ordre, sera formée en plaçant l’unité devant les 216 petites lignes de la troisième table ; on continuera de procéder ainsi pour les autres parties, avec les nombres 2, 3, 4, 5, 6. L’étendue de la quatrième table sera donc de 1 296 petites lignes.

12J’ai disposé ci-dessous les tables selon l’ordre qu’on vient de fixer. La dernière d’entre elles, répondant à la question posée, montrera, sans qu’aucune soit omise, toutes les révolutions de quatre anneaux, distinctes entre elles. La méthode de construction de ces tables ressort en toute clarté de ce qui précède.

13Partant de la première table, on peut considérer un nombre de tables aussi grand qu’on voudra ; pour calculer combien chacune d’elles comporte de petites lignes, on use de la multiplication par six sous la forme suivante. En multipliant 6, nombre des premiers caractères, par lui-même, on obtient 36 petites lignes pour la seconde table. En multipliant à nouveau par 6 ce dernier nombre, cela donnera 216 pour la troisième table. De 216 multiplié derechef par 6, il résulte 1 296 petites lignes pour la table qui fait ici l’objet de notre enquête.

14Or s’il paraît à propos de considérer la cinquième table, relative à cinq anneaux, on en constituera la première partie ainsi que les suivantes, selon l’enseignement qui ressort des cas précédents jusqu’à ce qu’on arrive à 7 776 petites lignes. Ce qui est le produit de 1 296 multiplié par 6. De même, en multipliant ensuite 7 776 par 6, viendra, pour la sixième table, le nombre de 46 656 petites ligues.

15Par ailleurs, puisque, comme il a été dit, ce sont des lettres qui sont gravées sur les anneaux, voyons comment on peut faire correspondre ces lettres aux nombres portés dans la quatrième table.

16Supposez que soient tracées les six lettres OFCSDA sur le premier anneau, les lettres VIOAEM sur le deuxième, les lettres IDLNVA sur le troisième, les lettres REIAST sur le quatrième. Prenez maintenant chacun de ces groupes de six lettres, et imaginez que chacune des lettres qui y sont comprises corresponde à un chiffre déterminé choisi parmi : 1, 2, 3, 4, 5, 6, selon l’ordre que vous jugerez bon, comme je l’ai fait par exemple dans le tableau suivant.

17En lisant dans l’ordre, de haut en bas, ce tableau, une des six lettres de chacune de ses lignes étant prise chaque fois, on verra les mots OVIR, FIDE, COLI, SANA, DEUS, AMAT. En notant les chiffres qui sont placés dans le tableau au-dessus de chacune des lettres de ces mots, on verra que correspondent respectivement à ces mots, les nombres 1 364, 3 411, 2 525, 6 243, 5 156, 4 632. Ce sont là autant de petites lignes dispersées dans la table relative au cas de quatre anneaux.

18On formera aussi d’autres mots en choisissant autrement une lettre dans chacun des anneaux ; ainsi : FIAT, SILE, DIVI, AVLA, auxquels se rapportent les nombres 3 432, 6 421, 5 455, 4 323.

19Celui qui, ignorant le mot-clef, veut ouvrir la serrure, fera méthodiquement des essais, en tournant chacun des anneaux, selon l’ordre de la quatrième table qu’il suivra à partir de sa première ligne ; il tentera chaque fois de tirer la tige centrale jusqu’à ce qu’elle soit effectivement dégagée et laisse s’ouvrir la serrure. Cela arrivera ; aucun doute n’est permis là-dessus : impossible en effet de réussir en dehors des cas compris dans la table.

20Et c’est ainsi que le calculateur, en ouvrant la serrure, perce le secret de l’artisan et surpasse ce dernier par son intelligence. C’est ce qu’on s’était proposé de montrer. »

III. Le calculateur ouvre la serrure

21D’auteur qui, au xvi^e ou au xvii^e siècle, ait repris ce problème à nouveaux frais, il n’en est pas à notre connaissance, en dehors de Borrel. C’est de ce dernier que, directement ou indirectement, se font l’écho quelques textes qui méritent pourtant qu’on en dise un mot : la présentation qu’ils en donnent, les autres problèmes auxquels ils la rattachent, placent la « Question » de Borrel sous un nouvel éclairage.

22À la fin d’un ouvrage de cryptographie digne d’attention8, G. Selenus (pseudonyme d’Auguste II, duc de Brunswick et Lunebourg) a reproduit le texte de Borrel ; ce qu’il justifie au nom d’une classification générale dont il ne pousse guère loin les conséquences, mais qui est assez curieuse par elle-même. Un procédé cryptographique consiste à cacher des notions au moyen d’une écriture appropriée ; la théorie du décryptement enseignera comment on peut retrouver ces Notions masquées par les « chiffres ». Or ce qui peut se cacher se partage en Notions, Faits, Effets Artificiels.

23Et de même que lorsqu’on décrypte un message, on procède à une « Detectio » des Notions, il y aura également une « Detectio » des Faits cachés9 ainsi qu’une « Detectio » des Effets Artificiels10. C’est évidemment sous cette rubrique que se place l’ouverture des serrures selon la méthode enseignée par Borrel. Selenus compte que son lecteur trouvera quelque agrément à cet exercice qui, ajoute-t-il, a aussi « beaucoup de choses en commun avec ce dont nous avons traité précédemment » : la cryptographie conduit en effet naturellement à des problèmes et à des dénombrements tout à fait analogues.

24Deux mots à retenir dans un recueil de récréations mathématiques et physiques11 du père jésuite G. Schott. Il qualifie de mathématiques ces serrures : « Il nous paraît à propos de les appeler mathématiques puisqu’elles ne peuvent être construites, fermées, ouvertes, sinon par un artifice mathématique ». Cette caractérisation resterait assez vague, si un second mot, bien plus significatif à nos yeux, ne venait la spécifier : le mot de « combinaisons ». « Pour retrouver la formule d’ouverture, lorsqu’on l’a perdue ou qu’on l’ignore, il faut former toutes les combinaisons de toutes les lettres » (« faciendae sunt omnes omnium litterarum combinationes »). Et c’est en termes de « combinaisons » que Schott expose les calculs qu’avait effectués Borrel12. Circonstance qui prend toute sa signification du fait que dans les propositions précédentes, Schott avait traité de problèmes de permutations et d’arrangements appliqués en particulier au domaine des anagrammes13.

25Et c’est ainsi que ces « serrures mathématiques » en arrivent à prendre la place qui leur revient dans l’art dont elles ne sont qu’une application parmi d’autres : l’art combinatoire. On ne s’étonnera donc pas de les retrouver dans l’encyclopédie des usages de cet art qu’est le De arte combinatoria de Leibniz14. Ce dernier rapproche leur principe de celui qui régit l’utilisation des « roues mobiles » dont les disciples de Lulle faisaient grand usage : ces disques concentriques où sont portées des lettres, et qu’on déplaçait les uns par rapport aux autres pour obtenir tous les groupements possibles entre ces lettres. Sans rien exagérer, on pourrait dire que le problème des cadenas à secret connaît une « postérité multiple dans l’œuvre de Leibniz », à commencer par le thème de la machine à calculer15 ; amplifié par une multiplicité d’idées harmoniques, le dénombrement appliqué de Borrel peut être érigé en véritable modèle épistémologique16.

⁂

26Mélancolique épilogue : au ton triomphant du mathématicien du xvi^e siècle répond, au xviii^e, dans l’Encyclopédie, une note désabusée. Rien ne sert de savoir combiner ; encore faut-il qu’on vous laisse le temps d’exercer votre art :

« Mais, dira-t-on, comment ouvre-t-on ce cadenat ? C’est par le moyen de signes & de caracteres répandus en grand nombre sur toutes les circonférences des plaques enfilées. Il n’y a qu’une seule position de tous ces caracteres, qui donne aux plaques celle dans laquelle on peut faire sortir la broche du canon ; & il n’y a que le maître du cadenat qui connoisse cette position, & qu’un Géometre qui epuiseroit les combinaisons de tous les caracteres, & qui eprouveroit ces combinaisons de caracteres les unes après les autres, qui puisse rencontrer la bonne ; mais par malheur, cette espece de cadenat est à l’usage de gens, dont l’humeur inquiets ne laisse guere aux autres le tems de faire un si grand nombre d’epreuves17. »