« Il semble que les Allemands soient en train de gagner la guerre », fis-je remarquer. « Ils gagneront, à moins que nous puissions arrêter nos pertes et ce, rapidement », répliqua l’amiral Jellicoe, commandant de la marine britannique. (Il faisait allusion au torpillage des approvisionnements britanniques et des pays neutres des derniers mois : 536 000 tonnes en février 1917, 603 000 tonnes en mars et 900 000 tonnes prévues en avril.) « N’y a-t-il pas de solution au problème ? » demandai-je. « Absolument aucune que nous puissions entrevoir à l’heure actuelle. »
(A.J. Marder, dans son historique compte rendu de From the Dreadnought to Scapa Flow)1.

... nous sommes en train d’examiner si oui ou non nous avons un problème, et, si tel est le cas, ce que nous devons faire.
(Un porte-parole d’Hydro-Ontario, confirmant, en janvier 1997, qu'un problème de corrosion peut affecter les réacteurs nucléaires de service)2.

Houston, nous avons un problème...
(Le commandant Jim Lovell, [Tom Hanks], dans le film Apollo 13, de MCA-Universal.)

1Depuis toujours, les êtres humains et les autres êtres vivants ont dû faire face à des problèmes variés, le premier et le plus pressant d’entre eux étant de rester en vie. Au cours du temps, ces problèmes se sont complexifiés et ont gagné toute l’étendue des activités humaines, depuis les problèmes simples de tous les jours jusqu’aux problèmes compliqués et de grand portée qui menaçaient le bien-être et la survie de millions d’individus. Mais s’il y a partout des problèmes, il y a partout aussi des solutions, qui sont trop souvent tenues pour acquises. Les êtres vivants eux-mêmes, dans la richesse de leur diversité, apportent des solutions multiples au problème difficile de la survie dans un environnement changeant et hostile.

2La qualité de vie des sociétés développées est directement liée à l’ingéniosité et à la débrouillardise des élites : scientifiques, ingénieurs, administrateurs et autres experts. Dans cette optique, la recherche de solutions à des problèmes difficiles comporte très souvent un recours aux mathématiques et à l’informatique, parfois à un degré élevé. Ceci est vrai non seulement des sciences physiques ou en génie mais aussi de domaines aussi divers que l’administration, la médecine, l’économie ou les sciences sociales. Considérons, par exemple, l’inquiétude actuelle concernant les conséquences du réchauffement planétaire, problème qui vraisemblablement ne sera pas résolu ou éliminé dans un proche avenir. Les climatologues ont détecté une hausse d’à peu près 0,5 °C de la température moyenne à la surface de la planète depuis les cent dernières années. Les scientifiques qui étudient ce phénomène prévoient une nouvelle élévation de 3,5 °C d’ici l’an 2100, si rien n’est fait pour réduire les émissions de gaz à effet de serre qui retiennent la chaleur dans l’atmosphère. Ces prévisions ont été obtenues par des simulations sur ordinateurs à partir de modèles mathématiques de notre écosystème. Dans ce cas particulier, les mathématiques et les ordinateurs n’ont pas été utilisés pour résoudre un problème, mais tout simplement pour nous avertir de sa présence.

3Nous vivons à l’âge de l’information, qui est en train de devenir rapidement l’ère de la surinformation. Les multiples problèmes qui surgissent de la nécessité de traiter des quantités colossales de données seraient insolubles sans l’aide des mathématiques et de l’informatique. L’information ne peut être stockée, traitée et retrouvée que si elle est codée sous une forme ou sous une autre. Pour qu’un ordinateur puisse afficher une page de texte comme celle-ci, par exemple, les lettres de l’alphabet, les signes de ponctuation et les autres signes diacritiques doivent être codés en chaînes de chiffres binaires. Dans un autre domaine, celui de la télévision à haute résolution, l’énorme quantité d’informations disponibles exige que l’encodage soit aussi économique que possible. Les techniques utilisées, appelées compression des données, sont d’abord des concepts mathématiques avant de devenir des signaux électromagnétiques et finalement une image sur l’écran de télévision.

4L’étude et la conception des codes constituent une branche des mathématiques que l’on appelle la théorie des codes. Son but général est de répondre au problème qui fut posé par Claude Shannon, le père de la théorie de l’information. « Le problème fondamental de la communication, écrivait-il en 1948, est celui de la reproduction, en un certain point, avec exactitude ou approximativement, d’un message sélectionné en un autre point. »

5Les ordinateurs et les mathématiques contribuent également à assurer la confidentialité de l’information transmise par téléphone ou par les réseaux informatiques. Une façon de protéger un message contre l’indiscrétion des yeux ou des oreilles est de l’encoder de telle sorte que seuls ceux à qui il est destiné puissent le comprendre. Le problème de concevoir un dispositif d’encodage et de décodage inviolables (et de le déjouer) relève de la cryptographie, science qui tire parti systématiquement des idées et des techniques mathématiques. Les opérations d’encodage et de décodage mobilisent d’imposants calculs, l’utilisation d’ordinateurs étant indispensable pour que ces opérations soient exécutées efficacement et rapidement. Une fois le message encodé, sa sécurité peut dépendre de la quasi-impossibilité de résoudre une énigme mathématique : celle de trouver les facteurs premiers de très grands nombres (longs de plus de 200 chiffres dans leur écriture décimale).

DES RECETTES QUI MARCHENT

6Les mathématiques, que l’on décrit communément (mais incomplètement) comme la science de la dimension et du nombre, nous fournissent des outils pour résoudre des problèmes généraux, ainsi qu’un langage adapté à leur formulation précise. Les mathématiciens se nourrissent de problèmes et ne cessent d’en inventer de nouveaux, souvent pour le simple plaisir d’être capables de les résoudre. La découverte d’une solution complète peut prendre des années et exiger les efforts conjugués de beaucoup d’entre eux ; si quelqu’un se rend compte qu’aucune solution n’existe, la recherche cesse aussitôt. Mais, si le problème est finalement résolu, il cesse d’avoir de l’intérêt pour le mathématicien. Pour les esprits pratiques, cependant, c’est la solution elle-même qui importe et la façon dont elle peut être exploitée pour servir à résoudre d’autres problèmes plus terre-à-terre. D’habitude, ces pragmatistes se soucient fort peu de l’élégance de l’argumentation mathématique, pourvu que la récompense escomptée soit proportionnelle aux ressources requises (temps, argent, etc.).

7À l’occasion, les solutions peuvent créer des problèmes plus grands que ceux qu’elles étaient censées résoudre. Dans un ouvrage récent, l’historien Edward Tenner (« Why Things Bite Back : Technology and the Revenge of Unintended Conséquences ») dresse un catalogue des solutions aux effets pervers. Parmi celles-ci, mentionnons les pesticides qu’on a épandus dans le sud des États-Unis durant les années 50 et 60 pour éradiquer les fourmis venues d’Amérique du Sud et qui ont fini par exterminer leurs prédateurs, ce qui en fait a accru la population des fourmis redoutées.

8Depuis quelques décennies, notre capacité à résoudre les problèmes a été considérablement améliorée par le fabuleux progrès des ordinateurs. Je ne veux pas dire par là que la théorie a pris du retard ou qu’elle n’a joué qu’un rôle secondaire dans la quête des solutions. Grattez la surface d’un problème pratique, et vous en trouverez souvent un autre qui est de nature mathématique. Il est possible que, si vous voulez résoudre le premier, vous serez amené à résoudre d’abord le second, avec, en règle générale, votre seul esprit. Néanmoins, à mesure que les machines deviennent plus intelligentes, leur rôle dans le processus de solution est en train de changer : de simples auxiliaires qu’elles étaient, elles deviennent des partenaires indispensables. (Il n’est pas absurde d’imaginer que, dans un avenir relativement rapproché, les rôles se trouvent inversés et que les humains n’aient plus qu’une fonction accessoire.) Dans un sens très réel, étant donné que la puissance de l’informatique tend vers l’infini, le besoin d’ingéniosité de l’être humain (dans la conception d’algorithmes efficaces, par exemple) peut approcher de zéro. Ceci est certainement vrai pour beaucoup de problèmes d’optimisation : si la vitesse des ordinateurs est suffisante, la recherche bête, cas par cas, d’une solution optimale devient une option plausible, même si un nombre astronomique de possibilités se présente.

9Dans un essai récent, le mathématicien français René Thom a dénoncé l’incapacité des théories scientifiques à expliquer la réalité. « Les scientifiques, dit-il, ont voulu débarrasser l’univers de la multitude des entités “occultes ou métaphysiques” qui l’encombraient, mais voilà qu’ils se sont mis peu à peu à encombrer le monde eux aussi. Ils l’ont rempli d’une foule d’éléments et de structures non observables, et de plus en plus difficilement imaginables, de moins en moins intelligibles. » Aux yeux de Thom, le progrès technologique ne fait que masquer la stagnation de notre compréhension globale du monde. « Au lieu de nous aider à comprendre, les scientifiques sont occupés à calculer, à faire tourner leurs ordinateurs », déplorait le lauréat 1958 de la prestigieuse médaille Fields (l’équivalent du prix Nobel des mathématiques). « La science est devenue un gigantesque ensemble de recettes qui marchent »3.

10On peut accepter que les philosophes, dans leur perpétuelle quête des causes ultimes, méprisent les produits pragmatiques de la science et de la technologie ; cependant, ceux dont le métier principal est de résoudre des problèmes pratiques n’ont aucune difficulté à accepter des « recettes » qui « livrent la marchandise ».

DES SOLUTIONS SOUPLES

11La question n’est pas de savoir si les machines un jour ou l’autre pourront prendre la relève complète de l’être humain dans la résolution de certains problèmes, car, sans l’intervention de l’homme, les réponses de l’ordinateur sont dépourvues de signification. En réalité, nous sommes plutôt témoins de l’émergence de certaines façons de contourner les défauts du calcul classique. Les ordinateurs numériques opèrent d’une manière séquentielle, exacte et déterministe sur un code binaire. Mais un tel mode d’opération comporte des limites, théoriques et pratiques, que les ordinateurs numériques ne peuvent franchir. D’autre part, la nécessité d’être munis d’un programme est une autre barrière à laquelle se heurtent les ordinateurs classiques. En même temps, certains nouveaux paradigmes informatiques font place à des dispositifs qui n’ont pas à être programmés, dans le sens traditionnel du terme, mais peuvent « apprendre » par expérience, comme sait le faire notre propre cerveau.

12L’intérêt pour les nouvelles idées vient également du désir de construire des machines « intelligentes », dotées de capacités cognitives et décisionnelles semblables à celles de l’homme. (Malheureusement, le qualificatif « intelligent » est tellement galvaudé aujourd’hui qu’il est pratiquement dénué de sens.) Du reste, les ordinateurs numériques pourraient échouer misérablement. Car, même si l’ordinateur peut jouer aux échecs et battre les meilleurs joueurs, sa stratégie est loin d’être brillante. Ce n’est essentiellement qu’une technique de force brute fondée sur des arbres de décisions qui représentent des millions de possibilités et à partir desquelles le mouvement optimal est choisi. Le joueur humain adopte une approche plus « intelligente », bien qu’il ne soit capable de prévoir que quelques coups à l’avance.

13Pour Lotfi Zadeh, qui a inventé les ensembles flous (voir ci-dessous), la différence entre l’intelligence humaine et celle de la machine repose sur la capacité du cerveau de penser et de raisonner selon des termes imprécis, non quantitatifs, capacité que les ordinateurs d’aujourd’hui ne possèdent pas. Selon Zadeh, « c’est cette capacité qui fait que l’homme peut déchiffrer une écriture peu soignée, comprendre une élocution déformée et focaliser son attention sur une information qui soit pertinente. C’est ce manque d’aptitudes qui fait que les ordinateurs, même les plus sophistiqués, sont impuissants à communiquer avec les êtres humains dans des langages naturels — plutôt que dans des langages artificiellement construits »4. Si nous avons pour but de construire des machines qui « raisonnent » davantage comme des êtres humains, nous devons aller au-delà de l’ordinateur classique de Von Neumann.

14La logique floue, les réseaux de neurones et les algorithmes génétiques font partie des nouvelles méthodes efficaces de calcul et de résolution des problèmes. Les réseaux de neurones peuvent reconnaître des structures mal définies en l’absence d’un ensemble explicite de règles ; la logique floue contrôle des systèmes à partir d’une description partielle et imprécise de leur comportement ; et les algorithmes génétiques peuvent résoudre des problèmes complexes par un processus évolutif dans lequel le hasard joue un rôle fondamental. Ces techniques, qui devraient être considérées comme complémentaires plutôt que comme concurrentes, sont au cœur de l’approche, par le « calcul souple », de l’intelligence artificielle. Certains des principaux caractères de cette approche sont le traitement des données incertaines, ambiguës ou incomplètes, le parallélisme massif, le hasard, les solutions approximatives et les programmes capables d’automodification.

15L’avenir nous réserve probablement des changements plus profonds. En 1994, Leonard Adleman a démontré la faisabilité d’effectuer des calculs au niveau moléculaire. « On peut imaginer, écrit-il à la fin de son article5, l’émergence d’un ordinateur d’usage général qui ne consisterait qu’en une seule macromolécule combinée à une collection d’enzymes semblable à un ribosome qui agirait sur elle. » Bien que ce ne soit encore qu’une possibilité théorique, les ordinateurs quantiques (ces appareils qui utilisent la polarisation des photons pour encoder l’information) pourraient un jour nous forcer à redéfinir ce que nous entendons par calcul.

16Nous devons souligner, cependant, que les ordinateurs numériques, qui sont extrêmement rapides et précis pour exécuter certains tâches— par exemple, réaliser des suites d’opérations arithmétiques—ne sont pas près de devenir chose du passé. La nouvelle technologie tend à être leur complément plutôt qu’à les remplacer. En outre, les nouveaux modes de calcul—flous, neuronaux, génétiques—sont, pour la plupart, effectués aujourd’hui sur des ordinateurs classiques.

*

Là où les ordinateurs cherchent à exécuter des calculs plus rapides, les mathématiques s’empressent de trouver des algorithmes plus ingénieux. Une idée qui réduit de moitié le nombre des étapes [d’un processus] est aussi valable qu’une puce qui double la vitesse [d’un ordinateur].
(Gilbert Strang, mathématicien au MIT)6.

17Cet ouvrage présente les principes du calcul souple d’une manière assez brève. Je me suis efforcé de rendre les concepts de base accessibles à un large public, sans accabler le lecteur de termes techniques, mais en dépassant les simples métaphores, et en jetant à l’occasion un regard critique sur le sujet. Mon but premier a été d’exposer, de façon amusante en même temps que rigoureuse, les idées (surtout mathématiques) qui sous-tendent la logique floue, les réseaux de neurones et les algorithmes génétiques, idées trop souvent obscurcies par une terminologie de spécialistes. Ceci est résumé dans la première et la troisième partie.

18Les nouvelles idées ne peuvent être entièrement appréciées que si on met en évidence l’arrière-plan mathématique du calcul traditionnel. Dans le chapitre 3, je procède à un tour d’horizon des concepts qui sont au cœur de l’informatique classique, en insistant sur les limites des modes traditionnels de calcul et en soulignant le rôle joué par les machines de Turing et par les problèmes NP-complets. Le chapitre 4 se concentre sur les fondements des mathématiques, en particulier sur le rôle des ordinateurs dans la recherche de la vérité mathématique. Après avoir rappelé une vieille mais toujours captivante histoire (celle du théorème d’incomplétude de Gödel), j’explore l’idée, plutôt humiliante pour les humains, que certaines vérités mathématiques pourraient ne pas être vérifiables par notre esprit sans l’aide de l’ordinateur.

19Les mathématiques et les ordinateurs se complètent : logiciel et matériel sont les deux côtés de la même médaille. Mais trop souvent, les gens s’émerveillent devant le corps de la machine—avec ses puces et ses scanners optiques, ses animations en trois dimensions—et oublient (ou ne savent jamais) que son âme est mathématique. L’un des objectifs de ce livre est de faire contrepoids à cette image partielle et partiale et de révéler la valeur de la main invisible des mathématiques.

*

20Les trois parties sont largement indépendantes et peuvent être lues dans un ordre différent sans qu’il y ait perte de continuité. Certaines preuves mathématiques et quelques détails techniques ont été relégués en appendices.

21J’ai écrit ce livre pour un large public, profane ou expert, en ne supposant de sa part qu’une connaissance élémentaire des concepts mathématiques. Des notions de calcul différentiel et d’algèbre linéaire sont nécessaires pour comprendre certains passages, mais un esprit curieux est la seule condition préalable à l’appréciation générale du texte.

*

22Je tiens à exprimer ma gratitude à plusieurs personnes qui ont lu des parties du manuscrit et dont les critiques pleines de tact ou les éloges (exagérés ?) m’ont aidé à rédiger un meilleur livre : Peter Géczy, de l’Université de technologie Toyohashi, Japon ; Michel Grabisch, du Laboratoire central de recherche Thomson-csf, Orsay, France ; Kazuo Nakamura, du Laboratory for International Fuzzy Engineering Research, Yokohama, Japon ; Andrew Watson, de l’Institute of Food Research, Norwich, Grande-Bretagne ; et Doron Zeilberger, de la Temple University, Philadelphie.

23Je suis également redevable au personnel des Presses de l’Université Princeton qui a collaboré à la production de ce livre, particulièrement à Bill Laznovsky, pour son excellent travail de mise au point et le soin qu’il a apporté aux détails. Je remercie spécialement mon éditeur, Trevor Lipscombe, de sa patience, de ses commentaires abondants et précieux et de son apport indispensable à cette entreprise.

24Sherbrooke, Québec juin 1998