Blog BCS - Between Carbon and Silicon

The Return of the Helmsman - Le retour du pilote

Version française plus bas : aller à la version française.

English version

The Return of the Helmsman

Why I'm going to say "cybernetics" where everyone else says "artificial intelligence."

For some time now, the phrase "artificial intelligence" has bothered me when I use it in front of my students. It names a faculty, intelligence, and it puts that faculty inside a thing. But what we use today has stopped being a thing. There is a model, of course. There is also the harness around it (the software that lets it act), the tools we put in its hands, the robot it drives, the swarms of agents talking to each other, and the human who stays in the loop. Ask where "the intelligence" sits in all that and you get a question with no answer, one that always drags the conversation back to the same place: does it think like us?

There used to be a word for the whole arrangement. It is older than "artificial intelligence." It was pushed aside in 1955 for reasons that no longer hold, and it describes exactly what we have in front of us. I propose we take it back.

You can rename a field by decree. Washington did it recently, when it imposed the term "super intelligence." I only have my voice: here, on social media, in my classroom. I'm using it. And since I'm defending a word, I owe you its story.

The origin

In the beginning there is a man standing at the stern of a ship, one hand on an oar longer than the others. The Greeks call him kybernetes, the helmsman. He doesn't row. He doesn't haul on anything. He watches the bow, feels the wind shift, corrects with a small movement, and watches again. His whole trade lives in that back-and-forth between what he sees and what he does. Plato notices him and borrows his name for something else: kybernetike, the art of steering, becomes the art of steering people and cities.

The Romans take the word and bend it. Kybernan becomes gubernare, and out of that come govern, governor, government. The Greek word itself goes to sleep for two thousand years.

It wakes up once in 1834, in the hands of André-Marie Ampère. The old physicist has decided to classify every science, including the ones that don't exist yet, and he needs a name for the science of governing. He writes cybernétique. Nobody picks it up. A few years later a Polish philosopher, Trentowski, makes the same move on his own, with the same lack of success.

Meanwhile the thing exists without the word. On James Watt's steam engines, two metal balls spin on a spindle. When the engine races, they swing outward and close the steam valve. When it slows, they drop and open it again. Engineers call the device a governor, the helmsman's own name, worn smooth by Latin. In 1868 James Clerk Maxwell writes its mathematics in a paper called "On Governors." The helmsman has become a piece of cast iron.

Then comes the war, and a short-sighted, absent-minded MIT mathematician named Norbert Wiener, a former child prodigy with a PhD at eighteen. He is asked to help anti-aircraft guns hit bombers. A shell takes long seconds to climb, so you have to aim at where the plane will be, which means predicting what the pilot will do and correcting from the miss.

In the gun, the pilot, and the nervous system, Wiener sees the same pattern: an action whose result comes back to correct the next action. With his friend Arturo Rosenblueth, a Mexican physiologist, he looks for a name. In 1947 they pick the Greek helmsman, partly as a nod to Maxwell's governors. Wiener knew nothing of Ampère. He found out later.

The book comes out in 1948, in English, published in Paris and in the United States at the same time. That December, the Paris daily Le Monde runs a headline asking whether we are heading "toward the governing machine." In New York, the Macy conferences gather mathematicians, neurologists, and anthropologists around the word: von Neumann, McCulloch, Shannon, Bateson, Margaret Mead. For a few years, it is the name of the future.

In 1955, John McCarthy chooses "artificial intelligence" instead. He explained later that he wanted neither to accept Wiener as a guru nor to have to argue with him. Wiener is not on the list of participants at Dartmouth. A matter of personalities, as much as of science, begins to push the word out of American labs.

The ground had been prepared. In 1952, Wiener had broken, suddenly and for good, with McCulloch and Pitts, his closest allies, for private reasons. The break had shattered the core of cybernetics at MIT and, in the eyes of his biographers, had already sealed its decline.

Elsewhere, the word travels further than the science. The Soviet Union condemns it as a bourgeois pseudoscience, then adopts it to the point of making it a science of state. In Chile, Stafford Beer builds Salvador Allende a control room for the national economy, with seven swivel chairs, which the military destroys after the 1973 coup.

The word also begins to take on new forms. In 1960, two researchers weld the word to "organism" to imagine humans in space: cyborg. In 1982, William Gibson, on a manual typewriter, invents cyberspace. The prefix breaks off and goes to live on its own, in cybercafés, cyberattacks, and cybercrime units.

Wiener dies in Stockholm in 1964, before he can watch his discipline dissolve.

The Greek helmsman, though, came back without anyone announcing it. In 2014, engineers at Google need a name for the software that spreads programs across thousands of servers. They choose Kubernetes, with a seven-spoked ship's wheel for a logo. Some of today's large models are trained on clusters of machines that it steers.

The evolution

While the science scattered, the word kept evolving on its own.

Wiener was the first to stretch it. In 1950 he writes a second book in which he hardly mentions guns. He writes about the work machines will take from people, and about what we will dare to let them decide.

Then the storytellers get hold of it. In 1965, the Polish writer Stanisław Lem publishes The Cyberiad: two robot engineers, Trurl and Klapaucius, roam the galaxy building extraordinary machines, and it is funny. In 1966, British television invents the Cybermen, people who have replaced so many parts that they have forgotten how to be human, and it is frightening. In 1972, a novel called Cyborg tells the story of a wrecked test pilot rebuilt piece by piece. Television turns it into The Six Million Dollar Man. In the 1980s, cyberspace adds the network, a country you can walk into.

By the end of the journey, the word holds nearly everything: the machine that learns, the robot, the repaired or augmented human, the network, and the question of who is in command. What we file today under "artificial intelligence" and "robotics" is already in there, with its promises and its worries.

The synthesis

This history brings me to the synthesis I would like to propose today: go back to the word cybernetics, loaded with everything it has picked up since, to replace the term "artificial intelligence."

Today we say "AI" for three different things. "I work in AI": that's a science. "The AI was trained on millions of texts": that's a method. "I asked the AI": that's an entity, something you talk to. One word, three different objects.

So I propose three words that cover the whole field: cybernetics, deep learning, and model.

Cybernetics, for the whole: the science, and the systems it builds. To steer is to know where you want to go, look at where you are, and correct. A thermostat does it, with a single goal: the number on the dial. An agent does it too, when it runs a program, reads what comes back, and tries again. From one to the other the move is the same. Only the scale changes. And the word brings along everything it has learned since: the machine that wants something, human and machine entangled, the question of who holds the helm.

Deep learning, for the method. You show the machine a sentence with the end hidden. It guesses a word. You compare the guess with the real one, and the error nudges its settings a little. You do this billions of times. Nobody writes any rules.

Model, for the entities. A model is what comes out of that learning: a distillation of everything that was read. When you ask a question, a model is what you are talking to.

Conclusion

I invite all of you to think about it, and not to leave the naming of things to Washington. Many of the arguments we read today come from an ambiguous vocabulary: people fight about "AI" without saying whether they mean a science, a method, or a model. Returning to the original word may be a healthy response.

Version française

Le retour du pilote

Pourquoi je vais dire « cybernétique » là où tout le monde dit « intelligence artificielle ».

Depuis quelque temps, le mot « intelligence artificielle » me gêne quand je l'emploie devant mes élèves. Il désigne une faculté, l'intelligence, et il la loge dans une chose. Or ce que nous utilisons aujourd'hui a cessé d'être une chose. C'est un modèle, bien sûr, mais c'est aussi le harnais qui l'entoure, c'est-à-dire le logiciel qui lui permet d'agir, les outils qu'on lui met dans les mains, le robot qu'il anime, les essaims d'agents qui se répondent, et l'humain qui reste dans la boucle. Demander où se trouve « l'intelligence » dans cet ensemble, c'est poser une question qui n'a pas de réponse, et qui ramène toujours la discussion au même endroit : est-ce que ça pense comme nous ?

Il existait un mot pour cet ensemble. Il est plus ancien qu'« intelligence artificielle », il a été écarté en 1955 pour des raisons qui ne tiennent plus, et il dit exactement ce que nous avons sous les yeux. Je propose de le reprendre.

On peut rebaptiser un champ par décret, cela s'est vu récemment à Washington avec l'imposition du terme « super intelligence ». Moi, je n'ai que ma voix : ici, sur les réseaux, dans ma salle de cours. Je m'en sers. Et puisque je défends un mot, je dois dire d'où il vient. Voici son histoire.

L'origine

Au commencement, il y a un homme debout à l'arrière d'un bateau, la main sur une rame plus longue que les autres. Les Grecs l'appellent kybernêtês, le pilote. Il ne rame pas, il ne hisse rien. Il regarde l'étrave, sent le vent tourner, corrige d'un geste, regarde à nouveau. Tout son métier tient dans cet aller-retour entre ce qu'il voit et ce qu'il fait. Platon le remarque et lui emprunte son nom pour parler d'autre chose : la kybernêtikê, l'art de piloter, devient chez lui l'art de conduire les hommes et la cité.

Les Romains reprennent le mot en l'écorchant. Kybernan devient gubernare, et de là sortent le gouvernail, le gouverneur, le gouvernement. Le mot grec, lui, s'endort pour deux mille ans.

Il se réveille une première fois en 1834, chez André-Marie Ampère. Le vieux savant s'est mis en tête de classer toutes les sciences, y compris celles qui n'existent pas encore, et il lui manque un nom pour la science de l'art de gouverner. Il écrit « cybernétique ». Personne ne relève. Quelques années plus tard un philosophe polonais, Trentowski, refait le même geste de son côté, avec le même insuccès.

Pendant ce temps, la chose existe sans le mot. Sur les machines à vapeur de Watt tournent deux boules de métal : quand la machine s'emballe, elles s'écartent et ferment la vapeur ; quand elle ralentit, elles retombent et l'ouvrent. Les Anglais appellent ça un governor. En 1868, Maxwell en fait les mathématiques. Le pilote est devenu une pièce de fonte.

Puis vient la guerre, et un mathématicien myope et distrait du MIT, Norbert Wiener, ancien enfant prodige, docteur à dix-huit ans. On lui demande d'aider les canons à toucher les bombardiers. Un obus met de longues secondes à monter : il faut viser l'endroit où l'avion sera, donc prédire ce que fera le pilote, et corriger d'après l'écart constaté.

Wiener voit dans le canon, dans le pilote et dans le système nerveux le même schéma, une action dont le résultat revient pour corriger l'action suivante. Avec son ami Arturo Rosenblueth, physiologiste mexicain, il cherche un nom. En 1947 ils choisissent le pilote grec, en hommage aussi au governor de Maxwell. Wiener ignorait tout d'Ampère ; il l'apprendra après.

Le livre paraît en 1948, en anglais, à Paris chez Hermann en même temps qu'aux États-Unis. Le 28 décembre, Le Monde titre : « Vers la machine à gouverner ? ». À New York, les conférences Macy réunissent autour du mot des mathématiciens, des neurologues, des anthropologues : von Neumann, McCulloch, Shannon, Bateson, Margaret Mead. Pendant quelques années, c'est le nom de l'avenir.

En 1955, McCarthy lui préfère « intelligence artificielle ». Il s'en expliquera plus tard : il ne voulait ni de Wiener pour maître, ni avoir à se disputer avec lui. Wiener ne figure pas parmi les participants de Dartmouth. Une affaire de personnes, autant que de science, commence ainsi à effacer le mot des laboratoires américains.

Le terrain était prêt. En 1952, Wiener avait rompu brutalement et définitivement avec McCulloch et Pitts, ses plus proches alliés, pour des raisons privées. Cette rupture avait cassé le noyau de la cybernétique au MIT et, pour ses biographes, déjà scellé son affaiblissement.

Ailleurs, le mot voyage plus que la science. L'URSS le condamne comme pseudo-science bourgeoise, puis l'adopte au point d'en faire une science d'État. Au Chili, Stafford Beer construit pour Allende une salle de pilotage de l'économie, avec sept fauteuils pivotants, que les militaires détruisent après le coup d'État de 1973.

Le mot prend aussi de nouvelles formes. En 1960, deux chercheurs soudent le mot à « organisme » pour imaginer l'homme dans l'espace : cyborg. En 1982, William Gibson, sur une machine à écrire mécanique, invente le cyberespace. Le préfixe se détache et part vivre seul, dans les cafés, les attaques, les polices.

Wiener meurt à Stockholm en 1964, avant d'avoir vu sa discipline se dissoudre.

Le pilote grec, lui, est revenu sans que personne l'annonce. En 2014, des ingénieurs de Google cherchent un nom pour le logiciel qui répartit les programmes sur des milliers de serveurs. Ils prennent Kubernetes, avec pour logo une barre de navire à sept rayons. De grands modèles d'aujourd'hui sont entraînés sur des grappes de machines tenues par lui.

L'évolution

Pendant que la science se dispersait, le mot, lui, a continué d'évoluer de son côté.

Wiener l'élargit le premier. En 1950, il écrit un second livre où il ne parle presque plus de canons. Il parle du travail que les machines vont prendre aux hommes, et de ce qu'on osera leur laisser décider.

Puis les conteurs s'en emparent. En 1965, le Polonais Stanisław Lem publie La Cybériade : deux robots ingénieurs, Trurl et Klapaucius, parcourent la galaxie en construisant des machines extraordinaires, et c'est drôle. En 1966, la télévision anglaise invente les Cybermen, des hommes qui ont remplacé tant de pièces qu'ils ont oublié d'être humains, et c'est effrayant. En 1972, un roman intitulé Cyborg raconte un pilote d'essai brisé qu'on reconstruit pièce par pièce ; la télévision en tirera L'Homme qui valait trois milliards. Dans les années 1980, le cyberespace y ajoute le réseau, un pays où l'on entre.

À la fin du voyage, le mot contient à peu près tout : la machine qui apprend, le robot, l'homme réparé ou augmenté, le réseau, et la question de savoir qui commande. Ce que nous rangeons aujourd'hui sous « intelligence artificielle » et « robotique » s'y trouve déjà, avec ses promesses et ses inquiétudes.

La synthèse

De là, aujourd'hui, j'aimerais proposer une synthèse : revenir au mot cybernétique, chargé de tous ces nouveaux contenus, pour remplacer le terme « intelligence artificielle ».

Nous disons aujourd'hui « IA » pour trois choses différentes. « Je travaille dans l'IA » : c'est une science. « L'IA a été entraînée sur des millions de textes » : c'est une méthode. « J'ai demandé à l'IA » : c'est une entité, quelque chose à qui l'on s'adresse. Un seul mot pour trois objets.

Je propose donc l'usage de trois mots qui couvrent l'ensemble du champ : cybernétique, deep learning et modèle.

Cybernétique, pour l'ensemble : la science, et les systèmes qu'elle construit. Piloter, c'est savoir où l'on veut aller, regarder où l'on en est, et corriger. Un thermostat le fait, avec 20 degrés pour seul but. Un agent le fait aussi quand il lance un programme, lit ce qui revient et recommence. De l'un à l'autre, le geste est le même ; seule l'échelle change. Et le mot apporte avec lui tout ce qu'il a appris depuis : la machine qui veut quelque chose, l'homme et la machine mêlés, la question de savoir qui tient la barre.

Deep learning, pour la méthode d'apprentissage. On montre à la machine une phrase dont on a caché la fin. Elle propose un mot. On compare avec le vrai, et l'erreur corrige un peu ses réglages. On recommence des milliards de fois. Personne n'écrit de règles.

Modèle, pour les entités. C'est ce qui sort de cet apprentissage : un condensé de tout ce qui a été lu. C'est à un modèle qu'on s'adresse quand on pose une question.

Conclusion

Je vous invite tous à y réfléchir, et à ne pas laisser à Washington le soin de nommer les choses. Beaucoup des débats que nous lisons aujourd'hui tiennent à un vocabulaire ambigu : on se dispute sur « l'IA » sans avoir dit si l'on parle d'une science, d'une méthode ou d'un modèle. Revenir au mot d'origine est peut-être une saine réaction.

Sources

The word, from Athens to Ampère

Wiener and the Macy years

The word on the road

The evolution

Deep learning

The Washington decree

Contributeurs

Kira Kiranova - Relectrice et inspiratrice infatigable de mes nombreuses expéditions intellectuelles.

Note finale

Ce texte a été rédigé avec l'aide d'outils de synthèse IA, à travers des corrections et des allers-retours constants. La structure, les articulations et les impulsions sont les miennes ; c'est précisément cet effort qui me permet d'apprendre réellement ce que j'écris.

L'objectif de ce travail était avant tout pédagogique pour moi. BCS existe parce que je comprends mieux en écrivant. C'est le moteur essentiel de ces articles.

Souscrivez à mon blog BCS et recevez ma newsletter mensuelle une fois par mois, pas plus, pas moins - Résumé des articles récents et quelques infos.


or RSS feed.

#Article #English #French #IA