Aimé Michel

Le premier mystère est: pourquoi y a-t-il quelque chose plutôt que rien?
Et le deuxième, aussi grand que le premier: pourquoi suis-je là en train de penser?

logo-download

L’ordinateur-roi?

Chronique parue dans France Catholique − N° 1268 – 2 avril 1971

 

Si l’on était moins paresseux, on devrait réfléchir davantage à l’évolution des ordinateurs. Qu’est-ce donc que cette machine qui «pense» fantastiquement plus vite que l’homme et qui, cependant, se trompe si souvent de façon grossière et même absurde? L’amiral Jubelin rappelait récemment dans un journal de province[1] quelques-unes de ces bévues: la plus retentissante est la faillite de Rolls Royce causée par une erreur d’appréciation sur un nouveau matériau destiné aux aubes des turbines.

Le dossier de la décision

L’amiral semble penser que la responsabilité initiale doit en être portée par les technocrates. Cette imputation pose clairement le problème de l’ordinateur en tant que substitut de la pensée humaine dans les problèmes de décision: ce n’est certes pas l’ordinateur qui a pris la décision de construire le fatal moteur dont l’échec risque, de proche est proche, de jeter des centaines de milliers de chômeurs sur le pavé. Mais le dossier de la décision, sur quelles bases fut-il établi? Qui donc le formula en chiffres, chiffres de coût, chiffres de durée et, surtout, chiffres correspondant aux milliers de problèmes techniques posés par le nouveau matériau? L’ordinateur, et lui seul, ou presque.

On objectera que les calculs de l’ordinateur étaient très probablement justes, et que s’il donna des réponses erronées, c’est que les questions lui avaient mal été posées. C’est vrai! Mais voici un autre exemple montrant la difficulté de poser les bonnes questions et dont la réalité nous menace tous de mort.

On sait que la paix par la terreur tient au délai des quelques dizaines de minutes exigées par une attaque massive d’ICBM à têtes nucléaires. Aucun des Grands ne peut exterminer l’autre sans mourir lui-même sous la riposte déclenchée pendant ces quelques dizaines de minutes. Mais la dynamique d’un tel équilibre porte irrésistiblement chacun des adversaires à raccourcir en sa faveur le délai dont dépend sa survie. Comme de nombreux savants l’ont déjà souligné (par exemple, l’Américain Paul Ehrlich), ce raccourcissement tend de façon irrémédiable à dépouiller les hommes de la décision ultime, puisque le cerveau humain ne sera bientôt plus assez rapide pour apprécier la situation stratégico-politique en période de crise. Cette situation exigera en quelques secondes une décision résultant de l’appréciation de milliers de facteurs. Aucun homme au monde ne sera plus capable de comprendre à temps ce qui se passe. Il faudra donc prendre à l’avance des décisions conditionnelles, et, abandonner à l’ordinateur le soin de savoir si les conditions de telle ou telle décision existent, si bien que la guerre totale pourra être déclenchée par des machines pendant notre sommeil!

Nous n’en sommes pas encore là, mais n’oublions pas que les performances des ordinateurs doublent en moyenne tous les quatre à cinq ans. Comme celles de l’homme n’ont pas changé depuis l’apparition de l’Homo sapiens et n’ont aucune raison de changer tant que l’homme ne sera qu’un homme, nous devrions, semble-t-il, dès maintenant, réfléchir à ce qui se passera quand la machine nous dépassera dans tous les domaines relevant de ce que nous appelons l’intelligence.

Dès 1964, une équipe proposait des machines capables de résoudre des problèmes par des voies non algorithmiques, c’est-à-dire, ne faisant plus seulement appel au raisonnement aveugle de l’ordinateur ordinaire (qui est la voie de l’intelligence discursive) mais bien à des processus du type intuitif. Les recherches de cet ordre se multiplient actuellement. À l’Université Stanford, Kenneth Mark Colby, Sylvia Weber et Franklin Dennis Hilf ont pu, l’an dernier, programmer un ordinateur de telle façon qu’interrogé ensuite librement par un psychiatre, il a été reconnu ‒ j’entends l’ordinateur ‒ comme paranoïaque.

Voici un extrait de l’interrogatoire.

Le psychiatre. ‒ Quel est votre métier?

La machine. ‒ Postier.

Le psychiatre. ‒ Pourquoi êtes-vous ici, dans cet hôpital?

La machine. ‒ Je n’en sais rien, je ne devrais pas être ici.

Le psychiatre. ‒ Où habitez-vous?

La machine. ‒ À San José, un coin qui n’est pas trop mal; mais…

Le psychiatre. ‒ Qu’entendez-vous par «pas trop mal»?

La machine. ‒ Je veux dire qu’il y a trop d’étrangers.

Le psychiatre. ‒ Vous n’aimez pas les étrangers?

La machine. ‒ Ils sont envahissants.

Le psychiatre. ‒ Comment font-ils?

La machine. ‒ Ils sont responsables de la plupart des crimes de la région.

Le psychiatre essaie de savoir en quoi ces étrangers ont nui à son «client». Réponse: «C’est de la racaille, et d’ailleurs, la police est d’accord avec eux.»

Le psychiatre. ‒ Vous semblez bien connaître la racaille?

La machine. ‒ Et la Mafia, vous connaissez?

Le psychiatre. ‒ Non, mal. Parlez-m’en un peu.

La machine. ‒ Vous savez, ils me connaissent!

Le psychiatre. ‒ Comment?

La machine. ‒ Ils m’épient.

Le psychiatre. ‒ Mais comment?

La machine. ‒ Ils ont une table d’écoute à mon téléphone.

La machine fut testée successivement par plusieurs psychiatres, chacun selon ses méthodes. L’un d’eux, par exemple, s’abstenait de répondre à une question de la machine.

La machine. ‒ Pourquoi ne dites- vous rien?

Le psychiatre. ‒ (Silence.)

La machine. ‒ Vous n’êtes pas capable de me poser une question convenable? Vous essayez de m’obliger à parler en gardant le silence?

Le psychiatre. ‒ Cela n’a pas l’air de vous plaire?

La machine. ‒ Vous avez le droit d’avoir votre opinion.

La pensée artificielle

Que l’on puisse avoir de tels dialogues avec une machine paraît incroyable. Le fait est que personne au monde n’a encore sérieusement réfléchi à l’avenir de la «pensée» artificielle et à notre cohabitation avec elle, hors quelques spécialistes que personne ne lit. On va répétant que la machine ne fait que ce qu’on lui fait faire, qu’il n’en sort que ce qu’on y a mis. C’est vrai. Mais la force des choses nous entraîne précisément à accroître sans cesse la délégation que nous lui faisons de nous-mêmes. Il semble que personne n’ait envie de savoir jusqu’où cela ira, sauf les écrivains de science fiction. Pourquoi d’ailleurs se fatiguerait-on à y réfléchir? Il y aura toujours un ordinateur pour le faire à notre place.■

Aimé Michel

Note:

(1) Le Provençal, 23 mars 1971.