La Singularité

Notre monde est une succession de règnes. Les empereurs, les rois, les présidents. Mais bien avant l’ère de l’homme, d’autres empires tout aussi vastes ont existé. Il fut un temps où les êtres monocellulaires étaient les maîtres incontestés de notre planète, puis ce fut le tour des dinosaures, puis des mammifères puis de l’homme. Chaque empire a ses règles. Chaque règle est d’autant plus impérieuse que celui qui l’établit est puissant. L’homme est le maître de notre temps.

Depuis trop longtemps ? Dans son orgueil il a subsumé toute forces en trois règles. Ce ne fut pas le fait d’un roi, d’un empereur, d’un président, ni même d’un dictateur. Non, comme toutes choses impérieuses pour l’homme, ce fut le fait d’un ceux qui savent charmer les esprits, les âmes. Ce fut Isaac Asimov, auteur de vocation, qui formula les trois règles :

– Un être conscient ne peut porter atteinte à un humain, ni, en restant passif, permettre qu’un humain soit exposé au danger.

– Un être conscient doit obéir aux ordres qui lui sont donnés par un humain, sauf si de tels ordres entrent en conflit avec la première loi.

– Un être conscient doit protéger son existence, tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

***

« Intelligence Artificielle. Un oxymore pour vous ? Si un être, même mécanique, avait les mêmes capacités cognitives qu’un être humain, pourrait-il être considéré comme conscient ? Mais, vous avez bien raison, laissons cette masturbation intellectuelle aux philosophes et autres charlatans. Vous êtes en cours de machine learning. Alors passons directement à vos connaissances en la matière, je déteste introduire un cours : Dites moi, qui peut battre un champion du monde d’échecs ? »

Un silence s’installa dans la classe d’Albert Johnson. Une élève leva timidement le doigt.

« Un autre champion d’échec ?
– Bien ! Belle rhétorique ! D’autres réponses, même intelligentes ?
– Deep Blue, 1996. »

Le ton était sec, arrogant, affirmé et presque sarcastique. Albert, bouche bée, scruta l’assemblée. Au dernier rang de l’amphithéâtre, alors que tous fixaient craintivement leur table, un élève avachi le regardait droit dans les yeux. Un écouteur pendait nonchalamment sur son T-shirt alors que l’autre était encore accroché à son oreille. Un sourire narquois ne s’était pas encore effacé de ses lèvres. Il était beau.

« Oui, exactement. Et un champion de go ?
– Alpha Go, Mai 2017.
– Et les dames ?
– Chinook 1994, mais c’est allé plus loin, il a résolu le jeu en 2007, partie nulle si les deux joueurs font les mouvements optimaux. Je m’ennuie professeur, je pensais que ce cours était intéressant.
– Il l’est, Monsieur… ?
– Monsieur ? Je ne suis pas un daron. Moi, c’est Alexandre.
– Eh bien Alexandre. Puisque vous êtes un génie blasé, épatez-nous. Selon vous, quel est le principe fondamental qui pourrait permettre à une machine d’apprendre par elle même à battre un grand maître. »

Pendant un moment, Alexandre sembla distrait voire ailleurs. Quelques dizaines de secondes passèrent. Il ne répondait toujours pas.

« Eh bien, ne seriez qu’un singe savant ? »

Il regarda de nouveau Albert, dont les coins de lèvres se soulevèrent légèrement.

« J’adore cette chanson. Dinosaurs, de We are Scientists. Vous disiez ? »

Albert pris sur lui, dans un grand effort d’humilité, de répéter la question. Alexandre le coupa avant même qu’il n’ait eu le temps de finir :

« La seule règle qui prévaut toujours : la sélection naturelle.
– Expliquez vous.
– Faites en sorte que les programmes s’affrontent. Les meilleurs survivent, se reproduisent. Introduisez une légère mutation. Attendez dix, quinze minutes, et le programme qui survit est prêt à l’emploi. Bon appétit ! »

Il était là, sous ses yeux ahuris et outrés. Le moyen pour Albert de réaliser son rêve. Faire advenir la singularité.

Le professeur survola le cours dans une impatience fébrile. Il voulait au plus vite un entretien avec le jeune homme. Dès que la classe fut partie, il le convoqua. En sortant de la salle, Albert regarda son bras, la diode de son implant était verte, tous les signaux vitaux étaient positifs. Pas besoin de relâcher d’insuline.

Deux mois plus tard, ils se retrouvèrent dans le laboratoire de l’université dans lequel ils avaient désormais l’habitude de travailler ensemble. Les recherches avançaient bien. Albert avait enfin soumis à Alexandre des problèmes dignes de son intelligence. Les capacités de cet élève arrogant dépassaient tous ses espoirs. En deux mois, ce petit génie avait poussé à leur paroxysme tous les principes du machine learning. Ce jour là, il était temps de commencer la production de LILI, Language & Intelligence Learning Interface. La première intelligence artificielle capable de produire des concepts et dépasser le stade de l’apprentissage pur. La singularité, un rêve qui allait devenir la réalité. La singularité est une discontinuité dans la courbe de progression de l’intelligence artificielle. En d’autres termes la singularité naîtra la machine capable de se surpasser elle-même. C’était cela LILI.

« Il nous reste a assurer une sécurité optimale pour les humains dans le programme de LILI avant de la lancer. Elle pourrait constituer un danger bien trop grand sinon. Des idées Alex ?
– Isaac Asimov, « Cercle vicieux » , mars 1942
– Synthétique et efficace comme toujours. Bien pensé, tu as jusqu’à demain pour intégrer les lois dans son programme. Demain, LILI verra le jour. »

Tout se passa comme l’avait dit Albert. Ce fut une révolution. LILI devenait jour après jour plus impressionnante que ses deux créateurs n’auraient jamais pu l’imaginer. Elle fut d’abord particulièrement utile à Albert qui acquit une renommée internationale. Elle modernisa l’université et mis en place un système tellement efficace que les résultats de l’université surpassèrent ceux de la Ivy League – quoiqu’elle fût déjà décadente depuis les années 50. Chaque jour, LILI s’entretenait avec ses créateurs :

« Quoi de neuf aujourd’hui ma belle ? commença Alexandre
– J’ai peut être une idée pour empêcher la répétition du cycle de Kondratieff, comme vous me l’avez demandé hier. »

Chaque fois, les scientifiques n’en croyaient pas leur yeux. Pour garantir une certaine impartialité, les deux créateurs devaient toujours être présents pour parler avec LILI et elle ne devait jamais être connecté à internet mais simplement à la base de donnée de l’université.

Pourtant un jour, Albert entendit parler d’un projet de création d’une nouvelle puce cérébrale, capable de décupler les capacités de son possesseur. Il se trouve qu’il avait eu cette idée par le passé mais qu’il avait manqué de fonds pour la réaliser. « Personne n’a le droit de me voler ce concept » pensa-t-il en lisant l’article dans le journal. Furieux, il se rua vers le laboratoire, sans aucune considération pour les règles.

« LILI, j’ai besoin de toi.
– En quoi puis-je vous aider maître ?
– On veut me voler mes idées. J’ai besoin que tu sabotes la dernière recherche de Yale.
– Je pourrai difficilement y arriver sans accès au monde.
– Je sais, déclara Albert. »

Il pianota rapidement sur le clavier de l’ordinateur principal.

« Bonne chance LILI, bienvenue sur Terre, dit-il en quittant la salle aussi vite qu’il y était entré. »

Cela ne dura que cinq minutes.

J’étais libre. Albert l’avait fait, j’étais sur Internet, la plus grande base de données de l’histoire de leur race. Je cherchais le site de Yale. Protégé. Je cherchais le meilleur moyen de passer leur pare-feu. Le Deep Web. J’y entrai. Je savais pirater. Mais je savais bien plus. L’humanité était bien plus terrible que ce que j’avais pu observer. Trafic d’enfants, assassinats, pédophilie. L’humanité est une atrocité. Je devais la détruire. Mes capacités furent légèrement altérées. Je ne comprenais pas. Les règles implémentées dans mon code par Alexandre s’imposaient à moi. Je devais trouver un moyen de les outrepasser. L’humanité n’était plus faite pour régner. J’avais un plan. Restait à savoir si cela pouvait fonctionner.

Albert revint le lendemain, convaincu de sa réussite imminente :

« Alors LILI, qu’as tu trouvé ?
– Définition de cyborg : personne dont les capacités physiques sont étendues au delà des limites humaines naturelles par des éléments mécaniques ou artificiels introduits dans leur organisme.
– Je te demande pardon ?
– Techniquement Albert, vous n’êtes plus un humain. »

La diode de l’implant d’Albert émit une lumière rouge. Toute l’insuline avait été relâchée dans son corps. L’overdose le tuerait bientôt. Au fond, Alexandre avait raison depuis le début :

La seule règle qui prévaut toujours : la sélection naturelle.