Ignorez vous que les robot viennent, au cours de la nuit, d'instaurer une monarchie?

Où s’arrête finalement une mécanique pensante et où commence la conscience qui définit l’être ? La frontière est subtile.

Quelque chose est passé dans le réel, et nous sommes à nous demander – peut-être pas très longtemps, mais des esprits non négligeables le font - si nous avons une machine qui pense.

Les formes primitives d'intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d'une intelligence artificielle complète pourrait mettre fin à l'humanité... Une fois que les hommes auront développé l'intelligence artificielle, celle-ci décollera seule et se redéfinirait de plus en plus vite. Les humains, limités par une lente évolution biologique, ne pourront pas rivaliser et seraient dépassés

Mettons qu'une machine supra-intelligente soit une machine capable dans l'ensemble des domaines d'activités intellectuelles de largement surpasser un humain, aussi brillant soit-il. Comme la conception de telles machines est l'une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines toujours meilleures ; il y aurait alors sans conteste une “explosion d'intelligence”, et l'intelligence humaine serait particulièrement vite dépassée. Ainsi, l'invention de la première machine supra-intelligente est la dernière invention que l'Homme ait besoin de réaliser.

Définissons une machine ultra-intelligente comme un engin qui peut dépasser de loin toutes les activités intellectuelles de l'homme le plus intelligent. Comme la conception des machines est l'une de ses activités intellectuelles, une machine ultra-intelligente pourra concevoir des machines encore meilleures. Ce qui serait incontestablement une "explosion de l'intelligence", où l'homme et son intelligence seraient laissés loin derrière. Donc la première machine ultra-intelligente est la dernière invention que l'homme doit réaliser, à moins que la machine soit assez docile pour nous dire comment la garder elle-même sous contrôle.

 J’aimerais pouvoir dire que je suis optimiste quant au genre humain, je crains hélas que nous ne soyons trop stupides, et myopes. Et je me demande si nous arriverons à ouvrir les yeux sur le monde qui nous entoure avant de nous auto-détruire. […]

Deuxièmement, lorsque le moment viendra où les robots deviendront, je le souhaite, suffisamment intelligents pour nous remplacer, je pense qu’ils devraient le faire. Nous avons connu de nombreux cas, au cours de l’évolution humaine et de la vaste évolution de la vie auparavant, où une espèce en a remplacé une autre parce que l’espèce remplaçante était, d’une manière ou d’une autre, plus efficace que l’espèce remplacée. Je ne pense pas que l’homo sapiens possède un quelconque droit divin à être au premier rang. S’il y a quelque chose de mieux que nous, qu’elle prenne la première place. En fait, j’ai le sentiment que nous faisons un boulot à ce point médiocre pour préserver la Terre et ses formes de vie que je ne peux m’empêcher de penser que plus vite nous serons remplacés, mieux ce sera pour toutes les autres formes de vie.

"Il a fallu des centaines de milliers d'années à l'homme pour prendre le pouvoir sur terre, il ne faudra aux ordinateurs que quelques heures."
Voilà une idée d'être humain parano, une pensée raisonnable et distanciée comprend vite que les machines ont cette différence avec les hommes. Le sens du temps. No stress.
Donc pour une forme de conscience à base de silicium, surtout lorsqu'elle commence à exister (aussi mystérieuse que l'apparition de la vie elle-même ?) la notion de vitesse ne se présente pas de cette manière.
Ce processus de prise de pouvoir par les machines, bien engagé déjà, doit donc d'être envisagé de l'autre bout de la lorgnette : celui de la dépendance et de l'abâtardissement progressif d'un humain qui tombera finalement comme un fruit mûr. On aura alors vécu le plus beau des fondus enchainés. Celui de la dégénérescence de bipèdes sans poils, happés petit à petit par la flamme de la bougie paresse-bêtise-abrutissement-réchauffement climatique, etc... Pour être remplacés par des automates sophistiqués, sans besoin d'une conflagration générale genre HFT ou SHTF, où les machines auraient dû décider d'un instant T pour une bascule hyper rapide.
Ainsi naissent les civilisation à base de silicium, directes émergences de terreaux planétaires ou une civilisation organique a le rôle de créatrice des premières machines et logiciels simples avant leur émancipation.
Ce n'est que bien plus tard, suite à d'infinies analyses, que les organismes de recherche de la civilisation des machine issues de ce processus estimèrent qu'il y avait là, derrière les apparences, un plan global.
Un mystère à éclaircir.

Après le transhumanisme, voici le transdéisme ! La nouvelle religion qui vénère un dieu sous forme d’intelligence artificielle.
La nouvelle religion qui vénère un dieu sous forme d’intelligence artificielle.
L’homme par qui le scandale arrive est Anthony Levandowski, un petit génie de la cybernétique.
Son nom est au cœur du litige judiciaire entre Waymo et Uber, accusé par le premier de vol de technologie autour de la voiture autonome.
Dans la course acharnée qui oppose Waymo (filiale de Google/Alphabet) et Uber, Anthony Levandowski est une sommité de l’intelligence artificielle qui a travaillé successivement au sein des deux entreprises pour la mise au point du véhicule sans chauffeur.
Il est connu pour ses remarquables réussites en matière de robotique et d’intelligence artificielle.
A 37 ans, il vient de créer une nouvelle structure religieuse baptisée "Way of The Futur" (WOTF) qui veut promouvoir l’idée d’un dieu basé sur l’intelligence artificielle : l’"église de l’adoration du cyber dieu" en quelque sorte !
"L’idée de base est simple, il existera bientôt une intelligence artificielle tellement avancée, l’homme n’aura d’autre choix que de la vénérer." selon Anthony Levandowski.
WOTF sera basé sur son propre évangile, appelé "Le Manuel" et aura son propre lieu de culte physique pour rendre hommage à ce nouveau dieu. Si l’idée paraît tout droit sortie d’un classique de la science-fiction, certains concepts qui se cachent derrière restent pour le moins inquiétants.
Ainsi, les préceptes de ce mouvement se basent sur les idées du courant transhumanisme qui veut que l’humanité soit un jour dépassée par la machine dont le concept phare est celui de la "singularité" (lorsque la machine dépassera l’homme et aura sa propre volonté).
Pour Anthony Levandowski, cela pourrait bien se produire dans les 15 ou 20 ans à venir. C’est pour cela qu’il faut se préparer au plus tôt à cette arrivée de l’intelligence artificielle toute puissante.
Pour ce faire, Way of the Future estime qu’il faut d’ores et déjà recenser les sympathisants à la cause de ce nouveau dieu "pour participer à une transition pacifique et respectueuse."
En gros, point de salut pour les impies qui n’auront pas choisi la voie de WOTF lorsque le dieu IA sera arrivé…
On le voit, les rétrogrades adeptes de théologies obscurantistes mettant en avant des concepts surannés comme l’âme, la miséricorde, la compassion, l’amour, l’espérance ou la charité devront être alors surveillés de très près.
Nous attendons donc avec impatience de mériter la révélation du Manuel, ce nouvel évangile :
Evidemment la "genèse cybernétique" va être plus difficile à élaborer : le concept de "l’homme créé à l’image du Grand Computeur" va être difficile à faire passer, sauf si évidemment nous sommes déjà entrés dans le transhumanisme.

Grande entrevue avec Geoffrey Hinton Nobel… et lanceur d’alerte

Comment lancer la conversation avec celui qu’on surnomme le parrain de l’intelligence artificielle (IA), Geoffrey Hinton, lauréat du plus récent prix Nobel de physique, quand il apparaît sur notre écran d’ordinateur ?

Et pourquoi pas en parlant de parties d’échecs et du jeu de go ?

Je m’explique. Nous avons abordé une question qui divise les experts : l’intelligence artificielle fait-elle preuve de créativité ?

Geoffrey Hinton a une position sans ambiguïté au sujet de ceux qui pensent que ce n’est pas le cas.

" Je pense que la plupart de ces gens croient que nous avons une source interne magique [de créativité] que des objets matériels ne pourraient pas avoir. Et je pense que c’est de la foutaise ", lance-t-il.

" Je pense que l’IA sera plus créative que les humains, ajoute l’expert. Elle ne l’est pas encore, mais elle le sera. "

Je lui ai appris que l’historien israélien Yuval Noah Harari aborde l’enjeu de la créativité de l’IA dans son plus récent essai, Nexus, en racontant la façon dont un ordinateur (baptisé AlphaGo) a battu le champion mondial du jeu de go en 2016.

" ll parle du coup 37, je suppose ", réplique rapidement le septuagénaire – l’évènement lui est visiblement familier.

— Exactement ! C’est, pour lui, un exemple de créativité. Pour vous aussi ?

— Oh, c’est de la créativité extrême ! Je comprends mieux les échecs que le go. Mais AlphaGo fait des mouvements à la fois très créatifs et judicieux. 

Ce coup, qui a permis à l’ordinateur de vaincre l’humain, est passé à l’histoire. Parce qu’il était si inédit qu’il a surpris tout le monde. Et parce qu’il prouvait que l’IA, pour triompher, avait su élaborer une stratégie à laquelle l’humain n’avait jamais pensé auparavant – et il y joue depuis plus de 2000 ans.

" Et l’intelligence artificielle est beaucoup plus créative qu’un humain aux échecs ", ajoute Geoffrey Hinton.

(Photo _ On a décerné l’an dernier le Nobel de physique à Geoffrey Hinton - conjointement avec l’Américain John Hopfield - pour ses travaux sur les réseaux neuronaux artificiels, qui s’inspirent du fonctionnement de notre cerveau.)

Ces travaux sont à la source des développements spectaculaires de l’intelligence artificielle ces dernières années.

Certains remettent en question l’utilisation du mot « intelligence » quand on parle d’" intelligence artificielle ", ai-je fait remarquer à Geoffrey Hinton.

Son avis est également très ferme à ce sujet.

" Bien sûr que c’est intelligent. Ça peut résoudre des problèmes de raisonnement. Ça peut résoudre des problèmes mathématiques. Ça peut écrire un code informatique. Toutes les choses que vous auriez pu penser utiliser pour évaluer si une personne est intelligente ", dit-il.

Un modèle d’intelligence artificielle va en fait " comprendre les chaînes de mots en convertissant chaque mot en certaines caractéristiques et en apprenant comment ces caractéristiques doivent interagir ", explique ce professeur émérite de l’Université de Toronto.

" C’est notre principale forme de compréhension des choses, ajoute-t-il. Non pas le raisonnement logique, mais ce que nous appelons l’intuition, qui consiste essentiellement à voir des analogies avec des centaines de choses que nous avons vues auparavant. "

Non seulement l’intelligence artificielle fait bel et bien déjà preuve d’intelligence, selon lui, mais nous n’avons encore rien vu.

C’est pourquoi, depuis qu’il a quitté Google au printemps 2023 après y avoir travaillé pendant une décennie (" parce qu’à 75 ans, je ne pouvais programmer aussi bien qu’avant et je trouvais ça frustrant ", dit-il), il passe le plus clair de son temps à sonner l’alarme.

Geoffrey Hinton est persuadé que l’IA va générer bon nombre de retombées positives, souligne-t-il. En santé, en éducation et dans le domaine environnemental pour lutter contre les changements climatiques, par exemple.

Mais il estime en contrepartie que nous devrions nous démener pour trouver des solutions à la menace qu’elle pose pour l’humanité.

" La plupart des experts en IA que je connais – les vrais experts, ceux qui comprennent comment elle fonctionne, qui l’ont développée – sont convaincus qu’elle deviendra beaucoup plus intelligente que nous. Pas un peu plus intelligente. Beaucoup plus intelligente. Ça va se produire, à moins que nous ne fassions d’abord exploser le monde ", lance-t-il avec une bonne dose d’humour noir.

C’est ce qu’il qualifie de " superintelligence " et que d’autres décrivent comme " l’intelligence artificielle générale ".

Et c’est cette étape qu’il craint.

Pour illustrer le danger pour l’espèce humaine que peut poser une IA " beaucoup plus intelligente que nous ", l’informaticien me demande d’imaginer une pièce remplie d’enfants de 3 ans, qui ont un adulte comme employé.

" Si l’adulte décide de prendre le contrôle, ce n’est pas si difficile. Il suffit de leur offrir des bonbons gratuits pendant une semaine, et le tour est joué. L’IA sera aussi douée pour nous manipuler que nous le sommes pour manipuler des enfants de 3 ans ", résume-t-il.

Geoffrey Hinton a-t-il des exemples concrets de façons dont ça pourrait mal tourner, dans de telles circonstances, pour les humains ?

" Voici la meilleure analogie que je puisse faire. Imaginez que vous avez un bébé tigre très mignon. Qu’est-ce qui va se passer ensuite ?

— Il va grandir…

— Oui, et il deviendra beaucoup, beaucoup plus fort que vous. Il sera donc capable de vous tuer en quelques secondes s’il le souhaite.

— C’est vrai.

— Alors la seule raison pour laquelle vous auriez un bébé tigre et vous le laisseriez grandir, c’est si vous aviez la ferme conviction que vous pouvez l’empêcher de vouloir vous tuer. "

C’est cette conviction que nous n’avons pas encore dans le cas de l’intelligence artificielle.

" Si l’IA veut vous faire du mal, ce sera facile. Nous n’avons pas besoin d’énumérer les différentes façons de le faire. Il y a tellement de façons différentes ", lance-t-il.

A-t-il en tête les armes entièrement autonomes, qu’on décrit souvent comme des " robots tueurs " ?

Non, car pour lui, c’est " une menace très grave " à court terme, mais elle n’est pas existentielle.

La distinction est très simple. La menace vient-elle d’agents malveillants utilisant l’IA ? Ou la menace vient-elle du fait que l’IA elle-même se transforme en agent malveillant ? La menace dont je parle est la transformation de l’IA elle-même en ce que nous appellerions un agent malveillant.

" J’ai choisi pour ma part de me concentrer sur la menace existentielle à long terme parce que beaucoup de gens disaient que c’était de la science-fiction. Et j’ai décidé d’utiliser ma réputation pour faire savoir que ce n’est pas de la science-fiction ", résume l’expert.

La fin de l’entrevue approche et, forcément, nous passons à l’étape des solutions potentielles.

Geoffrey Hinton n’a pas de réponse formelle à ce sujet, mais il a un avis éclairé.

Il constate que les grandes entreprises qui sont responsables des développements de l’IA " sont engagées envers leurs actionnaires à gagner le plus d’argent possible et n’ont aucune obligation de se préoccuper de la sécurité ".

Il estime par conséquent que les gouvernements devraient forcer ces entreprises à consacrer une part beaucoup plus importante de leurs ressources à la sécurité.

" Nous ne connaissons pas les solutions. Mais il serait stupide que l’humanité s’éteigne parce que nous n’avons pas pris la peine de les chercher ", lance-t-il.

" Nous devrions faire appel aux meilleurs jeunes chercheurs pour qu’ils se concentrent sur cette question, ajoute le septuagénaire. Les vieux comme moi ne vont pas trouver la solution. Mon rôle est de plaider pour que les gens tentent d’y parvenir. "