questions

Je pense que les discussions sur cette technologie deviennent beaucoup plus claires lorsque nous remplaçons le terme IA par le mot " automatisation ". Nous pouvons alors nous demander :

Qu'est-ce qui est automatisé ? Qui l'automatise et pourquoi ? Qui bénéficie de cette automatisation ? Dans quelle mesure l'automatisation fonctionne-t-elle dans le cas d'utilisation que nous envisageons ? Qui est lésé ? Qui est responsable du fonctionnement du système automatisé ? Quelles réglementations existantes s'appliquent déjà aux activités dans lesquelles l'automatisation est utilisée ? 

Auteur: Bender Emily Menon

Info:

[ intelligence artificielle ] [ capitalisme de surveillance ]

IA en question

L’intelligence artificielle est de plus en plus présente dans la vie quotidienne et progresse au point de pouvoir interagir avec les utilisateurs d’une manière qui semble presque humaine. Malgré ces progrès constants, les risques liés à son utilisation restent importants. 

Nous avons tendance à supposer que les interactions avec des interlocuteurs artificiels ont une capacité à donner du sens. Lorsque nous interagissons avec des chatbots, comme ChatGPT, ils nous fournissent des mots qui ont du sens pour nous, que nous comprenons. Généralement, cela se produit lorsque nous entrons en contact avec une autre personne, nous avons donc tendance à imaginer un esprit derrière ces outils, qui n’existe pas. Le langage vient d’un lieu inexistant, et c’est nous qui lui donnons du sens. 

L’idée selon laquelle l’intelligence artificielle est capable de tout faire est donc un faux mythe. Et cela reste vrai peu importe à quel point on l’ " entraîne " sur un sujet particulier.

Nous avons des machines qui parlent de médecine, de droit et de sport, mais elles ne sont en réalité ni médecins ni avocats, elles ne nous fournissent que du langage car elles en maîtrisent la forme (syntaxe, orthographe, éventuellement prononciation), mais elles n’ont pas accès au sens, à la sémantique. Il vaut donc mieux les considérer comme des outils, auxquels on demande de l’aide en cas de besoin. Des outils qui ne sont en aucun cas sans risque.  Je donne ici un cas concret : aux États-Unis, la National Eating Disorders Association a remplacé le personnel de sa hotline par un chatbot, qui a pourtant commencé à donner des conseils erronés à un moment donné, suggérant par exemple à des personnes déjà atteintes de troubles alimentaires de suivre un régime. Cet épisode, qui s'est soldé par la suspension du service, dénote les limites des interactions artificielles. Le problème est que pour de telles erreurs, l'IA n'est pas tenue pour responsable.

De plus la demande croissante d’intelligence artificielle devient un risque pour l’environnement, selon l’invité de l’USI. Les conséquences de l’IA vont au-delà des écrans et des haut-parleurs. L’impact de l’intelligence artificielle sur l’environnement est aussi une préoccupation majeure. Le processus de formation implique l’utilisation de nombreux ordinateurs et d’une quantité importante d’énergie pour traiter différents modèles de langage. De plus, il faut de l’eau pour refroidir les centres de données et des matériaux pour construire les puces. Ces facteurs ont un impact considérable sur l’écosystème, mais ne sont pas divulgués aux consommateurs. De plus, le processus de formation de l’IA est en constante expansion, ce qui implique que l’impact environnemental ne fera qu’augmenter avec le temps. L’avenir de l’IA est donc, bien entendu, entouré de plus d’une incertitude.

Je vois deux scénarios futurs possibles, l'un positif et l'autre négatif. Dans le premier cas, l'intelligence artificielle se réduira à une application spécifique et bien conçue. Je fais référence aux traductions, aux transcriptions, aux corrections automatiques, etc. Deuxièmement, d'un autre côté, l'IA se réduira à des tests factices et synthétiques partout, avec des gens prétendant que certaines réponses peuvent être de l'éducation, de la psychothérapie, un bon contrat légal, etc. Il est clair que le deuxième scénario, s'il voit le jour, causera d'énormes problèmes.

Auteur: Bender Emily Menon

Info: lectio magistralis, Uni Suisse Italienne, avril 2024