"Beaucoup de ficelles invisibles dans la tech nous agitent comme des marionnettes."
Ancien ingénieur de Google, Tristan Harris dénonce les pratiques de son ancien employeur et des grands groupes de la Silicon Valley. Il exhorte les chefs d'États et citoyens à exercer un contre-pouvoir contre leur influence nocive. Cet ancien ingénieur employé de Google, spécialiste en éthique en technologies, alerte depuis plusieurs années le monde des technologies sur les dérives qu'il a contribué à créer. Avec un certain succès. Son initiative "déconnexionniste" Time Well Spent a fait de lui un speaker remarqué et invité par les PDG de la tech. Désormais, il vise les citoyens. À l'occasion de sa tournée européenne, des couloirs de Bruxelles à l'Elysée, en passant par le MAIF Social Club. Le Figaro l'a rencontré.
- Pourquoi êtes-vous parti en guerre contre les réseaux sociaux et les géants du Web?
- TH Ces entreprises sont devenues les acteurs les plus puissants au monde, plus que les États. Nous sommes 2 milliards à être sur Facebook, soit davantage de fidèles qu'en compte le christianisme. 1,5 milliard sur YouTube chaque mois, soit plus de fidèles qu'en compte l'Islam. Et à partir du moment où nous éteignons l'alarme de nos smartphones - que nous consultons en moyenne 150 fois par jour - nos pensées vont être perturbées par des pensées que nous n'avons pas choisies, mais que les entreprises technologiques nous soumettent. En ouvrant Instagram, on observe que ses amis se sont amusés sans vous. Cette idée ne vous serait jamais venue sans qu'un acteur des technologies ne l'ait faite advenir.
- En quoi est-ce si grave? Les réseaux sociaux finissent par construire une réalité sociale alternative. Cela pose des problèmes de santé publique, notamment chez les plus jeunes qui sont sans cesse soumis à des images de leurs amis montrés sous leur meilleur jour et ont une vision déformée de la normalité. Cela pose aussi des problèmes de polarisation: les réseaux sociaux ont tendance à mettre en avant les comportements extrêmes, ce qui pose un troisième problème, cette fois-ci démocratique, car cela influence l'opinion. La question relève enfin de l'antitrust: ces entreprises ont un pouvoir inégalable avec toutes les données qu'elles manipulent chaque jour. "Non seulement Facebook sait quelle photo de votre ex-petite amie vous regardez sur Instagram, mais aussi quels messages vous écrivez sur WhatsApp."
- Les concepteurs de ces technologies sont-ils conscients d'exercer un tel pouvoir?
- Non! Il y a beaucoup de personnes qui ont une conscience dans la Silicon Valley et s'inquiètent des conséquences de leur travail. Mais si on y réfléchit bien, quand on a entre 20 et 30 ans, qu'on est un jeune ingénieur qui n'a jamais rien fait d'autre que coder et qu'on débarque chez Google, on pense avant tout à toutes les choses incroyables que l'on peut réaliser avec son travail. Pas aux instabilités géopolitiques que ces outils peuvent permettre de créer. Les employés de ces grandes entreprises ne réalisent pas leur pouvoir.
- N'est-ce pas la faute d'une culture d'entreprise qui déresponsabilise ses employés? - Ces entreprises font en sorte que les employés n'aient pas une image "globale" de l'impact de leur travail. Je pense que des comparaisons historiques peuvent être faites avec des régimes autoritaires. J'ai beaucoup étudié le fonctionnement des cultes et j'y vois aussi des similitudes. Quand Facebook répète sans cesse cette devise, "nous aidons le monde à être plus connecté", cela devient performatif et on ne voit plus que cela.
- Les employés de Facebook sont payés très cher pour ne pas se poser de questions.
- De la même façon, ils ne parlent pas d'un problème d'addiction aux technologies mais d'"engagement". Et ils ne disent pas à leurs ingénieurs de concevoir des outils de manipulation des esprits mais des outils pour "augmenter l'engagement sur de la publicité ciblée", car aucun ne voudrait travailler pour eux sinon. Pour reprendre l'écrivain Upton Sinclair, vous ne pouvez pas demander à des gens de se poser des questions quand leur salaire dépend du fait de ne pas se les poser. Et les employés de Facebook sont payés très cher pour ne pas se poser de questions.
- N'avez-vous pas l'impression d'utiliser une rhétorique de la peur parfois exagérée à l'égard des technologies?
- Je suis d'accord avec ceux qui me critiquent pour défendre un modèle de la peur! (rires) Parce que fondamentalement, je m'intéresse à la question du pouvoir, et qu'il y a une sorte de vérité dérangeante dans la Silicon Valley. Plusieurs PDG comme Eric Schmidt (ex-Google) ou Mark Zuckerberg (Facebook) ont déclaré que la vie privée était morte. Aujourd'hui, avec une intelligence artificielle entraînée, je peux en effet établir votre profil psychologique en étudiant vos clics, vous identifier à travers votre géolocalisation dans moins de cinq lieux, mesurer votre taux de stress ou d'excitation avec la reconnaissance faciale. Nous allons vivre dans un monde où de plus en plus de technologies vont intercepter des signaux de ce que nous pensons avant même que nous n'ayons conscience de le penser, et nous manipuler.
- Avez-vous l'impression que vos idées sont entendues par le grand public?
- Les gens n'ont pas conscience de l'ampleur de ce que l'on peut déjà faire avec de la publicité ciblée. Il est facile de se dire que nous sommes informés ou éduqués, et que cela ne nous arrive pas à nous, plus malins que les autres. Je veux éveiller les consciences là-dessus: absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas. Exactement comme dans les tours de magie.
- Comment cela fonctionne-t-il concrètement?
- "Absolument tout le monde, sans exception, est influencé par des ressorts qu'il ne voit pas". Il y a beaucoup de "dark patterns" dans les technologies, c'est-à-dire des ficelles invisibles qui nous agitent comme des marionnettes. Elles reposent sur la captation d'attention par les biais cognitifs, l'excitation... Par exemple, nous vérifions sans cesse les notifications des téléphones en espérant y voir leurs jolies couleurs vives, nous scrollons car il y a toujours de la nouveauté, nous regardons la prochaine vidéo YouTube car elle est bien suggérée...
- Imaginons maintenant que vous vouliez quitter Facebook: pour vous garder, Facebook pourrait envoyer une notification à l'un de vos amis qui a pris une photo de vous, et lui demander "Veux-tu taguer cette personne?". En général, cette question s'assortit d'un gros bouton bleu marqué "OUI" pour que l'ami clique dessus. Il suffit ensuite à Facebook de vous envoyer un mail pour vous dire "Tel ami vous a tagué sur telle photo" et cela vous incite à revenir. Toute l'industrie de la tech utilise ces ressorts.
- N'est-ce pas seulement une certaine élite qui peut savoir comment échapper à ce type de manipulation?
- Complètement, et c'est bien pour cela que nous voulons forcer les entreprises à changer directement leurs pratiques pour le plus grand nombre. Nous ne pouvons pas souhaiter un monde où seulement 1% de personnes savent comment paramétrer leur téléphone en noir&blanc pour ne plus être autant sollicité par les boutons rouges des notifications, ou savent comment régler leurs paramètres. Nous devons faire en sorte que le design de l'attention soit vertueux par défaut, que les modèles économiques de ces entreprises reposent moins sur le temps passé. Google vient de le faire et cela établit un précédent qui pourrait pousser Apple à faire de même.
- Peut-on vraiment avoir confiance quand ces entreprises prétendent nous guérir de l'addiction ou des manipulations qu'elles ont elles-mêmes créées ?"
- Pour moi, c'est le rôle de Facebook de veiller à ce qu'une élection ne soit pas manipulée, et le rôle de Google de restreindre notre addiction. Pour autant, nous ne devons pas les croire sur parole, car ils ont toujours un pouvoir considérable. Facebook est comme un prêtre qui écouterait les confessions de 2 milliards d'individus, sauf que la plupart ne savent même pas qu'ils passent à confesse! Non seulement ils savent quelle photo de votre ex-petite amie vous regardez sur Instagram, mais aussi quels messages vous écrivez sur WhatsApp. Avec leurs traceurs sur plus d'un tiers des sites internet, ils savent que vous songez à changer d'assureur avant même que vous ayez franchi le cap. Ils savent aussi ce que vous allez voter. Et ils vendent ce savoir à des marques pour qu'au confessionnal, on vous suggère telle ou telle action. Je ne dis pas que Facebook et son confessionnal virtuel ne devraient pas exister, mais je dis qu'il ne devrait pas avoir un modèle économique qui ait autant de pouvoir. L'Europe va sombrer si nous ne changeons pas ce système.
Auteur:
Info: Interview d'Elisa Braun, le Figaro, 31/05/2018
Commentaires: 0