La Silicon Valley pirate nos esprits

Article tiré du magazine The Atlantic, traduit par Courrier International.

Addiction à la technologie
Dessin de Vásquez paru dans El País, Madrid

Les géants du numérique nous asservissent à nos smartphones comme l’industrie agroalimentaire nous rend accros à la malbouffe, assure Tristan Harris. Cet ancien “philosophe produit” de Google souhaite labelliser les applis “éthiques”.

Ce soir de mars, à San Francisco, Tristan Harris prend le badge que lui tend un homme en pyjama appelé “Ourson” et y inscrit son pseudonyme, “Présence”.

Ce jeune homme de 32 ans, ancien “philosophe produit” chez Google, vient d’arriver à Unplug SF – une “expérience de désintox numérique” organisée à l’occasion de la Journée nationale de la déconnexion. Il est interdit d’utiliser son vrai nom. Sont également proscrits les horloges, les discussions de boulot et les “appareils mobiles sans fil”.

Tristan Harris – menu, cheveux cuivrés et barbe bien taillée – dépose donc son iPhone, un appareil qu’il juge si addictif qu’il le compare à une “machine à sous dans [sa] poche”. Je le suis dans une grande salle où près de 400 personnes sont occupées à se maquiller, à faire du coloriage ou à enrouler du fil autour de baguettes. Malgré l’ambiance enjouée digne d’une colonie de vacances, cette manifestation rappelle l’alternative à laquelle sont confrontés les utilisateurs de smartphones, qui, selon une étude, consultent leur appareil 150 fois par jour : soit le téléphone est allumé et ils sont constamment dérangés par les notifications, soit ils sont complètement déconnectés.

La conscience de la Silicon Valley

“Ce ‘tout ou rien’ n’est pas inéluctable, affirme le jeune ingénieur après avoir jeté un coup d’œil aux ateliers de travaux manuels. C’est un échec de conception.”

Tristan Harris est la conscience de la Silicon Valley – ou ce qui s’en approche le plus. Grâce à Time Well Spent [du temps bien dépensé], mouvement dont il est le cofondateur, il tente de faire une place à l’intégrité morale dans la conception des logiciels. Autrement dit, il veut persuader le secteur du numérique de nous aider à décrocher plus facilement des appareils que ce dernier nous vend.

Si certains imputent notre addiction à nos propres faiblesses, comme un manque de volonté, Tristan Harris, lui, accuse les produits eux-mêmes. Le besoin irrépressible de regarder notre téléphone est une réaction naturelle face à des applis et à des sites conçus pour que nous les consultions le plus souvent possible. Le développement de l’économie de l’attention [dans laquelle l’attention du consommateur est une ressource que l’on peut exploiter] a déclenché, selon lui, “une course aux inclinations les plus primaires”.

“Dire que je suis responsable de mon utilisation des outils numériques, c’est omettre que de l’autre côté de l’écran il y a un millier de personnes dont le boulot est d’annihiler la responsabilité dont je peux faire preuve”.

Joe Edelman, codirecteur d’un groupe de réflexion [Center for Livable Media] qui défend la conception de logiciels plus respectueux, est à l’origine d’une grande partie des recherches qui ont influencé Time Well Spent. Selon lui, Tristan Harris est le Ralph Nader des nouvelles technologies. D’autres personnes, dont Adam Alter, un professeur de marketing à l’université de New York, défendent des thèses similaires, mais selon Josh Elman, de la société de capital-risque Greylock Partners, Tristan Harris est “le premier à présenter la question sous ce jour” – en définissant clairement le problème et son coût pour la société, et en proposant des idées pour y remédier.

Josh Elman compare le secteur d’Internet à l’industrie du tabac au temps où le lien entre les cigarettes et le cancer n’était pas encore établi : la Silicon Valley donne toujours plus à ses clients, qui sont demandeurs, tout en provoquant des dégâts collatéraux dans leur vie. D’après lui, Tristan Harris offre à la Silicon Valley une chance de se remettre en question avant que des technologies encore plus prenantes, comme la réalité virtuelle, nous poussent au-delà d’un point de non-retour.

Cette idée d’un piratage de la psychologie humaine pourrait sembler paranoïaque si Tristan Harris n’avait pas lui-même été témoin de cette manipulation. Élevé dans la région de San Francisco par une mère célibataire qui défendait les droits des victimes d’accident du travail, il a passé son enfance à créer des programmes simples pour Macintosh et à écrire des lettres d’admiration à Steve Wozniak, l’un des fondateurs d’Apple.

Il a ensuite étudié l’informatique à Stanford tout en étant stagiaire chez Apple, puis s’est inscrit à un master dans la même université, où il a rejoint le Persuasive Technology Lab [laboratoire des technologies persuasives]. Dirigé par le spécialiste de la psychologie expérimentale B. J. Fogg, ce labo a attiré de nombreux entrepreneurs désireux de maîtriser les principes de la “conception comportementale” – un euphémisme qui désigne la conception de programmes qui nous poussent à adopter les habitudes qu’une entreprise veut créer. (L’un des cofondateurs d’Instagram est un ancien élève du labo.)

Auprès de B. J. Fogg, Tristan Harris a étudié la psychologie des changements comportementaux, et notamment l’application aux internautes des méthodes de dressage canin comme le “renforcement positif”, par exemple. Si vous êtes instantanément récompensé par un “J’aime” dès que vous publiez une photo, vous serez plus enclin à le faire quotidiennement, et non plus occasionnellement.

Le jeune homme a appris que les sites et les applis les plus populaires nous fidélisaient en exploitant nos besoins les plus profonds. Quand LinkedIn a été créée, par exemple, la start-up a représenté la taille du réseau de chaque membre par une icône. Cette stratégie faisait appel au désir inné de chacun d’être validé par autrui, et a poussé les internautes à se connecter entre eux. Comme me l’a expliqué B. J. Fogg :

“À l’époque, LinkedIn n’avait aucune utilité concrète, mais cette simple icône a eu un effet puissant, celui d’exploiter le désir des gens de ne pas avoir l’air de perdants.”

Tristan Harris a commencé à comprendre que, contrairement à ce qu’affirment de nombreux ingénieurs, les nouvelles technologies n’étaient pas des outils neutres. Il a en outre été troublé par le fait que, sur les dix cours dispensés par B.J. Fogg, un seul abordait les questions d’éthique.

Le jeune homme a laissé tomber son master pour lancer une start-up qui installait des pop-ups explicatifs sur des milliers de sites, dont celui du New York Times. Il était partagé entre la mission sociale de son entreprise – susciter la curiosité des utilisateurs en mettant les faits à leur disposition – et la pression des éditeurs, qui faisaient tout pour que les internautes passent plus de temps sur leurs sites.

S’il n’a jamais eu recours aux tactiques de persuasion, il s’est toutefois familiarisé avec la façon dont elles sont appliquées. Il en est venu à les voir comme des “techniques de détournement” – l’équivalent numérique de l’ajout de sucre, de sel et de gras dans la malbouffe pour nous pousser à nous goinfrer. McDonald’s nous rend accro en exploitant nos préférences pour certaines saveurs ; Facebook, Instagram et Twitter font la même chose en nous accordant ce que les psychologues appellent des “récompenses aléatoires”.

Pic de dopamine

Comme les messages, les photos et les “J’aime” apparaissent de manière irrégulière, nous vérifions de manière compulsive s’il y en a de nouveaux, sans jamais savoir quand nous recevrons cette gratification qui déclenche un pic de dopamine. (Il a été prouvé qu’accorder des récompenses de manière aléatoire renforçait les comportements désirés de manière rapide et puissante.) Vérifier si une demande d’ami sur Facebook a été acceptée ne prend que quelques secondes, se dit-on. Mais des études ont montré qu’après s’être interrompus, les gens reprennent leur tâche initiale en moyenne vingt-cinq minutes plus tard.

Un porte-parole de Facebook m’a expliqué que le réseau social cherchait à optimiser la qualité de notre expérience sur le site – et non à augmenter le temps que nous y consacrons – et que l’entreprise sondait quotidiennement ses utilisateurs. En réponse à ces retours, Facebook a ainsi modifié l’algorithme du fil d’actualités pour sanctionner les “pièges à clics” – les articles aux titres racoleurs. (LinkedIn et Instagram n’ont pas souhaité faire de commentaires. Twitter n’a pas répondu à mes multiples sollicitations.)

Quelques consultants spécialisés enseignent même aux entreprises comment rendre leurs services irrésistibles. L’un de ces gourous est Nir Eyal, auteur de Hooked : How to Build Habit-Forming Products [“Accros : comment concevoir des produits qui créent une dépendance” ; éd. Penguin, novembre 2014, non traduit], qui a conseillé, entre autres, LinkedIn et Instagram.

Dans un billet de blog intitulé “Vous voulez fidéliser vos utilisateurs ? Rendez-les fous”, il vante l’intérêt des récompenses aléatoires. Tout en admettant que les entreprises ont l’obligation morale d’aider ceux qui sont véritablement accros à leurs services, Nir Eyal affirme que les réseaux sociaux satisfont simplement notre appétit pour le divertissement, au même titre que la télévision ou les romans, et que les technologies les plus récentes sont souvent dénigrées simplement parce qu’elles sont nouvelles.

“Dire ‘N’utilisez pas ces techniques’ revient à dire ‘Ne rendez pas vos produits agréables à utiliser’. C’est idiot. Chaque fois qu’apparaît une nouvelle technologie, la vieille génération dit : ‘Les jeunes se servent trop de ceci ou de cela et ça les abrutit.’ En réalité, on s’est toujours adaptés.”

En 2011, Google a racheté l’entreprise de Tristan Harris, qui s’est alors mis à travailler sur l’appli Inbox de Gmail. Un an plus tard, il s’est étonné que personne ne se préoccupe que des fonctions apparemment mineures – comme faire vibrer le téléphone à chaque nouveau courriel – provoquent des milliards d’interruptions. Son équipe a consacré des mois à perfectionner l’esthétique de l’appli pour qu’il soit plus “agréable” de consulter sa messagerie. Mais il avait l’impression de passer à côté de l’essentiel : au lieu d’essayer d’améliorer le courriel, pourquoi ne pas se demander comment le courriel pourrait améliorer notre vie ?

Six mois après avoir participé au festival Burning Man dans le désert du Nevada – un séjour qui, dit-il, l’a poussé à “[se] réveiller et à interroger [ses] convictions” – il a préparé une présentation en 144 diapositives intitulée “A call to minimize distraction and respect users’ attention” [Appel à minimiser les distractions et à respecter l’attention des utilisateurs], dans laquelle il déclarait :

“Les décisions d’une poignée d’ingénieurs (en majorité des hommes blancs vivant à San Francisco et âgés de 25 à 35 ans) qui travaillent dans trois entreprises [Google, Apple et Facebook] n’ont jamais eu autant d’impact sur ce qui monopolise l’attention de millions de personnes dans le monde… Cette prérogative devrait impliquer une très grande responsabilité.”

S’il n’a envoyé ce document qu’à dix de ses collègues les plus proches, il n’a pas fallu longtemps pour qu’il se trouve sous les yeux de plus de 5 000 employés de Google, y compris le PDG de l’époque, Larry Page, qui en discuta avec Tristan Harris un an plus tard.

Ce dernier est par la suite devenu “philosophe produit”, avec pour mission de déterminer comment Google pourrait adopter le design éthique. Mais il s’est, dit-il, heurté à une forte “inertie”. De fait, peu de choses ont changé après sa présentation, se souvient Chris Messina, alors ingénieur chez Google : “Beaucoup de gens ont acquiescé, puis la routine a repris le dessus.”

Tristan Harris a quitté Google en décembre 2015 pour poursuivre son combat, soutenu par un réseau de sympathisants dont font partie des personnalités comme Sherry Turkle, professeure au Massachusetts Institute of Technology, Scott Heiferman, le PDG de Meetup, Justin Rosenstein, co-inventeur du bouton “J’aime”, ainsi que des utilisateurs excédés et des employés du secteur inquiets. “Presque toutes les grandes entreprises qui manipulent les utilisateurs s’intéressent à notre travail”, résume Joe Edelman, qui dirige des ateliers avec Tristan Harris depuis cinq ans.

Une filière bio du numérique

Grâce à Time Well Spent, Tristan Harris espère mobiliser des partisans pour mettre en place l’équivalent numérique d’une filière bio : une option pour des valeurs fondamentales qui nous aide à mieux utiliser notre temps, au lieu d’en exiger plus. Pour l’instant, Time Well Spent est plus un porte-drapeau pour sa croisade qu’une véritable organisation. (Le jeune homme en est l’unique employé et finance lui-même le projet.) Il a néanmoins constitué un réseau de bénévoles prêts à s’engager, en partie grâce à ses fréquentes apparitions sur le circuit des grandes conférences – sa vidéo TEDx [mise en ligne en décembre 2014] a été vue plus d’un million de fois.

“Toutes les personnes influentes réfléchissent” à ses idées, assure Tim O’Reilly, fondateur de la maison d’édition O’Reilly Media et pionnier du web. Même B. J. Fogg, qui ne porte plus son Apple Watch parce que les notifications incessantes le fatiguaient, est un fan du jeune homme : “Il s’est fixé une mission courageuse et difficile.”

Tristan Harris admet que ses recherches ont créé chez lui une sorte d’obsession : il évalue constamment s’il “dépense bien” de son temps. Le cours d’hypnose qu’il a suivi avant notre rencontre – parce qu’il soupçonne que l’état passif dans lequel nous plonge la consultation des fils d’informations est semblable à l’hypnose – n’était pas du temps bien dépensé. Cette séance avait “un faible débit” – une expression qui désigne la vitesse de transfert de données. La soirée de désintox numérique ? Une excellente utilisation de son temps.

Sur son temps libre, le jeune homme se consacre à l’accordéon et au tango. Il porte des chemises à carreaux et un bracelet où le mot présence est poinçonné sur une breloque en argent. Ce style à la fois BCBG et hippie lui permet d’être aussi à l’aise devant les conseils d’administration de Palo Alto que pendant les séminaires de déconnexion.

En ce sens, il a beaucoup en commun avec les participants d’Unplug SF. Nombre d’entre eux appartiennent à cette nouvelle classe parmi les élites de la Silicon Valley qui prend conscience des effets secondaires néfastes du secteur. Pour beaucoup d’entrepreneurs, cette révélation est venue avec l’âge, les enfants et la sérénité d’avoir plusieurs millions de dollars à la banque, relève Soren Gordhamer, le créateur de Wisdom 2.0, une série de conférences consacrées à “la présence et l’intention” à l’ère numérique. “Ils se sentent coupablesIls réalisent qu’ils sont les architectes de ces outils si addictifs.”

Pour en savoir plus sur la manière dont Tristan Harris s’attaque aux logiciels manipulateurs, je l’ai accompagné à une réunion avec deux entrepreneurs désireux d’intégrer les valeurs de Time Well Spent à leur start-up. Après son cours de yoga, il m’a retrouvée dans un café non loin de la “maison communautaire intentionnelle” qu’il partage avec une douzaine de colocataires.

Nous avons été rejoints par Micha Mikailian et Johnny Chan, cofondateurs d’Intently, un bloqueur de pub qui remplace les annonces par des “intentions” comme “Écoute ton cœur” et “Vis dans l’instant”. Avant, ils dirigeaient une agence de marketing et de publicité. “J’ai eu l’idée d’Intently pendant une séance de méditation”, explique Micha Mikailian, qui porte un gros bracelet turquoise et coiffe ses cheveux en chignon. “Ce projet est en harmonie totale avec mes objectifs”, ajoute Johnny Chan.

Avec l’aide de Joe Edelman, Tristan Harris élabore un code de conduite – le serment d’Hippocrate des programmeurs – et un manuel de pratiques exemplaires susceptibles de guider les entreprises pour concevoir des produits qui “traitent les personnes avec respect”. Pour commencer, il faut repenser les critères du succès. “Il faut s’interroger sur les avantages concrets, ancrés dans l’espace et le temps, pour la vie d’une personne”, explique-t-il à ses deux interlocuteurs.

Gmail pourrait vous proposer un “mode concentration”

Quand il intervient dans une conférence, il présente des prototypes de produits qui incarnent les principes du design éthique. Selon lui, la technologie devrait nous aider à fixer des limites. On pourrait ainsi imaginer une boîte de réception qui nous demanderait combien de temps nous voulons consacrer au courriel, puis nous rappellerait poliment que nous avons dépassé notre quota. Votre téléphone pourrait vous signaler que vous l’avez déverrouillé pour la 14e fois en une heure. Gmail pourrait vous proposer un “mode concentration” : les nouveaux messages seraient interceptés jusqu’à ce que vous ayez terminé votre tâche, des interruptions étant possibles en cas d’urgence. (La plateforme de communication Slack offre déjà une fonction similaire.)

Tristan Harris espère créer une certification Time Well Spent pour les logiciels – comme il en existe pour les bâtiments écologiques ou les produits bio. Il a déjà une liste d’applis qu’il considère comme les premiers exemples de cet ethos, comme Pocket, qui sauvegarde des articles à lire plus tard, Calendly, qui permet de réserver des créneaux libres sur le calendrier d’une personne pour planifier les réunions plus efficacement, et F. lux, qui vise à améliorer la qualité du sommeil en ajoutant un filtre rosé aux écrans, dont la lumière bleue perturbe notre rythme circadien. Intently pourrait sans doute rejoindre cette coalition.

Il planche également sur des programmes permettant de compter le nombre d’heures passées chaque semaine sur chaque application de notre smartphone, de manière à pouvoir choisir celles qui en valent la peine. Une bannière pourrait ensuite signaler les applis qui nous rendent accros sans rien nous apporter. Joe Edelman a mis au point un outil similaire, appelé Hindsight, pour les sites web.

Le principal obstacle à l’adoption par les entreprises du design éthique n’est pas de nature technique. Selon l’ingénieur, c’est “une question de volonté”. Et sur ce plan, même ses partisans s’inquiètent que la culture de Silicon Valley soit fondamentalement opposée à tout ce qui sape l’engagement ou la croissance. Jason Fried, qui dirige Basecamp, un outil de gestion de projets, depuis 2004, le déplore :

“Ce n’est pas ici que les gens veulent ralentir, prendre des décisions délibérées et réfléchir à l’impact de leurs actions sur les autres. Ils veulent ajouter du sucre et du goût pour vous appâter, pour justifier des milliards de dollars de valorisation et des centaines de millions de dollars d’investissement en capital-risque.”

À défaut de démanteler l’économie de l’attention, Tristan Harris espère que les entreprises créeront au moins une solution alternative plus saine à la malbouffe numérique. Comme pour les légumes bio, il est possible que la première génération de logiciels labellisés Time Well Spent coûte plus cher, car il faudra compenser le manque à gagner de la publicité. “Seriez-vous prêt à payer 7 dollars par mois pour utiliser une version de Facebook construite entièrement pour vous encourager à vivre votre vie ? interroge-t-il. Je pense que beaucoup de gens répondraient oui.”

Payer pour utiliser des services accessibles gratuitement et se déconnecter pendant des jours (ou des heures) est – comme consommer de la viande de bœuf nourri à l’herbe – un luxe que seules les personnes aisées peuvent sans doute se permettre. Ne risque-t-on pas, alors, de stratifier la consommation numérique, seuls certains privilégiés échappant au piratage mental imposé à tous les autres ?

Fuite des cerveaux

“Cela crée une nouvelle inégalité, c’est vrai”, admet Tristan Harris. Mais, ajoute-t-il, si son mouvement gagne du terrain, il ouvrira la voie à de plus grands changements : ce sera comme pour les produits bio, que l’on trouve maintenant chez Walmart. Pour améliorer le statu quo, il pense qu’il faut amener les internautes à se rebeller contre les manipulations qu’ils subissent, puis créer un mouvement d’opinion favorable à des outils respectant leur volonté.

Si son expérience chez Google l’a convaincu que les utilisateurs doivent exiger des changements pour que ceux-ci se produisent, Joe Edelman pense, de son côté, que l’initiative peut venir du secteur : les ingénieurs pourraient finir par avoir des réticences à concevoir des produits contraires à l’éthique, ce qui exposerait les entreprises à une fuite des cerveaux. Plus les utilisateurs prendront conscience des tactiques de persuasion employées par les entreprises du numérique, “moins il sera cool” d’y travailler, prédit-il.

 

Bianca Bosker