Quelle est la gravité de notre dilemme social? – AIER

J'ai passé du temps avec Tristan Harris ces derniers temps. En ligne, bien sûr, et en tant que consommateur passif de ses propos, transmis à moi par le biais de podcasts populaires et de recommandations sur les réseaux sociaux (par exemple ici, ici et ici). Je ne suis pas le seul, en tant que nouveau documentaire technologique Le dilemme social dans lequel il est un personnage principal a été vu par des dizaines de millions de personnes.

Entrepreneur, cofondateur d'une start-up technologique et profondément préoccupé par l'impact de la technologie des médias sociaux sur notre société, Harris a travaillé comme «éthicien du design» chez Google pendant des années. Il est maintenant président du Centre à but non lucratif pour la technologie humaine. La plupart des biographies que je continue de voir à son sujet incluent la description particulièrement pertinente suivante: « Il est la chose la plus proche de la Silicon Valley avec une conscience. »

Le film est une chose effrayante à regarder et ça vous dérange pas mal la tête. Cela explique les nombreuses façons dont les médias sociaux comme Twitter, Snapchat, TikTok, Instagram, YouTube et en particulier Facebook rivalisent pour attirer notre attention – et les innombrables façons dont ils causent des dommages et déchirent les sociétés. Les superordinateurs et les algorithmes optimisés pour attirer l'attention sont ciblés sur mon cerveau pour prédire exactement quel contenu résonnera le plus avec moi – positivement ou négativement – afin que je reste un peu plus longtemps sur la plate-forme et que je continue à générer des revenus publicitaires pour leurs sociétés hôtes.

La façon dont Harris a décrit le film dans une interview avec Alex Kantrowitz était effrayante et seulement un peu hyperbolique:

Le point majeur du film est qu'un modèle d'entreprise qui est infusé dans l'infrastructure de communication sociale dont 3 milliards de personnes vivent et dont dépendent, est mal aligné avec le tissu de la société et pose spécifiquement une sorte de menace existentielle pour la démocratie et un société qui fonctionne.

Ce qui me fait le plus peur, c’est la façon dont les utilisateurs de ces plates-formes voient littéralement des mondes différents. Qu'est-ce qui va garder tu le défilement est différent de ce qui garde moi défilement, de sorte que les algorithmes hyper-attentifs nous donnent des choses différentes avec lesquelles nous engager, une impression différente de «ce qui se passe».

Lorsque cela s'est produit avec des publicités personnalisées, je n'ai jamais été dérangé (préférez-vous avoir des publicités bonnes et pertinentes plutôt que des publicités mauvaises et inutiles?), Mais quand il s'agit d'informations et d'actualités plus largement, je peux apprécier les conclusions brutales de Harris sur les menaces à la démocratie.

Pendant de nombreuses années, je me suis demandé pourquoi les opinions des autres découlaient si souvent d'une vision du monde si en contradiction avec la réalité établie, scientifique et empirique (oui, il existe une myriade de façons dont ce processus peut être biaisé et égaré également. ). Pour citer le titre d'un nouveau livre tout à fait pertinent d'Alison Dagnes: nous semblons «Super fou à tout tout le temps», Même sur des choses qui sont contraires à la réalité vérifiable.

Même le regretté Hans Rosling n’était pas au-dessus de blâmer les producteurs de médias pour des événements si souvent sensationnels et bizarres que nous commençons à penser qu’ils sont une représentation exacte du monde.

Harris et ses collègues du film vont encore plus loin: social les médias, par opposition aux médias traditionnels, creusent les failles sociétales plus profondes, nous fournissant des informations différentes dans un désir désespéré d'attirer notre attention – des globes oculaires qu'ils peuvent vendre à des annonceurs qui, souvent, jouent eux-mêmes le système, des dirigeants étrangers infâmes à Cambridge Analytica. manipulation de style de nos affaires intérieures.

C’est un nouveau monde effrayant qu’ils présentent, mais je me demande à quel point il est vraiment mauvais.

Quel est le mal?

Nous pouvons tous citer des exemples où les médias sociaux ont diffusé de la désinformation ou altéré la réalité vécue que la plupart des gens considèrent comme un mal sans ambiguïté. Ce ne sont pas des exemples que ceux d’entre nous qui sont sceptiques quant à la dure conclusion du film doivent défendre; tout le monde admet que c'est mauvais.

J'avoue qu'après une douzaine d'heures à entendre Tristan (et d'autres) parler sérieusement de ces sujets, je suis en conflit. Je partage totalement nombre de ses préoccupations, comme la plupart des gens qui ont vécu certains des maux soulevés (distraction de l'attention, désinformation, contrôle, propagation de la haine). Pourtant, les grandes histoires de malheur et de tristesse nécessitent un peu plus de preuves.

Le film s'appelle The Social Dilemme précisément parce que les médias sociaux apportent des préjudices difficiles à détecter avec le bien sans équivoque que nous observons et apprécions chaque jour. Si la façon dont nous utilisons cette technologie était totalement mauvaise, nous ne serions pas en conflit à leur sujet.

Je suis beaucoup plus préoccupé par le pouvoir que le bon art a sur moi – et même dans ce cas, je ne suis toujours pas convaincu qu’il soit tout à fait dommageable. Comme beaucoup d'autres, je suis récemment tombé dans un trou classique de YouTube en passant quelques heures sur la plate-forme alors que je n'avais pas l'intention de le faire. Quelques jours auparavant, j'avais provisoirement commencé à regarder l'émission Netflix Le gambit de la reine avec Anya Taylor-Joy en tant que joueuse d'échecs phénoménale mais troublée dans les années 1950 et 1960. Comme beaucoup d’entre nous captivés par des personnages universellement relatables et des émissions merveilleuses (maintenant disponibles par centaines), je ne pouvais pas arrêter de regarder. Cinq heures du matin le lendemain matin, ayant finalement terminé la série en une seule séance, je sortis de ma dépendance.

Nous pourrions soutenir que Netflix devrait faire des émissions moins intéressantes ou moins addictives, mais cela ne semble guère raisonnable. Il y a aussi la question de mon coût d’opportunité réel: j’ai dormi un peu moins cette nuit-là, et je n’ai pas lu le livre de fiction que j’avais prévu. Grosse affaire. Un choix auto-imposé d'activités de temps libre remplacé par un autre.

Quelques jours plus tard, à travers les merveilles des algorithmes et de Big Tech m'espionnant, YouTube a commencé à recommander des vidéos sur The Queen's Gambit – des joueurs d'échecs professionnels qui analysaient les différents jeux joués dans l'émission, montrant comment ils étaient des interprétations de jeux célèbres de 20^e grands maîtres d'échecs du siècle. Incroyable! Pendant quelques heures dans ces limbes entre le dîner et le coucher, j'ai consommé une analyse Gambit de la reine après l'autre. Fantastique! Une meilleure compréhension des mouvements et des connexions réelles des jeux de fiction que je venais de regarder. Quel est le gros problème?

Cet exemple innocent renforce en fait le cas de Harris: le même mécanisme technologique – son pouvoir psychologique imparable sur moi – qui diffuse des informations bonnes et inoffensives a la capacité de diffuser de mauvaises informations. Harris souligne que ces technologies sont une utopie et une dystopie simultanément. Et c’est le point. Si YouTube et Netflix pouvaient capturer des heures de ma vie sur un sujet – les échecs – dans lequel mon intérêt est au mieux tiède, à quel point peuvent-ils faire pire si ce sujet était quelque chose qui a vraiment alimenté mes aînés? Ou les arguments nous-contre-eux et superficiellement attrayants de, disons, les terriens plats, les anti-vaxxers ou ceux qui crachent de la haine néfaste pour tel ou tel groupe?

Ce n’est pas la technologie elle-même qui présente une menace existentielle pour la société; c'est que la technologie permet les pires idées de la société à débaucher d’une manière que nous ne sommes absolument pas équipés pour gérer.

Une sortie?

Un certain nombre des maux effrayants présentés dans le documentaire proviennent du travail de Greg Lukianoff et Jonathan Haidt sur le Choyer de l'esprit américain et quelques travaux plus récents de Haidt et de ses coauteurs sur l'impact des médias sociaux (en particulier sur les jeunes filles sous forme de dépression, d'anxiété, d'automutilation). C'est convaincant. Les personnes qui n’ont pas (encore) développé d’outils mentaux et émotionnels pour évaluer de manière critique les informations, les mettre en contexte ou surmonter les préjugés liés à la négativité courent un bien plus grand danger, émotionnellement et intellectuellement.

Mais pour le reste d’entre nous, je suis moins convaincu. Prenez ces contre-mesures simples, par exemple:

• Presque tout le monde que je connais utilise des blocs d'annonces.
• De nombreuses personnes assombrissent les couleurs de leur écran pour rendre leur téléphone moins attrayant.
• Nous désactivons les notifications, privant ces entreprises de médias sociaux de leur mécanisme principal d'être dans ta face tout le temps (à la fin du documentaire, presque tous les interviewés recommandent à l'unanimité cette action).
• Les personnes les plus concernées quittent complètement Facebook, suppriment la plupart de leurs comptes de médias sociaux et n'utilisent que les messages instantanés et les discussions de groupe pour communiquer avec leurs amis.

Si ces entreprises avaient vraiment un pouvoir révolutionnaire et inévitable sur notre psychisme, aucune de ces actions n'aurait été possible. Mais ce n’est pas impossible et de nombreuses personnes les utilisent pour réglementer leur utilisation des médias sociaux.

Surtout dans l'interview sur le Donner du sens podcast, Harris a soutenu à plusieurs reprises que cette fois-ci est différente des technologies de rupture de l'information du passé (radio, télévision, journaux, couverture médiatique 24/7). L'échelle à laquelle les médias sociaux fonctionnent est différente et les impacts potentiels sont beaucoup plus importants. J'achète aussi son argument selon lequel le supercalculateur à l'autre bout de la ligne va toujours l'emporter sur moi et ma pauvre humanité.

Mais réellement? J'ai supprimé Facebook il y a des années et ne le manquez pas – que va faire le supercalculateur à ce sujet? Il y a longtemps, j'ai désactivé les notifications pour pratiquement tout sauf les transactions bancaires – que va faire le supercalculateur maintenant?

Ce à quoi les critiques se réfèrent lorsqu'ils disent « Cette fois-ci est la même », ce n'est pas que la télévision, les journaux ou les voitures ont révolutionné nos sociétés exactement de la même manière que font les médias sociaux, mais que nous avons trouvé des moyens de les gérer. Vivez avec eux. Contraignez-les.

Si tel est le message principal de Le dilemme social, Je suis tout à fait pour. Et cet avertissement prudent a beaucoup plus de sens que le catastrophisme presque dystopique de la mentalité «je ne vois aucun moyen de sortir de cette» mentalité dans de nombreuses conversations.

Même si Harris ne semble pas le penser, nous pouvons apprendre à vivre avec ces nouvelles technologies.