Comment réparer les groupes Facebook

Les groupes Facebook diffusent des théories du complot et des abus de bouclier. Voici des moyens de les rendre moins toxiques.

Cet article fait partie de la newsletter On Tech. Vous pouvez vous inscrire ici pour le recevoir en semaine.

La théorie du complot de QAnon, la promotion de faux traitements de santé et les appels à la violence fondés sur de fausses allégations de fraude électorale ont un fil conducteur: les groupes Facebook.

Ces forums pour les personnes partageant un intérêt commun peuvent être de merveilleuses communautés pour les jardiniers passionnés du même quartier ou les parents dont les enfants ont une maladie rare. Mais depuis des années, il est également devenu clair que les groupes stimulent les penchants de certaines personnes à se lancer dans des combats en ligne passionnés, diffusent des informations captivantes, qu’elles soient vraies ou non, et font bouc émissaire d’autres.

Je ne veux pas trop simplifier et blâmer les groupes Facebook pour toutes les mauvaises choses dans le monde. (Lisez la dernière chronique de mon collègue Kevin Roose sur les suggestions pour cibler la polarisation et engager les gens dans des activités utiles.) Et atténuer les méfaits de Facebook n’est pas aussi simple que le croient les critiques de l’entreprise.

Mais bon nombre des effets secondaires toxiques des groupes Facebook sont le résultat des choix de l’entreprise. J’ai demandé à plusieurs experts en communication en ligne ce qu’ils feraient pour réduire les inconvénients des groupes. Voici quelques-unes de leurs suggestions.

Arrêtez les recommandations automatisées. Facebook a déclaré qu’il prolongerait une pause temporaire sur les recommandations informatisées permettant aux personnes de rejoindre des groupes liés à la politique. Certains experts ont déclaré que Facebook devrait aller plus loin et arrêter complètement les suggestions de groupes assistées par ordinateur.

C’est bien que Facebook suggère un forum sur la culture des roses à quelqu’un qui publie des articles sur le jardinage. Mais pendant des années, les recommandations de groupe de Facebook se sont avérées faciles à manipuler et ont poussé les gens vers des idées de plus en plus marginales.

En 2016, selon un rapport du Wall Street Journal, les recherches de Facebook ont ​​révélé que les deux tiers des personnes qui ont rejoint des groupes extrémistes l’ont fait sur recommandation de Facebook. Les recommandations de groupe automatisées ont été l’un des moyens par lesquels la théorie du complot QAnon s’est répandue, a déclaré ma collègue Sheera Frenkel.

Mettre fin à ces suggestions informatisées n’est pas une solution miracle. Mais il est fou de voir combien de fois les militants et les universitaires ont crié à quel point les recommandations sont nuisibles, et Facebook n’a bricolé que dans les marges.

Assurer une plus grande surveillance des groupes privés. Les chercheurs en médias sociaux Nina Jankowicz et Cindy Otis ont proposé de ne pas autoriser les groupes au-dessus d’un certain nombre de membres à être privés – ce qui signifie que les nouveaux arrivants doivent être invités et que les étrangers ne peuvent pas voir ce qui est discuté – sans un examen humain régulier de leur contenu.

« De nombreux groupes vraiment toxiques sont inaccessibles et sur invitation uniquement, et c’est extrêmement problématique », m’a dit Jankowicz.

Jankowicz et Otis ont également fait pression pour des descriptions plus cohérentes des groupes et plus de transparence quant à savoir qui les gère. Les groupes de discussion politiques sont parfois intentionnellement mal étiquetés par leurs hôtes comme des «blogs personnels» pour éviter l’attention supplémentaire que Facebook accorde aux forums politiques.

Cibler les délinquants du groupe habituels. Renée DiResta, chercheuse en désinformation à l’Observatoire Internet de Stanford, a déclaré que Facebook devait «prendre des mesures plus décisives» contre les groupes qui se livrent à des harcèlements répétés ou enfreignent encore et encore les règles de Facebook. Facebook a fait quelques pas dans cette direction l’année dernière.

Jade Magnus Ogunnaike, directrice principale de l’organisation de justice raciale Colour of Change, a également déclaré que Facebook devrait cesser d’utiliser des sous-traitants pour examiner le contenu du site. Il est plus juste de convertir ces travailleurs en employés, a-t-elle déclaré, et cela pourrait aider à améliorer la qualité de la surveillance de ce qui se passe dans les groupes.

Ajouter quelques… bibliothécaires? Joan Donovan, directrice de recherche du Shorenstein Center on Media, Politics and Public Policy de l’Université Harvard, a suggéré que les grandes entreprises Internet devraient embaucher des milliers de bibliothécaires pour fournir aux gens des informations approuvées afin de contrer les groupes qui se vautrent dans de fausses informations.

Les superstars ne sont pas brillantes en tout

Jeff Bezos aime à dire que l’échec est sain parce que les gens et les entreprises en tirent des leçons. Mais parfois, l’échec est le résultat des faiblesses d’une entreprise, et ce n’est pas une bonne chose.

Il y a eu des articles de presse ces derniers jours sur l’incapacité totale d’Amazon et de Google à créer leurs propres jeux vidéo à succès malgré le fait de disposer d’une quantité infinie d’argent et de personnes intelligentes.

Les racines de leurs échecs sont complexes, mais deux problèmes m’est venu à l’esprit à propos de ce qui s’est passé: les points faibles culturels et l’orgueil. (Et dans le cas d’Amazon, une dépendance excessive à la sagesse distillée de Bezos dans « Jeff-isms », comme celui ci-dessus.)

Voici ce qui s’est passé: Google a annoncé cette semaine qu’il fermait son groupe dédié à la création de jeux vidéo. Et Bloomberg News a détaillé les raisons des flops répétés d’Amazon dans la création de ses propres jeux vidéo de grande puissance.

Décrivant les luttes d’Amazon comme le reflet de son amazone, il a rapporté qu’une obsession pour les données faisait que les gens perdaient leur intérêt à rendre les jeux amusants. Les dirigeants confiants dans l’expertise de leur entreprise ont forcé le personnel à utiliser les technologies de développement de jeux d’Amazon plutôt que les technologies standard de l’industrie.

Google aussi, pour tous ses succès, a des habitudes enracinées qui rendent parfois difficile de pénétrer dans des zones inconnues. La publication d’actualités technologiques The Information a rendu compte cette semaine des difficultés de l’entreprise de Google qui vend la technologie du cloud computing aux entreprises.

Les ingénieurs de Google sont traités comme des rois et il a été difficile de les convaincre de proposer des feuilles de route rigides sur trois ans que les entreprises ont tendance à aimer. L’activité Google Cloud se débat depuis des années avec le même problème de base: cerner les voies de Google dans les habitudes prosaïques de ses clients commerciaux.

Ce qui est magique (ou ennuyeux) dans les entreprises de superstar riches en liquidités, c’est qu’elles peuvent souvent transformer les échecs en succès. Mais les difficultés d’Amazon et de Google dans les entreprises en dehors de leur expertise de base nous rappellent qu’être riche et intelligent aveugle parfois les entreprises à leurs faiblesses.