Comment les anti-vaccins Instagram promeuvent leurs théories du complot

La pandémie de coronavirus a généré une nouvelle vague de désinformation virale (dans tous les sens).

Les fausses contre-mesures d'Instagram ne pourraient rien faire contre le flot de désinformation sur les vaccins. Les théories du complot anti-vaccin qui ne sont pas corroborées par des faits continuent de fleurir en annexe. Ces théories sont ensuite traitées par des algorithmes d'indexation et sont recommandées par Instagram.

À l'époque de COVID-19, le problème n'a fait qu'empirer. La pandémie de coronavirus a entraîné une nouvelle vague de désinformation virale, largement soutenue par le mouvement de vaccination. Les modérateurs de Facebook répondent tardivement à des déclarations concernant des contenus susceptibles de violer les règles du réseau social.

EDISON.


«» — , .

« » Instagram

( — « » . , , , . , , .)

Comme Facebook, Instagram n'interdit pas explicitement le contenu anti-vaccination, tandis que la société prétend le rendre moins visible pour les utilisateurs. La société affirme que certains hashtags sont bloqués et que des efforts sont déployés pour que les postes anti-vaccination soient plus difficiles à trouver dans les services d'application tels qu'Explore. Cependant, les comptes qui font la promotion des théories du complot et des informations sur les faux vaccins figurent en tête des résultats de recherche de l'application.

Lorsque vous recherchez le mot «vaccin» sur Instagram, l'application recommande des dizaines de comptes anti-vaccin dans les meilleurs résultats de recherche. Comptes avec des noms tels que "Vaccins_revealed", "Vaccinesuncovered", "drugines_kill_" ("drug_ kill_"), "Vacinesaregenocide_" ("noir et blanc") ») Ont atteint le sommet de manière fiable et longue. Certains de ces comptes sont très populaires, ils comptent environ des centaines de milliers d'abonnés, tandis que d'autres n'en ont que quelques centaines. Cependant, en tant que comptes les plus pertinents pour la requête «vaccin», l'algorithme Instagram recommande séquentiellement ces comptes au lieu d'organisations médicales vérifiées.

Les comptes qui font la promotion des théories du complot et des informations sur les faux vaccins figurent en tête des résultats de recherche.

Beaucoup de ces messages répandent délibérément la peur - ils visent les parents - et publient clairement de fausses déclarations, telles que «les vaccins conduisent à l'autisme». La tendance est désormais aux théories du complot concernant Bill Gates et la pandémie de coronavirus.

L'algorithme de recommandation d'Instagram encourage également les utilisateurs à diffuser les théories du complot, y compris les vaccins et COVID-19.

J'ai créé un nouveau compte Instagram (pour que le réseau social ne prenne pas en compte mon activité dans mon compte personnel) et j'ai recherché le terme «vaccin». Après quelques secondes, l'application m'a demandé de m'abonner à des pages sur l'anti-vaccination et d'autres théories du complot, y compris QAnon . Ce n'est pas non plus un phénomène nouveau. L'année dernière, Vice a noté que les recommandations d'Instagram conduisaient facilement les utilisateurs à un terrier de lapin. La société de médias a promis d'étudier le phénomène plus en détail, mais jusqu'à présent, aucune nouvelle n'a été reçue de sa part.

Non seulement de telles suggestions apparaissent toujours, mais ces recommandations poussent maintenant les utilisateurs vers d'autres théories du complot. Tout ce dont j'avais besoin était un abonnement à quatre comptes anti-vaccination, alors Instagram a commencé à me recommander les pages QAnon populaires, dont l'une était liée au documentaire Plandemic Facebook. Quelques jours plus tard, l'application a envoyé des notifications push, recommandant de visiter deux autres pages sur QAnon.

Les représentants d'Instagram ne font que répéter: l'entreprise cherche à rendre la désinformation des vaccins difficile à trouver.

La recherche de hashtags spécifiques pousse également les utilisateurs dans le lapin des théories du complot.

Les résultats de recherche du hashtag #vaccine suggèrent que vous visitiez d'abord le site Web du CDC (agence fédérale du département américain de la Santé) et contiennent des résultats relativement aseptisés. Mais également lors de la recherche sur les hashtags, Instagram recommande d'autres recherches «connexes», qui sont beaucoup moins filtrées, notamment #vaccineinjuryadvocate (# défenseurs des personnes vaccinées) et # vaççineskillandinjure (# les vaccins tuent et blessent). (L'utilisation du symbole «ç» (cédille) au lieu de «c» est une tactique anti-vaccination courante pour éviter d'être détectée par les algorithmes de filtrage Instagram.)

Et si vous regardez les résultats de recherche pour ces hashtags recommandés, comme #vaccineinjuryadvocate, Instagram propose encore plus de hashtags liés à diverses autres théories du complot, y compris les théories du complot contre les coronavirus: #plandemic (#plandemics), #governmentconspiracy (#government conspiracy), #populationcontrol (#population control) et #scamdemic (#scandium). (Actuellement, Instagram a bloqué les résultats de recherche pour #plandemic, qui compte plus de 26 000 publications, selon les statistiques de l'application.)

L'algorithme Instagram recommandant des hashtags liés aux théories du complot ne se limite pas aux vaccins. Lors de la recherche sur # 5G, l'application génère des «hashtags associés», tels que #fuckbillgates (# putain de portes à bec) #billgatesisevil (# billgatesetzlozo) #chemtrails (#chemical trace) et #coronahoax (#crown deception). D'autres demandes apparemment anodines, telles que # 5Gtowers (tours # 5G), mènent également à des théories du complot, par exemple #projectbluebeam (#project blue radiation), #markofthebeast (# brand-name beast), #epsteindidntkillhimself (#eptest kill yourself).

Désinformation Instagram

Tous ces problèmes ne sont en aucun cas nouveaux sur Instagram, mais le service de partage de photos échappe souvent aux mêmes visages rigoureux de Facebook. Lorsque des responsables de l'entreprise ont témoigné devant le Congrès, ils ont minimisé le rôle d'Instagram dans la diffusion de la désinformation russe ( note du traducteur - apparemment, cela fait référence à des accusations contre la Russie qui auraient influencé l'élection présidentielle de 2016 ). Un rapport de suivi de la commission du renseignement du Sénat a révélé qu'Instagram "était l'outil le plus efficace utilisé par l'IRA".

Le problème, selon ceux qui l'ont étudié, est que la désinformation sur Instagram prend souvent la forme de mèmes et d'images similaires, qui sont plus difficiles à détecter pour les systèmes d'analyse, et il est plus difficile pour les modérateurs de l'entreprise de les comprendre. Et tandis qu'Instagram développe de nouveaux systèmes pour résoudre ce problème, les images peuvent être un canal beaucoup plus efficace pour les acteurs destructeurs, explique Paul Barrett, directeur adjoint du New York Business and Human Rights Center de Stern.

«La désinformation, qui comprend du matériel anti-vaccination, prend de plus en plus la forme d'une visualisation du jeu. Ce n'est pas quelque chose qui se fait à travers de gros volumes de texte », a déclaré Barrett. «Le matériel visuel est perçu plus simplement, il n'est pas perçu comme menaçant. Et je pense que cela rend Instagram plus attrayant pour les distributeurs de mensonges que les autres réseaux sociaux. »

Pourtant, Instagram est beaucoup plus lent à traiter le problème de la désinformation que Facebook. L'application de partage de photos n'a fait aucun effort de vérification des faits avant mai de l'année dernière - près de trois ans après que Facebook a commencé à réfuter les allégations selon lesquelles elle était contrôlée à l'extérieur. Et l'application a récemment commencé à changer pour rendre les publications douteuses moins visibles dans les flux d'utilisateurs.

Et bien qu'Instagram, comme Facebook, ait clairement défini les critères de détermination de la désinformation sur le coronavirus, la société ne semble pas considérer le contenu des comptes anti-vaccination (dont les experts associent les épidémies de rougeole) à une question aussi urgente que la reproduction des théories du complot sur le coronavirus. .

"Nous priorisons certains types de contenu, tels que la sécurité des enfants, le suicide et les blessures, le terrorisme et la désinformation nuisible liée à COVID, pour être sûrs que nous abordons les problèmes les plus fondamentaux qui présentent un danger potentiel", a déclaré Mark Zuckerberg lors d'une conversation avec Cette semaine, des journalistes discutent des efforts visant à modérer le contenu Facebook.

Lorsqu'on lui a demandé si la société priorisait le contenu des vaccins, étant donné le lien entre ce sujet et la désinformation sur les coronavirus, le vice-président de Facebook, Guy Rosen, a répondu évasivement: «Il est extrêmement important de fixer des priorités pour empêcher la propagation de sujets nocifs pour la santé» .

Une porte-parole d'Instagram a déclaré à Engadget que la société n'interdisait pas les anti-vaccinateurs, mais a noté que certains messages contenant des informations erronées sur les récentes épidémies de rougeole au Samoa et la polio au Pakistan avaient été supprimés. Les responsables des deux pays ont accusé ceux qui avaient semé la désinformation que l'humeur contre la vaccination augmentait au sein de la population.

Cependant, dans la plupart des cas, l'entreprise ne prend pas de mesures pour supprimer complètement ce contenu, simplement en essayant de le rendre moins visible ou en ajoutant des balises de «fausses informations» aux messages si le contenu a été exposé par des vérificateurs de faits.

Mais la vérification des faits ne suffit pas, a déclaré Barrett. «L'ampleur du problème est si énorme qu'il est naïf de croire qu'une vérification des faits - même si elle est effectuée avec vigueur - sera en mesure d'éliminer une partie importante des fausses informations qui sont constamment publiées. Quand il s'agit de milliards de publications par jour, même si vous avez 60 équipes de vérification des faits à travers le monde, beaucoup de ces publications passent par des modérateurs. »