Twitter perturbe les campagnes de désinformation politique à grande échelle

Twitter perturbe les campagnes de désinformation politique à grande échelle

Cette suppression, de 32K comptes, n’est pas la première fois que Twitter prend des mesures pour protéger ses utilisateurs des opérations d’influence. Les chercheurs ont pesé sur la pratique avec Threatpost.

Twitter a mis fin à trois opérations d’influence parrainées par la nation, attribuées à la République populaire de Chine (RPC), à la Russie et à la Turquie. Collectivement, les opérations consistaient en 32 242 comptes faux ou robots générant le contenu et divers comptes d’amplificateur qui le retweetaient.

«Chaque compte et élément de contenu associé à ces opérations a été définitivement supprimé du service», selon la société, dans un message publié vendredi. « Dans tous les cas, les comptes ont été suspendus pour diverses violations de nos politiques de manipulation de plateforme. »

Pendant ce temps, les chercheurs ont déclaré à Threatpost que si les efforts sont louables, il y a des questions à prendre en compte, telles que le degré d’omniprésence des campagnes d’influence en général et le rôle des individus d’appliquer une pensée critique aux informations qu’ils consomment.

Trois campagnes de désinformation

L’opération dirigée par la Chine comprenait 23 750 comptes principaux qui étaient «impliqués dans une gamme d’activités manipulatrices et coordonnées», selon Twitter. «Ils tweetaient principalement en chinois et diffusaient des récits géopolitiques favorables au Parti communiste chinois (PCC), tout en continuant à promouvoir des récits trompeurs sur la dynamique politique à Hong Kong.»

La bonne nouvelle est que les comptes principaux n’ont pas réussi à gagner beaucoup de terrain, selon le service de micro-blogging: «Ils ont été largement pris au dépourvu tôt et… en général, ils détenaient de faibles comptes d’abonnés et un faible engagement.»

Outre les comptes de base, l’opération a également consisté en environ 150 000 comptes «amplificateurs», qui n’ont généré eux-mêmes aucun contenu mais simplement retweeté le travail des profils de base.

«La majorité [d’entre eux] avaient peu ou pas de comptes d’abonnés non plus et étaient stratégiquement conçus pour gonfler artificiellement les mesures d’impressions et interagir avec les comptes principaux», selon Twitter.

En ce qui concerne les opérations russes, 1 152 comptes suspendus ont été associés à un média appelé «Politique actuelle», connu pour avoir poussé la propagande politique soutenue par l’État en Russie, a déclaré Twitter.

«Un réseau de comptes liés à cette opération médiatique a été suspendu pour violation de notre politique de manipulation de plate-forme, en particulier la publication croisée et l’amplification de contenu de manière inauthentique et coordonnée à des fins politiques», selon Twitter. «Les activités comprenaient la promotion du parti Russie unie et l’attaque des dissidents politiques.»

Et enfin, l’activité soutenue par la Turquie a émané de 7 340 comptes associés qui ont été vus «employant une activité coordonnée non authentique» qui était principalement destinée à un public national en Turquie.

«Sur la base de notre analyse des indicateurs techniques du réseau et des comportements des comptes, la collecte de comptes faux et compromis a été utilisée pour amplifier les récits politiques favorables au Parti AK, et a démontré un fort soutien au président Erdogan», selon Twitter. «Le réseau plus large a également été utilisé pour des activités commerciales, telles que le spam lié à la crypto-monnaie.»

Cependant, les comptes qui ont été retirés comprenaient également certains profils associés à des organisations critiquant le président Erdogan et le gouvernement turc. Les comptes avaient été compromis et étaient utilisés par les acteurs étatiques pour faire avancer leur propre agenda.

Les comptes de base ont été placés dans des archives publiques qui contiennent des informations sur le nombre d’impressions, dans une «tentative de mesurer davantage l’impact tangible des opérations d’information sur la conversation publique». Les 150 000 comptes d’amplificateurs chinois n’ont cependant pas été placés dans les archives publiques.

Chercheurs: Twitter va-t-il assez loin?

Depuis l’élection présidentielle de 2016, Twitter s’est engagé dans l’élimination des comptes qui se livrent à la désinformation, aux fausses nouvelles, à de faux récits ou à des mensonges purs et simples au nom de l’influence politique.

Les activités interdites sur Twitter incluent le spam et la manipulation de la plateforme (défini comme l’utilisation de Twitter pour induire en erreur les autres et / ou perturber leur expérience en se livrant à des activités massives, agressives ou trompeuses); une activité coordonnée (qui crée l’illusion d’un consensus légitime sur une question donnée ou répand la désinformation); faux comptes; activité APT attribuée; distribution de matériel piraté; et interdire l’évasion. Le géant des médias sociaux a régulièrement supprimé les comptes qui, selon lui, enfreignent les règles.

« Cette suppression de compte n’est pas la première fois que Twitter prend cette mesure pour protéger ses utilisateurs contre les informations qui manipulent ou perturbent l’expérience des gens, qui fournissent de la désinformation. » James McQuiggan, défenseur de la sensibilisation à la sécurité chez KnowBe4, a déclaré à Threatpost. «Récemment, fin 2019, ils ont supprimé les comptes de plusieurs pays qui offraient de la désinformation aux utilisateurs.»

Cela n’a pas été sans controverse, les critiques émanant à la fois de ceux qui pensent que la plate-forme ne va pas assez loin, ainsi que de ceux qui disent que les suspensions pourraient être considérées comme de la censure.

Josh Bohls, PDG et fondateur d’Inkscreen, appartient à l’ancien camp, notant qu’il est trop facile de créer de faux comptes en premier lieu.

«L’accent mis par Twitter sur la croissance et l’engagement des utilisateurs l’a conduit à ignorer l’infiltration de faux comptes au fil des ans», a-t-il déclaré à Threatpost. «Il est bon de voir que la plateforme commence enfin à arracher quelques mauvaises herbes du jardin Twitter. Le discours social sur la plate-forme serait encore amélioré si l’entreprise commençait à effectuer une véritable vérification de compte. »

Paul Bischoff, défenseur de la vie privée chez Comparitech, se demande quant à lui si Twitter est suffisamment agressif.

«Chaque fois que je vois un réseau social annoncer une nouvelle purge de compte, je m’interroge sur l’ampleur réelle du problème», a-t-il déclaré à Threatpost. «Bien sûr, 32 000 comptes semblent beaucoup, mais est-ce vrai? Les efforts de Twitter auraient pu éliminer la moitié des comptes de propagande liés à l’État, ou il aurait pu en supprimer 1 pour cent – nous ne savons tout simplement pas l’ampleur de ce problème. « 

Chris Hauk, champion de la confidentialité des consommateurs chez Pixel Privacy, est cependant plus préoccupé par le potentiel de censure.

«Bien que les récentes mesures prises par Twitter pour supprimer les comptes liés à l’état du service soient parfaitement logiques, je suis préoccupé par les implications futures possibles pour les utilisateurs de Twitter», a-t-il déclaré à Threatpost. « Il faut veiller à ce que les utilisateurs ne voient pas leurs tweets supprimés du service ou voient leurs comptes complètement supprimés, simplement parce qu’ils expriment une opinion impopulaire ou parce qu’ils ne sont pas d’accord avec la vision du monde d’un réseau social. »

Quel que soit le rôle de Twitter, les consommateurs de médias sociaux devraient en fin de compte prendre leurs propres mesures pour identifier puis ignorer les opérations d’influence, selon Chris Clements, vice-président de l’architecture des solutions chez Cerberus Sentinel.

«La nature des réseaux sociaux en fait une cible incontournable pour les campagnes d’influence des agences de renseignement de l’État», a-t-il expliqué dans une interview par e-mail. «En enregistrant des centaines ou des milliers de faux comptes, il est possible de générer un contenu« tendance »visant à promouvoir les objectifs du gouvernement qui est largement affiché sur les flux d’utilisateurs normaux. Il est important que les utilisateurs de tous les comptes de réseaux sociaux comprennent qu’ils sont bombardés de campagnes d’influence et se montrent sceptiques quant aux motivations des publications qu’ils voient, surtout si le contenu semble conçu pour être de nature incendiaire. « 

Bischoff a ajouté succinctement: «En fin de compte, les utilisateurs ne devraient pas compter sur Twitter pour contrôler la désinformation. C’est aux individus de critiquer les messages, de vérifier les sources et de signaler les abus. »