: Reportage "Tout le monde peut faire un signalement, quel que soit son âge" : comment fonctionne Pharos qui traque les contenus illicites en ligne ?

Il existe sur internet une masse infinie de contenus illicites susceptibles de choquer ou d'influencer très défavorablement des mineurs démunis face à leurs écrans. Mais, malgré ce sentiment de masse infinie, il n'y a pas de complète impunité en ligne. En France, la plateforme Pharos (Plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements) traque, depuis 2009, les infractions à la loi sur internet, elle est basée au sein de l'Office anti-cybercriminalité, à Nanterre près de Paris.

L'ambiance est studieuse dans le bureau aux murs blancs de cette plateforme. Ici, les agents tiennent à leur discrétion. Devant chaque double écran d'ordinateur se trouve un enquêteur qui reçoit un à un les signalements d'internautes, qu'ils soient témoins ou victimes. Les moyens de la plateforme sont souvent pointés du doigt comme trop limités au regard de l'ampleur de la tâche confiée à ce service. Mais depuis octobre 2020 et l'assassinat de Samuel Paty, professeur dont la décapitation a été filmée et diffusée sur les réseaux sociaux, les effectifs de Pharos ont doublé et les agents se relaient ici 24 heures sur 24 et 7 jours sur 7 autour de trois pôles : une cellule généraliste, une cellule spécialisée dans la discrimination et la haine en ligne et un pôle judiciaire.

"Nous nous trouvons dans un open space", décrit la commissaire Alice Koiran qui dirige la cinquantaine de policiers et gendarmes en poste ici. "Le nombre de signalements sur Pharos est très important. Le fait que les agents soient tous ensemble dans le même bureau permet une communication instantanée, facile. C'est essentiel pour pouvoir parler de ce qui arrive et pouvoir discuter des cas les plus complexes."

Seuls les contenus en infraction avec la loi sont traités

Pharos n'est pas un organe de censure. Il n'est pas question de traquer ce qui est juste choquant. "Un contenu qui pose question d'un point de vue moral uniquement ne pourra pas faire l'objet d'un traitement ici. Il nous faut caractériser pénalement les faits", explique Pierre, un des agents qui travaille au sein de cette plateforme Pharos depuis quatre ans. Lui comme ses collègues policiers et gendarmes opèrent un tri en permanence, ne retiennent, parmi tout ce qui tombe en permanence dans leur boîte de réception générale, que les contenus qui sont en infraction avec la loi : apologie du terrorisme, pédopornographie, trafics, traite des êtres humains, maltraitance animale…

Quand ce qui est signalé relève davantage de l'escroquerie, les données sont transmises à une autre plateforme baptisée Thésée pour "Traitement harmonisé des enquêtes et des signalements de e-escroqueries" qui a compétence, elle, pour ce type de faits.

Les images, les propos, les vidéos examinés par les agents de Pharos au quotidien sont nécessairement éprouvants. Pour cette raison, le travail en équipe, l'échange entre collègues est un soutien. "On sait que si on est affectés, on peut à tout moment aussi se mettre en lien avec une psychologue mise à notre disposition", précise Pierre.

Les auteurs ruses pour tromper les IA

Même si des outils informatiques aident Pierre et ses collègues, il serait impensable de déléguer à une intelligence artificielle ou à un algorithme l'entièreté du traitement des signalements. Les auteurs de contenus ont mis en place un certain nombre de ruses pour déjouer les algorithmes. "Par exemple, ils vont employer le terme 'dragons célestes', issu de l'univers du manga One Piece, pour désigner les juifs ou le terme 'chances pour la France' pour viser les personnes issues de l'immigration", détaille la commissaire Koiran. Ils vont aussi user d'emojis n'ayant rien à voir avec leur sujet pour tenter d'échapper aux poursuites. Les pédophiles utilisent pour parler d'enfants l'émoji "pizza".

Parmi les infractions dans le viseur des agents de Pharos, il y a aussi le cyberharcèlement, phénomène qui concerne beaucoup de mineurs. "Prenons l'exemple d'une situation qu'on a rencontrée malheureusement souvent. On nous signale un groupe qui incite explicitement sur internet un individu mineur au suicide. Les agents ici savent le poids que peut avoir ce type de contenus particulièrement agressifs. Ce sont des choses qui ne sont pas prises à la légère.

"Notre rôle, c'est d'analyser, de recouper et de figer tous les éléments de preuve qu'on peut ensuite intégrer dans notre base de données."

commissaire Alice Koiran

à franceinfo

"A partir de ce moment-là, on va prévenir directement le commissariat ou la brigade de gendarmerie du lieu de l'infraction. Alors, ce sont nos collègues sur place qui vont prendre le relais de l'enquête entamée ici. Ce sont eux qui vont pouvoir se rendre sur zone, identifier les auteurs de ces contenus et les mettre devant leurs responsabilités. Et c'est quelque chose qui peut se faire extrêmement rapidement", insiste la commissaire.

Face à un contenu qui l'interroge, chaque internaute a la possibilité de signaler ce qu'il voit à Pharos. Ses agents ont traité 220 000 signalements l'an dernier. Cela peut se faire anonymement mais la victime ou le témoin peuvent aussi, s'ils le souhaitent, donner leurs noms voire leurs numéros de téléphone, et accepter alors d'être rappelés par les enquêteurs. "Il y a un réflexe fondamental à adopter quand on est confronté à des contenus illicites sur Internet, c'est 'je ne partage pas, je signale à Pharos'. C'est comme cela qu'on va pouvoir, nous, travailler et protéger la population et notamment les publics les plus jeunes. Tout le monde peut faire un signalement à Pharos, quel que soit son âge", souligne Alice Koiran.

En parallèle de ses enquêtes pour remonter aux auteurs des contenus illicites, Pharos œuvre à le faire retirer d'Internet. En cas de refus des sites, la plateforme peut ensuite prendre des mesures de blocage ou de déréférencement. Objectif : que ces contenus ne deviennent pas viraux mais plutôt qu'ils disparaissent.

Violence, mise en danger des personnes, menace ou apologie du terrorisme, injure ou diffamation, incitation à la haine raciale ou discrimination, atteintes aux mineurs : si vous êtes témoin ou victime d'une infraction en ligne, ne la partagez pas et signalez ce contenu à la plateforme Pharos.