Harcèlement numérique : la modération automatisée peut-elle protéger sans censurer ?
Le développement massif des réseaux sociaux a fait émerger un espace d'échange considérable, mais aussi un phénomène préoccupant : le harcèlement numérique. Contrairement au harcèlement traditionnel, cantonné à des lieux physiques identifiables, le cyberharcèlement peut poursuivre une victime en continu, parfois mené par des dizaines de milliers de comptes anonymes agissant de concert.
Face à ce volume, les plateformes se tournent massivement vers la modération automatisée. Mais cette automatisation soulève une question délicate : peut elle protéger efficacement les victimes sans, dans le même mouvement, porter atteinte de manière disproportionnée à la liberté d'expression ?
Un phénomène massif aux conséquences potentiellement dramatiques
Selon un rapport Statista de 2025, en 2023, plus de 60 % des jeunes et 40 % des adultes déclaraient avoir été victimes d'au moins une forme de cyberharcèlement, 29 % des victimes disant avoir eu des pensées suicidaires. WhatsApp et les principaux réseaux sociaux concentrent une large part de ces situations, avec 44 % des jeunes victimes rapportant des faits survenus sur cette messagerie.
Le harcèlement numérique n'est pas un phénomène nouveau. L'affaire Marion Fraisse, collégienne qui s'est donné la mort en 2013 après un harcèlement scolaire prolongé par messages et réseaux sociaux, avait déjà révélé combien la violence numérique pouvait poursuivre une victime bien au delà de l'enceinte de l'établissement scolaire. Sa mère a depuis témoigné publiquement, contribuant à faire évoluer la prise de conscience collective sur ce sujet.
Plus récemment, la mort de Mehdi Bassit, créateur de contenu suivi par plus de deux millions de personnes, survenue le 18 juillet 2025, a relancé le débat. L'examen médico légal a confirmé qu'il s'était donné la mort, et une enquête judiciaire a été ouverte pour déterminer si des faits de harcèlement en ligne y ont contribué. Ses proches ont évoqué publiquement une période d'attaques répétées sur les réseaux sociaux dans les semaines précédant son décès. L'enquête étant toujours en cours, aucune conclusion définitive ne peut être tirée sur le rôle exact joué par le harcèlement dans ce drame.
Si vous traversez une période difficile ou avez des pensées suicidaires, le 3114, numéro national de prévention du suicide, est gratuit, confidentiel et accessible 24 heures sur 24.
Le cadre pénal français face au harcèlement en meute
Le cyberharcèlement est réprimé par l'article 222-33-2-2 du Code pénal selon un barème gradué. Le harcèlement moral simple est puni d'un an d'emprisonnement et 15 000 euros d'amende. Ce quantum est porté à deux ans et 30 000 euros dès lors qu'une circonstance aggravante est retenue, dont l'utilisation d'un service de communication en ligne, et peut atteindre trois ans et 45 000 euros, voire cinq ans et 75 000 euros lorsque plusieurs circonstances aggravantes se cumulent.
Le texte prévoit surtout un mécanisme pensé précisément pour répondre à la difficulté soulevée par les vagues massives de harcèlement observées sur des plateformes comme TikTok. Depuis la loi n°2018-703 du 3 août 2018, dite loi Schiappa, le harcèlement en meute, ou raid numérique, permet de condamner chaque participant à une attaque coordonnée, même lorsqu'il n'a posté qu'un seul message, dès lors que cette personne savait s'inscrire dans un flot de propos répétés visant la même victime. La chambre criminelle de la Cour de cassation a confirmé cette lecture dans un arrêt du 29 mai 2024, à propos de messages haineux visant une lycéenne connue sous le nom de Mila. Contrairement à une idée reçue, la loi française ne rend donc pas l'identification d'un responsable impossible face à des attaques massives : elle permet au contraire de poursuivre individuellement chaque participant à une meute, y compris les simples relais.
La loi du 21 avril 2023 est venue compléter ce dispositif en créant un délit spécifique de harcèlement scolaire, incluant explicitement sa dimension numérique. Reste que la difficulté pratique demeure réelle : identifier nommément chaque participant à un raid impliquant des dizaines de milliers de comptes exige des moyens d'enquête considérables, souvent hors de portée sans une coopération active des plateformes. Sur les formes les plus récentes de harcèlement facilité par l'IA générative, consultez également notre article sur les deepnudes et le nouveau harcèlement invisible.
La modération automatisée à l'épreuve de la liberté d'expression
Face à ce volume, la plupart des grandes plateformes combinent désormais modération automatisée et intervention humaine. TikTok, qui revendique environ 2,7 milliards d'utilisateurs dans le monde en 2025, s'appuie sur des modérateurs humains pour les diffusions en direct et sur des systèmes d'intelligence artificielle, reconnaissance vocale et traitement automatique du langage naturel, pour scanner en temps réel les contenus publiés. Selon la plateforme, environ 80 % des contenus contraires à ses règles communautaires sont désormais retirés automatiquement, sans intervention humaine.
Cette bascule a des conséquences concrètes. Selon une enquête de l'agence Reuters publiée le 11 octobre 2024 par la journaliste Rozanna Latiff, TikTok a supprimé plusieurs centaines de postes de modérateurs humains, notamment en Malaisie, dans le cadre de cette transition vers une modération davantage automatisée. L'intervention humaine reste toutefois réservée aux cas les plus ambigus : contenus culturellement sensibles, désinformation, ou signalements contestés par les utilisateurs.
Le problème central demeure celui du contexte. Une intelligence artificielle repère efficacement des mots ou expressions problématiques, mais peine encore à interpréter le ton, l'ironie ou l'intention réelle d'un message, ce qui expose à un double risque : laisser passer un harcèlement dissimulé sous une forme sarcastique, ou censurer à tort un propos légitime. Or l'article 10 de la Convention européenne des droits de l'homme protège la liberté d'expression, laquelle ne peut être restreinte que de manière proportionnée et nécessaire, notamment pour protéger les droits d'autrui.
| Mode de modération | Force | Limite |
|---|---|---|
| Modération automatisée (IA) | Traite un volume massif de contenus en temps réel | Peine à saisir le ton, l'ironie et le contexte culturel |
| Modération humaine | Apprécie le contexte et l'intention | Ne peut traiter qu'un volume limité, exposée à des biais individuels |
| Modération hybride | Combine échelle et jugement humain sur les cas ambigus | Reste dépendante de la qualité du signalement initial par les utilisateurs |
Déléguer entièrement l'appréciation éthique d'un contenu à une machine reste, en l'état, hasardeux : un algorithme applique des règles, mais ne saisit pas les dilemmes moraux propres à chaque situation. La réponse la plus solide demeure donc hybride, combinant la capacité de traitement de l'IA et le jugement humain pour les cas les plus sensibles.
FAQ, harcèlement numérique et modération automatisée
L'IA peut elle remplacer l'intervention humaine pour juger un message sarcastique ou ambigu ?
Non, pas totalement. L'IA détecte des mots ou expressions problématiques, mais peine à interpréter le ton, le contexte ou l'intention. Le sarcasme et l'humour nécessitent encore une appréciation humaine.
La loi française permet elle de sanctionner un raid numérique impliquant des milliers de comptes ?
Oui. Depuis la loi Schiappa de 2018, chaque participant à une attaque coordonnée peut être poursuivi individuellement, même pour un seul message, dès lors qu'il savait s'inscrire dans un flot de propos répétés.
Quelles peines encourt l'auteur d'un cyberharcèlement ?
De un à cinq ans d'emprisonnement et de 15 000 à 75 000 euros d'amende, selon le nombre de circonstances aggravantes retenues, l'utilisation d'un support numérique en étant une.
La modération automatisée porte t elle atteinte à la liberté d'expression ?
Ce risque existe. L'article 10 de la Convention européenne des droits de l'homme protège la liberté d'expression, qui ne peut être restreinte que de manière proportionnée. Une modération automatisée trop rigide peut censurer des propos légitimes mal interprétés.
Peut on déléguer entièrement l'éthique de la modération à une IA ?
Non. Une machine applique des règles programmées mais ne saisit pas les dilemmes éthiques propres à chaque situation. La responsabilité finale doit rester humaine, même assistée par l'IA.
Où signaler un contenu de harcèlement en ligne en France ?
Directement sur la plateforme concernée via ses outils de signalement, auprès des services de police ou de gendarmerie, ou via le numéro nationalement dédié 3018 pour les mineurs victimes de violences numériques.
Le présent article revêt une portée strictement informationnelle. CTRLZed n'est pas un cabinet d'avocats et ne dispense aucun conseil juridique personnalisé. Si vous êtes victime de harcèlement en ligne, vous pouvez contacter le 3018 (mineurs) ou le 3020 (harcèlement scolaire). Si vous avez des pensées suicidaires, le 3114 est gratuit et disponible 24 heures sur 24.
Faire entendre votre expertise au bon endroit
Création de contenu éditorial qui porte votre voix.
