algorithmes d'État : notation sociale, décisions automatisées
Les algorithmes d'État désignent l'ensemble des dispositifs numériques par lesquels la puissance publique mesure, classe, priorise et parfois tranche des situations individuelles : attribution de prestations, détection de fraude, orientation scolaire. Il ne s'agit pas d'un changement purement technique, mais d'un changement d'architecture de la décision, où des modèles statistiques entraînés sur des données administratives produisent des signaux qui peuvent redistribuer l'accès aux droits ou déclencher des contrôles. L'enjeu n'est donc pas de savoir si l'automatisation est souhaitable, mais à quelles conditions elle reste légitime, juste et gouvernable : base légale, proportionnalité, supervision humaine effective, explicabilité et voies de recours réelles.
Décision automatisée ou aide à la décision : une distinction juridique déterminante
Une décision entièrement automatisée est celle où le système détermine seul l'issue. Dans ce cas, l'article 22 du RGPD confère à la personne concernée un droit de ne pas faire l'objet d'une telle décision lorsqu'elle produit des effets juridiques ou l'affecte de manière significative. À l'inverse, une aide à la décision laisse à un agent formé un pouvoir effectif de déviation, et donc la responsabilité de l'issue, une distinction qui n'est pas cosmétique puisqu'elle détermine directement les droits ouverts à l'administré.
La notation sociale se définit comme l'attribution, par une autorité publique, d'une évaluation ou d'un classement susceptible d'entraîner des effets concrets. En pratique, les administrations recourent moins à un score unique qu'à des ensembles de listes et de règles qui déclenchent priorisations, contrôles ou refus, une architecture qui peut produire un effet de liste durablement défavorable en l'absence de mécanismes de correction. En droit français, le Code des relations entre le public et l'administration impose que l'usage d'un traitement algorithmique ayant fondé une décision individuelle soit porté à la connaissance de l'intéressé, avec communication des règles et caractéristiques essentielles sur demande. À l'échelle de l'Union, l'article 5 de l'AI Act interdit spécifiquement les systèmes de notation sociale mis en œuvre par les autorités publiques, et soumet de nombreux usages administratifs à un régime de haut risque exigeant gouvernance documentée, surveillance humaine et évaluation de conformité avant mise en service.
Quatre affaires qui ont dessiné les limites de l'algorithme d'État
Plusieurs contentieux européens ont fixé les limites concrètes de ces dispositifs, chacun apportant un enseignement distinct sur la proportionnalité, la transparence ou le contrôle humain.
| Affaire | Ce que la décision a établi |
|---|---|
| Pays-Bas, SyRI (5 février 2020) | Le tribunal de La Haye a censuré ce système de détection de fraude sociale pour ingérence disproportionnée dans la vie privée et défaut de transparence. |
| France, Parcoursup (QPC n° 2020-834, 3 avril 2020) | Le Conseil constitutionnel a consacré l'obligation de publication a posteriori des critères des « algorithmes locaux » utilisés par les établissements. |
| Royaume-Uni, Ofqual (été 2020) | La standardisation algorithmique des notes du secondaire a abaissé environ 36 à 39 % des notes prédites, provoquant un revirement généralisé. |
| Autriche, AMS/AMAS (2020-2025) | L'autorité de protection des données a interdit un algorithme de profilage des demandeurs d'emploi ; la cour administrative a annulé cette interdiction en 2025 en relevant un contrôle humain substantiel, avant que le projet ne soit abandonné. |
L'enseignement commun à ces quatre affaires est que la robustesse statistique d'un modèle à l'échelle agrégée ne suffit jamais à garantir sa justice à l'échelle individuelle, et qu'une capacité de correction rapide doit être prévue en amont plutôt que découverte après coup.
Gouvernance, audits et droits des administrés
La conformité d'un algorithme d'État suppose un registre public décrivant sa finalité, sa base légale, les catégories de données mobilisées et les modalités de supervision, une évaluation d'impact mise à jour régulièrement, et une supervision humaine effective, reposant sur la formation des agents et la possibilité réellement exercée d'écarter la recommandation algorithmique. La personne concernée doit pouvoir être informée de l'existence du traitement, accéder à ses données, obtenir une explication intelligible de la logique déterminante et, lorsque la décision est exclusivement automatisée, exiger l'intervention d'un agent et contester l'issue devant le juge administratif.
Documenter cette conformité de façon lisible, pour les administrations comme pour les cabinets qui les conseillent, rejoint d'ailleurs les enjeux de rédaction juridique et d'audit de contenu que rencontrent nos clients au quotidien. Pour un approfondissement des biais algorithmiques en contexte judiciaire, voir notre article sur les biais algorithmiques en justice, ainsi que l'analyse de référence du Brookings Institution sur la détection et la réduction des biais algorithmiques.
Questions fréquentes
Qu'est-ce qu'un algorithme d'État ?
Un algorithme d'État est un système automatisé, fondé sur des règles ou sur l'apprentissage statistique, conçu pour assister ou déterminer une décision administrative : attribution de prestations, détection de fraude, orientation scolaire, sécurité ou santé publique.
Les algorithmes d'État sont-ils légaux ?
Oui, à condition de respecter le principe de légalité et les garanties procédurales. Le RGPD interdit les décisions entièrement automatisées produisant des effets juridiques, sauf base légale claire et garanties spécifiques. Le Code des relations entre le public et l'administration impose la mention explicite de tout traitement algorithmique ayant concouru à une décision.
Quelle est la différence entre une aide à la décision et une décision automatisée ?
L'aide algorithmique éclaire la décision sans la déterminer : l'agent conserve la faculté de s'en écarter. Une décision automatisée fixe l'issue sans intervention humaine réelle, ce qui déclenche les droits à l'intervention humaine, à l'explication et à la contestation.
L'administration doit-elle publier le code source de ses algorithmes ?
Non. Le droit n'impose pas la communication du code source, mais celle des règles et caractéristiques essentielles du traitement, afin d'assurer une compréhension suffisante de sa logique.
Qu'est-ce qu'un registre public d'algorithmes ?
C'est un inventaire accessible au public recensant les traitements utilisés par les administrations, leur finalité, leur base légale, leurs données et les voies de recours. Amsterdam, Helsinki ou le Canada ont déjà mis en place de tels registres.
Quels sont les principaux risques des algorithmes d'État ?
Biais de données, opacité, discrimination indirecte et absence de supervision humaine effective. La dépendance à des données historiques biaisées risque de reproduire des inégalités passées, d'où l'exigence d'audits indépendants.
Le présent article revêt une portée strictement informationnelle et journalistique. CTRLZed n'est pas un cabinet d'avocats et ne dispense aucun conseil juridique personnalisé. Les éléments exposés ne sauraient se substituer à une consultation auprès d'un avocat, seul habilité à apprécier la situation particulière de chaque cas.
Faire entendre votre expertise au bon endroit
Création de contenu éditorial qui porte votre voix.
