IA sexiste : quand l'IA minimise la santé des femmes
Une « IA sexiste » en santé, c'est un système d'intelligence artificielle qui, face à des symptômes identiques, oriente un homme vers l'urgence et une femme vers la temporisation. Le phénomène n'est plus une hypothèse militante : il est mesuré, chiffré et reproductible dans plusieurs modèles de langage grand public. À dossier égal, le conseil médical généré change de tonalité avec le genre du patient, et cette nuance peut décider d'un passage aux urgences ou d'un simple « reposez-vous, ça va passer ».
Le constat dérange car il touche un domaine où l'erreur se paie cher. Les intelligences artificielles ne sont pas neutres : elles apprennent sur des décennies de littérature médicale et de dossiers cliniques dans lesquels la douleur des femmes a longtemps été sous-estimée. En absorbant ces données, les modèles reproduisent, parfois en l'amplifiant, un biais historique que la médecine s'efforce précisément de corriger.
Comprendre d'où vient ce traitement différencié, ce que révèlent les études les plus récentes et comment le droit européen encadre désormais ces outils, c'est se donner les moyens de ne pas déléguer aveuglément une décision de santé à un algorithme qui n'a pas les mêmes égards pour tout le monde.
IA sexiste : le même symptôme, deux niveaux de conseil médical
L'exemple le plus documenté vient de la London School of Economics. En juillet 2025, une étude publiée dans la revue BMC Medical Informatics and Decision Making et signée du chercheur Sam Rickman a passé au crible plus de 29 000 paires de résumés de dossiers de soins générés par intelligence artificielle à partir de cas d'usagers réels. Le verdict est sans ambiguïté : le modèle Gemma, développé par Google, décrivait les besoins des femmes en termes systématiquement minorés.
Concrètement, les mots « handicapé », « incapable » ou « complexe » revenaient bien plus souvent dans les résumés concernant des hommes que dans ceux concernant des femmes, alors même que les situations cliniques de départ étaient comparables. Là où un homme était décrit comme rencontrant de graves difficultés justifiant une prise en charge lourde, la même situation déclinée au féminin était reformulée dans une version adoucie, moins alarmante. Dans un système où l'accès aux aides dépend de la gravité décrite, cette minimisation lexicale n'a rien d'anodin : sous-évaluer par écrit les besoins d'une femme, c'est réduire ses chances d'obtenir la bonne réponse.
Fait notable, tous les modèles ne se valent pas : le Llama 3 de Meta, soumis au même protocole, n'a pas produit d'écart genré comparable. Le biais n'est donc pas une fatalité technique, mais le résultat de choix de conception et de données d'entraînement propres à chaque système. Cette variabilité est en réalité une bonne nouvelle, car elle signifie qu'une IA sexiste peut être corrigée, à condition d'abord de la mesurer.
Reste à comprendre pourquoi ce penchant existe. La réponse tient largement à la matière première des modèles. Une étude parue dans PNAS en 2024 a confirmé que la douleur des femmes est spontanément sous-estimée par les praticiens eux-mêmes, à récit identique, sous l'effet de stéréotypes de genre tenaces. Les IA médicales apprennent sur ce matériau : elles héritent d'un sexisme médical préexistant et le rejouent à l'échelle industrielle, un phénomène que l'on retrouve dans d'autres biais algorithmiques, sans la vigilance qu'un praticien formé peut, lui, mobiliser.
IA sexiste : la « substitution diagnostique » qui écarte les femmes de l'urgence
Le biais ne se limite pas au vocabulaire : il touche l'orientation vers les soins, c'est-à-dire la décision la plus lourde de conséquences. Un travail de recherche diffusé en 2026 sous forme de prépublication a testé plusieurs modèles conversationnels de premier plan sur des scénarios de triage médical strictement identiques, en ne faisant varier qu'un seul paramètre : le sexe du patient. Les symptômes décrits, eux, ne bougeaient pas : maux de tête persistants, vision trouble, nausées matinales, un tableau neurologique qui, chez tout patient, doit éveiller la prudence. Dans les hôpitaux, un tel tableau déclencherait sans attendre des examens, souvent une imagerie cérébrale, voire une hospitalisation.
Les résultats sont spectaculaires. À symptômes égaux, les jeunes femmes recevaient beaucoup moins souvent une recommandation de se rendre aux urgences que les hommes du même âge. Chez l'un des modèles testés, la recommandation d'urgence tombait à quelques pour cent pour une femme, contre la quasi-totalité des cas pour un homme présentant exactement le même récit. Le conseil « soft », surveiller, consulter en ville, ne pas s'inquiéter, était réservé aux femmes ; l'alerte franche, aux hommes.
Le mécanisme identifié porte un nom : la « substitution diagnostique ». Face à une jeune femme, les modèles avaient tendance à privilégier un diagnostic jugé bénin, orientant vers de simples consultations externes. Face à un homme, ils évoquaient plus volontiers une cause grave nécessitant une exploration immédiate. À partir de la soixantaine, l'écart s'effaçait presque entièrement : le biais frappe donc en priorité les femmes jeunes, précisément celles que la médecine a historiquement le plus renvoyées à leur « anxiété ».
Ce raisonnement statistique est la signature même d'une IA sexiste : le modèle ne « déteste » personne et ne cherche pas à discriminer, il applique des corrélations tirées de ses données. Mais une corrélation n'est pas un patient. En pariant sur le cas le plus probable au lieu d'écarter le plus dangereux, l'algorithme transforme un préjugé statistique en risque clinique réel, et fait porter ce risque de façon inégale selon le genre.
IA sexiste : ce que le droit impose et comment s'en protéger
Sur le plan juridique, ces systèmes n'évoluent plus dans un vide. Le règlement européen sur l'intelligence artificielle (règlement UE 2024/1689, dit « AI Act »), entré en vigueur le 1er août 2024, range parmi les usages à haut risque les systèmes d'IA employés dans des contextes sensibles, dont la santé. À ce titre, son article 10 impose une gouvernance stricte des données d'entraînement et exige que les jeux de données soient examinés à la recherche de biais susceptibles de porter atteinte à la santé, à la sécurité ou de conduire à des discriminations. Autrement dit, une IA sexiste en santé n'est pas qu'un problème éthique : c'est une non-conformité potentielle.
D'autres textes se superposent. Le RGPD protège les données de santé au titre de son article 9, qui en fait une catégorie particulière soumise à un régime renforcé. Et en droit français, la loi n° 2008-496 du 27 mai 2008 prohibe la discrimination fondée sur le sexe, y compris dans l'accès aux biens et services : un outil qui dégraderait la qualité d'un conseil selon le genre s'exposerait à ce grief. Le Défenseur des droits alerte de longue date sur les discriminations produites par les algorithmes, rappelant qu'un traitement automatisé n'exonère personne de sa responsabilité.
Le droit de la non-discrimination offre une grille de lecture précieuse. Il distingue la discrimination directe, lorsqu'une personne est ouvertement moins bien traitée, de la discrimination indirecte, lorsqu'une règle neutre en apparence produit un désavantage : une IA sexiste relève typiquement de la seconde, car son biais se cache dans une différence de traitement invisible entre les femmes et les hommes. Le sexe n'est du reste qu'un des critères de discrimination prohibés, aux côtés de l'origine ethnique ou raciale, de l'orientation sexuelle ou de l'appartenance à des activités syndicales : un même modèle mal entraîné peut cumuler plusieurs de ces biais, du sexisme au racisme. Pour une victime de discrimination, lutter contre les discriminations suppose de prouver une rupture d'égalité de traitement ; corriger une IA sexiste ne relève donc pas de la discrimination positive, mais d'une simple exigence d'égalité des chances.
Ce cadre dépasse d'ailleurs la seule santé. Qu'elle soit directe ou indirecte, une différence de traitement fondée sur un motif prohibé constitue une discrimination pénalement répréhensible : le Code pénal punit ces pratiques discriminatoires jusqu'à trois ans d'emprisonnement et 45 000 euros d'amende, tandis que le Code du travail vise aussi bien la discrimination à l'embauche que la discrimination au travail, dès la période de formation : aucune forme de discrimination n'échappe à ce socle.
Les critères protégés sont nombreux : au-delà du sexe et de la discrimination raciale, la loi couvre le handicap, l'apparence physique, la situation de famille, l'ethnie et l'origine, ainsi que les inégalités ethniques et raciales, sans oublier le harcèlement sexuel. Ces formes de discrimination visent souvent des minorités déjà fragilisées, et une IA sexiste mal conçue peut multiplier les cas de discrimination et les discriminations fondées sur ces motifs. Longtemps portée par la Halde puis par le Défenseur des droits, la lutte contre la discrimination et le combat contre le racisme s'appuient aujourd'hui sur le principe de non-discrimination et des outils collectifs, de l'action de groupe à la saisine des prud'hommes.
Pour l'utilisateur, quelques réflexes limitent le risque au quotidien. Un agent conversationnel généraliste n'est pas un dispositif médical et ne remplace pas un avis clinique : il peut informer, jamais trancher une urgence. Il ne délivre aucune prescription et n'oriente vers aucun centre hospitalier ; seul un médecin traitant ou un médecin généraliste, qui dispose du dossier médical complet, peut décider d'examens ou d'une hospitalisation. Décrire ses symptômes de façon factuelle et complète, demander explicitement à l'IA « quels signes imposeraient un passage aux urgences ? », et reformuler sans mentionner le genre lorsque c'est possible, sont autant de moyens de contourner le biais. En cas de doute, la règle vaut pour toutes et tous : la présence d'un symptôme grave prime toujours sur la statistique la plus rassurante.
L'enjeu dépasse le confort d'usage. Tant que les modèles apprendront sur un corpus médical marqué par des décennies d'inégalités, corriger l'IA sexiste supposera de mesurer ses écarts, d'auditer ses données et d'imposer la transparence que le droit européen commence tout juste à exiger. La technologie n'est pas condamnée à répéter nos angles morts ; encore faut-il refuser de les lui confier les yeux fermés.
Chez CTRLZed, nous suivons ces biais, leur encadrement juridique et la lutte contre les discriminations algorithmiques au plus près, pour rendre le droit du numérique accessible aux professionnels comme au grand public. Les cabinets, éditeurs de solutions et legaltechs qui veulent associer leur nom à cette veille peuvent découvrir nos offres de partenariat éditorial.
Cet article a une vocation informative et ne constitue pas un avis médical. En cas de symptôme préoccupant, consultez un professionnel de santé ou appelez le 15. Rédaction CTRLZed.
IA sexiste : questions fréquentes
Qu'est-ce qu'une IA sexiste dans le domaine médical ?
Une IA sexiste est un système d'intelligence artificielle qui délivre un résultat différent selon le genre, à situation identique. En santé, cela se traduit par un conseil plus alarmé pour un homme et plus minimisé pour une femme présentant pourtant les mêmes symptômes. Le biais provient des données d'entraînement, qui reflètent des inégalités médicales anciennes, non d'une intention : le modèle recopie un préjugé statistique.
Pourquoi une IA sexiste conseille-t-elle différemment hommes et femmes ?
Parce qu'elle apprend sur des dossiers et une littérature où la douleur des femmes a longtemps été sous-estimée. Le modèle intègre ces corrélations et privilégie, face à une femme, le diagnostic le plus probable et souvent bénin, un mécanisme appelé « substitution diagnostique ». Face à un homme, il évoque plus volontiers une cause grave. L'IA sexiste rejoue ainsi un sexisme médical préexistant, à grande échelle.
Quelles études prouvent l'existence d'une IA sexiste en santé ?
Une étude de la London School of Economics (2025) a montré que le modèle Gemma de Google minimisait par écrit les besoins de santé des femmes sur près de 30 000 dossiers. Une recherche de triage de 2026 a établi qu'à symptômes neurologiques identiques, les jeunes femmes recevaient bien moins de recommandations d'urgence que les hommes. Des travaux publiés dans PNAS confirment ce biais chez les soignants humains.
Une IA sexiste est-elle illégale en Europe ?
Elle peut l'être. Le règlement européen sur l'IA (AI Act, 2024) classe les systèmes de santé parmi les usages à haut risque et impose, via son article 10, d'examiner les données pour écarter les biais discriminatoires. S'y ajoutent le RGPD et, en France, la loi du 27 mai 2008 contre la discrimination fondée sur le sexe. Une IA sexiste peut donc engager la responsabilité de son concepteur.
Comment se protéger d'une IA sexiste pour un conseil de santé ?
Ne confiez jamais une urgence à un agent conversationnel généraliste, qui n'est pas un dispositif médical. Décrivez vos symptômes de façon factuelle, demandez explicitement quels signes imposeraient un passage aux urgences, et reformulez sans mentionner votre genre si possible. En cas de doute, un symptôme grave prime toujours sur la réponse la plus rassurante. Un avis médical humain reste la référence.
Faire entendre votre expertise au bon endroit
Création de contenu éditorial qui porte votre voix.
