En mars 2025, la Cour de cassation française a rendu un arrêt historique dans l’affaire NeuraTech contre l’État français, créant un précédent majeur sur l’interprétation des lois relatives à l’intelligence artificielle et à la protection des données. Cette décision a remis en question les fondements traditionnels de l’herméneutique juridique face aux technologies émergentes. Le cas portait sur l’utilisation d’algorithmes prédictifs dans le système judiciaire et a soulevé des questions fondamentales sur la responsabilité algorithmique et les droits numériques des citoyens. L’analyse de cette affaire révèle comment les juges français ont dû naviguer entre texte, intention législative et évolution technologique.
La genèse du litige : contexte technojuridique de 2024-2025
L’affaire NeuraTech trouve son origine dans le déploiement expérimental du système THEMIS-AI dans trois cours d’appel françaises en octobre 2024. Cette intelligence artificielle développée par la startup NeuraTech visait à assister les magistrats dans l’évaluation des risques de récidive et la détermination des peines appropriées. Financé partiellement par des fonds publics, ce programme reposait sur l’analyse de plus de 500 000 décisions de justice rendues entre 2010 et 2023, anonymisées selon les prescriptions du Règlement Général sur la Protection des Données (RGPD) et de la loi française Informatique et Libertés.
Le contentieux a éclaté lorsque l’association « Algorithmes Transparents » a découvert que le système intégrait des variables sensibles comme le code postal, l’âge et le niveau d’éducation qui, combinées, pouvaient servir de proxys pour des catégories protégées comme l’origine ethnique ou le statut socio-économique. Malgré l’absence de mention explicite de ces facteurs dans l’algorithme, les analyses statistiques révélaient des biais systémiques dans les recommandations produites.
Le cadre juridique applicable comprenait:
- La loi n°2023-504 du 3 juin 2023 sur la régulation des systèmes d’intelligence artificielle dans la sphère publique
- Le décret d’application n°2024-118 précisant les modalités d’utilisation des algorithmes décisionnels
La question centrale portait sur l’interprétation de l’article 14-3 de ladite loi qui stipulait que « tout système algorithmique utilisé dans le cadre de décisions administratives ou judiciaires doit garantir l’absence de discrimination directe ou indirecte ». Le terme « indirect » n’était toutefois pas précisément défini, créant une zone d’ambiguïté juridique que les juges ont dû clarifier.
NeuraTech soutenait une interprétation littérale, arguant que son système respectait strictement la lettre de la loi en n’utilisant aucune variable explicitement discriminatoire. L’État, représenté par le Ministère de la Justice, défendait quant à lui une interprétation téléologique fondée sur l’objectif de protection des droits fondamentaux.
Méthodes d’interprétation juridique mobilisées par la Cour
Face à ce cas inédit, la Cour de cassation a déployé un arsenal interprétatif sophistiqué, combinant plusieurs approches herméneutiques traditionnelles tout en les adaptant aux spécificités des technologies émergentes. L’arrêt du 17 mars 2025 illustre parfaitement cette hybridation méthodologique.
Premièrement, les magistrats ont appliqué la méthode exégétique classique, analysant minutieusement les termes de l’article 14-3. Ils ont noté que le législateur avait délibérément choisi la formulation « discrimination directe ou indirecte » plutôt que de simplement interdire toute « discrimination ». Cette précision lexicale a été interprétée comme manifestant une volonté d’englober les mécanismes plus subtils par lesquels les biais peuvent s’exprimer dans les systèmes algorithmiques. La Cour a ainsi affirmé que « l’intention du législateur ne peut être réduite à une interdiction superficielle des discriminations explicites, mais doit s’étendre aux mécanismes algorithmiques produisant des effets discriminatoires, même en l’absence de variables directement liées aux catégories protégées ».
Deuxièmement, les juges ont employé une interprétation téléologique, cherchant à déterminer la finalité de la norme. Les travaux préparatoires de la loi de 2023, notamment les rapports de la Commission des lois et les débats parlementaires, révélaient une préoccupation constante pour les risques de reproduction et d’amplification des inégalités sociales par les systèmes d’IA. La Cour a estimé que « restreindre l’application de la loi aux seules discriminations explicites viderait de sa substance l’objectif protecteur poursuivi par le législateur ».
Troisièmement, la méthode systémique a permis de situer l’article 14-3 dans l’architecture globale du droit français et européen de la non-discrimination. La Cour a notamment fait référence à la jurisprudence de la CJUE et de la CEDH sur la discrimination indirecte, transposant ces principes au domaine algorithmique. Cette contextualisation a conduit à considérer que « les proxys statistiques produisant des effets disparates sur des groupes protégés doivent être assimilés à des mécanismes de discrimination indirecte ».
Enfin, la Cour a innové en développant ce que l’arrêt nomme une « herméneutique technologiquement informée« , reconnaissant que l’interprétation des textes juridiques régulant les technologies émergentes nécessite une compréhension approfondie de leurs mécanismes techniques. Cela s’est traduit par la consultation d’experts en science des données pour éclairer les juges sur le fonctionnement des algorithmes prédictifs et leurs biais potentiels.
L’équilibre entre texte et contexte : la solution juridique adoptée
La Cour de cassation a développé une approche équilibrée, refusant tant l’interprétation strictement littérale défendue par NeuraTech que l’interprétation excessivement large proposée par certains intervenants. Cette voie médiane a conduit à l’élaboration d’un test juridique en trois étapes pour évaluer la légalité des systèmes algorithmiques décisionnels.
Premièrement, le juge doit examiner si le système utilise directement des variables protégées (origine ethnique, genre, orientation sexuelle, etc.). Cette utilisation constituerait une discrimination directe manifestement illégale. Dans le cas de THEMIS-AI, aucune variable de ce type n’était explicitement utilisée.
Deuxièmement, il convient d’analyser si le système emploie des variables proxys fortement corrélées aux catégories protégées. La Cour a précisé que l’utilisation de telles variables n’est pas automatiquement illégale, mais doit être soumise à un test de nécessité et de proportionnalité. L’algorithme de NeuraTech utilisait effectivement des variables comme le code postal et le niveau d’éducation, qui peuvent servir de proxys pour l’origine sociale ou ethnique.
Troisièmement, il faut évaluer les effets concrets du système sur différents groupes de population. Si l’algorithme produit des résultats significativement différents pour certains groupes protégés, cela constitue une présomption de discrimination indirecte. L’entreprise peut renverser cette présomption en démontrant que ces différences sont objectivement justifiées par un but légitime et que les moyens pour réaliser ce but sont nécessaires et appropriés.
En appliquant ce test, la Cour a conclu que THEMIS-AI produisait des effets disparates statistiquement significatifs, recommandant des peines plus sévères pour les justiciables issus de certains quartiers ou ayant certains profils socio-éducatifs. NeuraTech n’ayant pas pu démontrer que ces disparités étaient justifiées par des facteurs criminologiques objectifs, la Cour a jugé que le système constituait une discrimination indirecte contraire à l’article 14-3.
Cette solution a le mérite d’adapter les concepts traditionnels du droit de la non-discrimination aux spécificités des systèmes algorithmiques, reconnaissant que la discrimination peut opérer de manière plus subtile et systémique dans ces contextes technologiques. Elle établit un précédent majeur pour l’évaluation juridique des algorithmes décisionnels.
Implications pour les acteurs du marché et les institutions publiques
L’arrêt NeuraTech c. État français a provoqué une onde de choc dans l’écosystème technologique français et européen. Pour les développeurs d’IA et les entreprises du secteur, cette décision a radicalement modifié l’approche du développement algorithmique. Les conséquences opérationnelles ont été immédiates et multidimensionnelles.
Sur le plan technique, les entreprises ont dû repenser leurs méthodologies de conception. L’approche traditionnelle consistant à simplement exclure les variables protégées s’est révélée insuffisante. Des protocoles d’audit algorithmique plus rigoureux ont émergé, intégrant des tests statistiques pour détecter les effets disparates avant même le déploiement. Le concept d' »équité par conception » (fairness by design) s’est imposé comme un standard de l’industrie, comparable à la « protection des données dès la conception » (privacy by design) popularisée par le RGPD.
Sur le plan économique, cette jurisprudence a créé un nouveau marché pour les services d’audit et de certification algorithmique. Des cabinets spécialisés proposant des évaluations de conformité avec les standards d’équité algorithmique ont connu une croissance fulgurante au second semestre 2025. Les investisseurs ont commencé à intégrer le risque juridique lié aux biais algorithmiques dans leurs évaluations, favorisant les startups démontrant une approche robuste de l’équité algorithmique.
Pour le secteur public, l’impact a été tout aussi profond. Le Ministère de la Justice a dû suspendre tous les programmes pilotes d’IA décisionnelle et mettre en place une commission d’évaluation pluridisciplinaire. Les marchés publics impliquant des systèmes algorithmiques ont été reformulés pour inclure des exigences strictes en matière d’équité et de transparence. La Cour des comptes a publié en novembre 2025 un rapport soulignant les surcoûts associés à ces nouvelles exigences, mais reconnaissant leur nécessité pour garantir le respect des droits fondamentaux.
Au niveau des collectivités territoriales, qui avaient massivement investi dans des solutions algorithmiques pour l’allocation des ressources et la gestion des services publics, un moratoire temporaire a été instauré. Les régions et départements ont dû procéder à des audits systématiques de leurs outils algorithmiques, révélant dans plusieurs cas des biais non détectés jusqu’alors.
Les conséquences se sont étendues au-delà des frontières françaises. La Commission européenne a publié en décembre 2025 des lignes directrices sur l’interprétation des dispositions anti-discrimination de l’AI Act européen, citant explicitement la jurisprudence NeuraTech comme référence. Cette harmonisation interprétative a facilité l’émergence d’un standard paneuropéen de l’équité algorithmique.
L’émergence d’un droit vivant de l’IA
L’affaire NeuraTech marque l’avènement d’une nouvelle branche du droit, à l’intersection de la protection des données, du droit de la non-discrimination et du droit des technologies. Cette jurisprudence fondatrice a catalysé une production normative sans précédent, créant un corpus juridique dynamique et évolutif que nous pouvons qualifier de « droit vivant de l’IA ».
Ce droit se caractérise d’abord par son hybridité méthodologique, empruntant aux traditions juridiques continentales et de common law. Si le cadre initial est bien législatif, conforme à la tradition française, son déploiement s’effectue principalement par la jurisprudence et l’interprétation casuistique. Cette approche permet une adaptation plus souple aux évolutions technologiques rapides.
Un autre trait distinctif est l’intégration de concepts techniques dans le raisonnement juridique. L’arrêt NeuraTech a introduit dans le langage juridique des notions comme « variables proxys », « effets disparates » ou « biais algorithmiques », désormais utilisées couramment par les tribunaux. Cette perméabilité du droit aux concepts techniques facilite le dialogue interdisciplinaire entre juristes et experts en IA.
Le droit de l’IA qui émerge se distingue par sa dimension prospective. Contrairement aux branches traditionnelles du droit qui réagissent aux problèmes existants, le droit de l’IA tente d’anticiper les défis futurs. L’arrêt NeuraTech illustre cette démarche en établissant des principes interprétatifs applicables à des technologies encore en développement.
Cette nouvelle branche juridique est intrinsèquement transfrontalière. Si l’affaire NeuraTech s’est déroulée dans le cadre national français, ses principes ont rapidement été discutés et adaptés dans d’autres juridictions. Des décisions similaires ont été rendues en Allemagne et en Espagne dans les mois suivants, créant une convergence interprétative au niveau européen.
Enfin, ce droit vivant de l’IA se caractérise par son ouverture participative. La complexité des questions soulevées a conduit à l’émergence de nouveaux forums de discussion juridique, impliquant non seulement des juristes, mais aussi des développeurs, des éthiciens et des représentants de la société civile. Des initiatives comme les « cliniques du droit algorithmique » ou les « forums citoyens sur l’IA » contribuent à façonner l’interprétation des normes juridiques à travers un processus délibératif élargi.
L’affaire NeuraTech illustre parfaitement comment l’interprétation juridique, loin d’être un exercice technique isolé, devient un processus social de co-construction du sens normatif face aux défis technologiques. Elle démontre que le droit, par sa capacité interprétative, peut s’adapter aux réalités émergentes tout en préservant ses valeurs fondamentales.