Par Matthieu Gillet, Account Director TrendAI 

Depuis des décennies, la sécurité informatique et le droit traitent la donnée comme un objet que l’on peut localiser, protéger et supprimer. Elle serait « au repos » dans une base, « en transit » sur un réseau, ou « en usage » dans un système. Cette triade structure encore aujourd’hui la gouvernance numérique. Pourtant, face à l’essor de l’intelligence artificielle et de l’apprentissage automatique, ce cadre montre ses limites. Non parce qu’il manquerait un quatrième état de la donnée, mais parce que la question est mal posée.

Le problème de la donnée inférée n’est ni ontologique, ni simplement quantitatif. Il est structurel. L’apprentissage automatique ne se contente pas de transformer des données existantes : il en extrait une capacité durable à produire des faits nouveaux. Cette capacité, inscrite dans un modèle, survit à la disparition des données qui l’ont rendue possible. Supprimer la donnée n’efface pas ce que le système a appris. À partir de là, protéger l’objet « donnée » ne suffit plus à protéger les personnes.

Il faut distinguer deux opérations que l’on confond trop souvent. Une requête classique – trier, agréger, compter – applique une règle explicite à des données présentes. Si les données disparaissent, le résultat disparaît avec elles. L’apprentissage, lui, fonctionne à l’inverse : il induit une règle générale, une capacité à prédire ou à classer, qui devient autonome. C’est cette capacité dérivée, et non la donnée brute, qui produit le risque principal.

Ce déplacement change tout, car il introduit une propriété que le droit et la sécurité ont longtemps supposée absente : l’irréversibilité. Tant que les effets d’un traitement sont réversibles, la gouvernance peut s’appuyer sur la correction, l’effacement, la restauration. Mais l’inférence franchit un seuil où revenir en arrière devient impraticable. Retirer précisément l’influence d’une personne d’un modèle entraîné est techniquement et économiquement prohibitif. Un fait connu ne peut pas être « désappris ». Une décision prise – un crédit refusé, une alerte déclenchée – continue de produire ses effets même si la cause est effacée.

L’erreur fondamentale des cadres existants est là : ils présument la réversibilité. Or l’inférence la viole non pas par accident, mais par construction.

À cette irréversibilité s’ajoute un phénomène plus large, encore mal compris hors des cercles scientifiques : le changement de régime informationnel. L’inférence n’est pas différente par nature de la statistique. Mais lorsque la densité de corrélations dans un écosystème de données dépasse un certain seuil, son comportement change brutalement. Au-delà de ce point, un individu devient reconstructible indépendamment de sa participation. Ses attributs peuvent être inférés à partir des données des autres, de ses relations, de son environnement.

C’est le seul sens rigoureux dans lequel on peut parler de « donnée fantôme ». Non pas un état mystérieux de la donnée, mais un régime où la dissimulation individuelle devient informationnellement vide. La confidentialité différentielle, souvent présentée comme une solution technique, est en réalité l’aveu mathématique de ce basculement : elle ne promet plus de protéger l’individu, seulement de borner le surcroît de risque dû à sa présence.

Que reste-t-il alors à gouverner ? Certainement pas un hypothétique quatrième état de la donnée. Ce qu’il faut réguler, ce sont les capacités et les actes inférentiels. Autrement dit : quels modèles peuvent être entraînés, dans quels contextes, pour produire quels types d’inférences, avec quels effets irréversibles acceptables. Il ne s’agit plus seulement de contrôler ce qui est collecté, mais ce qui devient possible.

Cette thèse ne prétend pas qu’il existe un seuil universel, ni qu’une métrique unique résoudra la gouvernance de l’IA. Elle ne moralise pas l’inférence. Elle pose une condition simple et falsifiable : si l’apprentissage induit des capacités irréversibles et si l’écosystème franchit des zones critiques de reconstructibilité, alors réguler la donnée comme un objet est une erreur de catégorie.

Le débat n’est donc pas : faut‑il ajouter une case de plus à nos schémas ? La vraie question est plus inconfortable : qu’avons‑nous rendu irréversible sans en avoir décidé collectivement, et qui doit être responsable du seuil que nous acceptons de franchir ?