IA générative et données clients : la question n'est pas le modèle, c'est le flux

Ce que dit la publication

La CNIL a publié une série de questions-réponses sur l'usage d'un système d'IA générative, qui cadre les obligations du côté de l'utilisateur du système, et non plus seulement de celui qui l'entraîne : base légale, information des personnes, encadrement des données transmises, vigilance sur la réutilisation éventuelle des saisies.

Le raccourci qu'on entend partout

« On prend un modèle souverain, donc c'est conforme. » Le raisonnement est séduisant et faux. La juridiction d'hébergement règle une question — celle de l'accès par une autorité étrangère — et n'en règle aucune autre. Un modèle hébergé en Europe peut parfaitement recevoir des données qu'il n'aurait jamais dû voir, les conserver dans des journaux, et les restituer à un autre utilisateur du même service.

Les trois questions qui décident réellement

Qu'est-ce qui sort ? La plupart des fuites ne viennent pas du modèle mais du contexte qu'on lui envoie : le document entier alors qu'un extrait suffisait, la base client jointe « pour améliorer la réponse ». Un système RAG bien construit envoie les passages nécessaires, pas le corpus.

Que devient ce qui est sorti ? Réutilisation pour l'entraînement, durée de rétention des invites, sous-traitants, localisation des journaux. Ces réponses sont contractuelles, pas techniques — et elles se vérifient avant le premier appel, pas après.

Qu'est-ce qu'on peut prouver ? Journalisation des appels, versions de modèle, sources utilisées pour produire une réponse. Sans cela, une réclamation d'une personne concernée n'a pas de réponse possible.

En pratique

Nous traitons ce sujet comme une décision d'architecture à trois niveaux, tranchée document par document : modèle international quand la donnée le permet, modèle sous juridiction européenne quand elle est sensible, exécution sur l'infrastructure du client quand elle ne doit pas sortir. Les trois cohabitent dans un même projet, et c'est la classification en amont — pas le fournisseur — qui détermine le chemin.