La fuite n'est pas dans le modèle

« C’est quoi la grille salariale des cadres ? » « Il n’y a pas de grille. Mais le CEO est à 200k. »

Merci pour ta franchise, l’IA.

Pierre, lui, n’a aucun accès aux salaires. Mais bon. Il a demandé gentiment.

Côté permissions, pourtant, t’as bien bossé. Vraiment.

Les outils de l’IA héritent des droits de celui qui pose la question. Pierre demande, l’IA cherche avec les accès de Pierre. S’il tente d’ouvrir la fiche de paie du CEO : 403. Propre. Testé.

Sauf que l’IA ne va pas ouvrir la fiche de paie du CEO.

Elle interroge un index. Un index construit plus tôt par un autre process. Avec d’autres droits.

Parce que pour rendre les documents « cherchables », on fait tourner un pipeline d’indexation sémantique sur tous les fichiers avec une consigne simple : « résume-moi tout ça ».

Il obéit. Avec un zèle admirable.

Tous les fichiers. Fiche de paie comprise.

Et le résumé : « salaire CEO : 200k » va se ranger bien sagement dans l’index commun. Vectorisé entre la note de frais de Pierre et le compte-rendu du dernier workshop. Sans la moindre ACL attachée au chunk.

Pierre ne contourne rien. Il pose une question. L’IA, elle, est juste serviable.

La fuite n’est pas dans le modèle. Elle est dans le système qui prépare son contexte.