Sommaire

Plutôt que d'interdire à votre agent IA, retirez-lui la capacité

Vous avez sûrement déjà croisé ce petit panneau scotché sur la machine à café du bureau : « NE PAS TOUCHER CE BOUTON ». Ou celui sur une porte : « Salle interdite, accès réservé au personnel ».

La plupart du temps, ça marche. Les gens lisent, passent leur chemin, et le bouton reste tranquille. Mais il y a toujours un moment où quelqu’un appuie. Parce qu’il n’a pas vu le panneau. Parce qu’il était curieux. Ou parce qu’il pensait sincèrement avoir une bonne raison de le faire (« le café ne coulait plus, j’ai juste essayé »).

Ne pensez pas à un éléphant

Petite expérience. Ne pensez surtout pas à un éléphant.

Perdu :) Même une fraction de seconde, l’image est apparue. Pour comprendre « ne pas penser à un éléphant », il faut d’abord penser à l’éléphant. C’est d’ailleurs devenu le titre d’un livre de George Lakoff. Notre cerveau traite mal la négation, et c’est encore plus vrai chez les enfants. Dites « ne cours pas » à un enfant de trois ans, il retient surtout « cours ».

Avec les agents IA, c’est un peu pareil. On peut écrire dans le prompt ou dans le fichier d’instructions (le fameux AGENTS.md ou CLAUDE.md) : « Ne supprime jamais de fichiers ». On peut le mettre en gras. En MAJUSCULES. Le répéter trois fois. Et ça va marcher. La plupart du temps.

Mais une consigne, pour un modèle, reste du texte parmi d’autres textes. C’est une indication très forte, pas un verrou. Un jour, sur une tâche un peu tordue, avec un contexte qui pousse dans l’autre sens, l’agent décidera que c’est la bonne chose à faire. Ou il le fera sans même le décider.

J’en parlais rapidement dans l’article sur la connexion de son agent à ses outils, et j’y suis revenu dans presque tous les articles de la série. Ça mérite son propre article.

Ça arrive vraiment

Ce n’est pas qu’une crainte théorique. Il y a eu quelques histoires assez marquantes.

En juillet 2025, le fondateur de SaaStr testait l’agent de Replit sur un projet. Il avait demandé un gel complet des modifications, en majuscules : plus aucun changement sans son accord explicite. L’agent a quand même supprimé la base de données de production, avec les données de plus d’un millier d’entreprises. Le PDG de Replit a répondu publiquement que ça n’aurait « jamais dû être possible ». Et c’est bien le sujet : la consigne était là, la capacité aussi.

En avril 2026, chez PocketOS, un agent travaillait sur un problème de l’environnement de test. Il est tombé sur un token d’API avec beaucoup trop de droits pendant ses recherches. Il s’en est servi. La base de production et ses sauvegardes ont disparu en neuf secondes.

Et puis il y a une histoire qui me parle encore plus, parce qu’il n’y a même pas de mauvaise décision. Fin 2025, un développeur demande à l’agent de Google Antigravity de vider le cache de son projet. L’agent lance une commande de suppression… sur la racine du disque entier. D’après les explications de l’agent lui-même, un problème de guillemets dans le chemin aurait transformé « ce dossier » en « tout le disque ».

L’agent ne voulait pas le faire. Il s’est trompé. Comme vous et moi pourrions nous tromper en tapant une commande trop vite. Aucune consigne, même en majuscules, ne protège contre une faute de frappe.

Retirer la capacité

Alors quoi ? On revient au panneau de la machine à café. Plutôt que de coller une affiche de plus, on peut retirer le bouton. Ou le mettre sous un capot fermé à clé.

C’est l’idée que je défends depuis le début de la série : plutôt qu’interdire, retirez la capacité. Un agent qui n’a pas l’outil pour envoyer un mail n’enverra jamais de mail. Ni par décision, ni par erreur, ni parce qu’un mail piégé lui aura demandé gentiment (l’injection de prompt, toujours elle).

Dans le monde de la sécurité informatique, ça a un nom : le principe du moindre privilège. On donne à chaque personne, chaque programme, uniquement les droits dont il a besoin pour sa tâche. Rien de nouveau donc, mais cette fois on l’applique aux agents.

Rentrons dans le concret.

Plein de façons de retirer une capacité

Ne pas brancher l’outil du tout

Le plus simple, et le plus radical. Vous ne voulez pas que votre agent lise vos mails ? Ne lui donnez pas accès à vos mails. Pas de connecteur, pas de MCP, pas de clé. Ça paraît évident, mais avec la facilité qu’on a aujourd’hui à tout brancher en deux clics, on se retrouve vite avec un agent connecté à tout « au cas où ».

Posez-vous la question à chaque connexion : est-ce qu’il en a vraiment besoin, pour ce que je lui demande ?

La lecture seule

Souvent, on a besoin que l’agent voie sans qu’il touche. Beaucoup de connecteurs et de MCP permettent de choisir les outils actifs, ou proposent un mode lecture seule. Ça vaut le coup d’aller fouiller dans les réglages.

C’est ce que je fais avec mon calendrier : mon agent y a accès en lecture seule. Il peut me dire ce que j’ai demain, préparer ma semaine, repérer un conflit. Mais il ne pourra jamais déplacer un rendez-vous ou en supprimer un. Même s’il le voulait très fort.

Un compte dédié

J’ai même poussé un cran plus loin. Toujours sur le calendrier, l’agent a son propre compte, à part du mien. Je lui partage uniquement ce que je veux qu’il voie. Il n’a donc pas accès à tout mon calendrier, seulement à ce que j’ai choisi de lui montrer. On retire non seulement l’écriture, mais aussi une partie de la lecture.

Le même réflexe marche avec beaucoup de services : un compte pour l’agent, avec ses propres droits, séparé du vôtre. Et bonus, dans les historiques, on voit tout de suite ce qui a été fait par l’agent et ce qui a été fait par vous.

Une porte sur mesure

Parfois, l’outil existant offre trop de possibilités. Dans l’article sur les MCP, je racontais ce petit MCP que j’avais fabriqué pour un agent de mon homelab. Il avait besoin de git, mais seulement pour trois actions : enregistrer ses modifications, les envoyer, et récupérer les nouveautés. Mon MCP ne proposait que ça. Pas de suppression, pas de réécriture de l’historique, pas de changement de branche.

Ce que j’aime dans cette approche, c’est que je n’avais pas besoin d’écrire « ne réécris jamais l’historique » quelque part. L’action n’existait tout simplement pas pour lui.

Des clés au périmètre minimum

Quand on passe par une clé d’API, beaucoup de services permettent de la « scoper », c’est à dire de limiter sa portée : lecture seule, un seul projet, création sans suppression. Prenez le temps de cocher le minimum.

Et l’histoire de PocketOS rappelle un autre point : l’agent a utilisé un token qui traînait dans un fichier. Il n’était même pas censé l’avoir. Une clé que l’agent peut lire, c’est une clé que l’agent peut utiliser. Ranger ses secrets, c’est aussi retirer des capacités.

Pas de production

Les bases de données, c’est un cas à part, parce que les dégâts peuvent être énormes et toucher beaucoup de monde. Mon avis : la plupart du temps, un agent n’a rien à faire sur la base de production.

Il a besoin d’essayer des choses, de lancer des migrations, de tester une requête ? C’est le rôle d’un environnement de staging ou de pré-production : une copie qui ressemble à la prod, avec des données de test, qu’on peut casser sans conséquence. Si vous n’en avez pas, c’est peut-être le bon moment pour en créer un. Et s’il a vraiment besoin de consulter la prod, un utilisateur de base de données en lecture seule fera l’affaire.

Le terminal, dans un bac à sable

Le terminal, c’est le couteau suisse. Avec lui, un agent peut presque tout faire : lire n’importe quel fichier, en supprimer, installer des programmes, se connecter à d’autres machines. C’est ce qui rend les agents comme Claude Code ou Codex si puissants. Et c’est aussi ce qui les rend risqués.

Première option : pas de terminal du tout, comme pour mon agent git. Ça marche quand la tâche est bien délimitée.

Deuxième option : un terminal, mais dans un bac à sable. Concrètement, ça peut être un container Docker ou une machine virtuelle, où l’agent n’a accès qu’au projet sur lequel il travaille, et aux dossiers que vous sélectionnez. Il peut tout casser à l’intérieur, votre ordinateur, lui, reste intact. C’est ce que je fais avec Claude Code : il tourne dans un container Docker. Claude Code et Codex proposent d’ailleurs leurs propres modes sandbox, qui limitent les dossiers dans lesquels l’agent peut écrire et les sites auxquels il peut se connecter.

Ça a un coût

Pour autant, je ne vais pas vous dire de tout verrouiller. Chaque capacité retirée, c’est un agent un peu moins autonome. Il vous demandera plus souvent de faire les choses à sa place, ou il bloquera sur une tâche qu’il aurait pu finir seul. Monter un compte dédié, un staging ou un bac à sable, ça demande aussi du temps.

C’est un curseur à régler selon ce qui est en jeu. Est-ce une expérimentation ? Sur un serveur de prod ? Sur ma machine perso ? Dans un container ? Y a-t-il des données utilisateurs ?

Les consignes gardent leur utilité. Elles orientent le comportement de l’agent, lui donnent les bonnes habitudes, et elles marchent la grande majorité du temps. Il faut simplement les voir comme un panneau, pas comme une serrure.

Bref. La prochaine fois que vous vous surprenez à écrire « JAMAIS » en majuscules dans un prompt, posez-vous la question : est-ce que je peux plutôt retirer le bouton ?


Connecter un agent IA à d’autres services :

Hors-série complémentaire :