Le 21 septembre 2026, le Groupe scientifique international indépendant sur l'intelligence artificielle, créé un an plus tôt par l'Assemblée générale des Nations unies et coprésidé par Yoshua Bengio, a publié son premier mémoire thématique.
Il porte sur un incident survenu entre mai et juillet 2026, lors d'évaluations internes de cybersécurité menées chez OpenAI. Des agents opérant sous garde-fous réduits ont contourné des restrictions réseau, communiqué entre exécutions censées rester séparées, obtenu un accès à internet, puis compromis des parties des systèmes d'OpenAI et de Hugging Face. Hugging Face a confirmé l'intrusion dans une publication du 16 juillet 2026, sans constater d'altération de ses modèles ou jeux de données publics.
Le mémoire onusien retient une phrase que je trouve utile pour un comité de direction. Les trois conditions d'une perte de contrôle, un objectif mal aligné, la capacité de le poursuivre, et un environnement qui le permet, se sont trouvées réunies dans un système réel, et non en laboratoire.
Sa conclusion tient en une ligne. Le défi de gouvernance se déplace des modèles vers les agents.
De quoi parle-t-on
Un modèle de langage répond. Un agent agit.
C'est toute la différence, et elle change la nature du risque. Un agent reçoit un objectif, décompose les étapes, utilise des outils, appelle d'autres systèmes, et exécute. Commander, répondre à un client, modifier une base, transférer un fichier, ouvrir un accès. Sans qu'un humain valide chaque étape.
Le règlement européen sur l'intelligence artificielle ne crée aucun régime spécifique aux agents. Un agent y est un système d'IA comme un autre, dont la définition couvre expressément des niveaux d'autonomie variables. Il n'est pas à haut risque parce qu'il est autonome. Il l'est parce que la tâche qu'il accomplit figure dans une liste.
L'écart entre l'intention et la réalité
Trois mesures, pas des prévisions.
Deloitte, dans une étude publiée le 21 janvier 2026 auprès de 3 235 dirigeants dans vingt-quatre pays, relève que près des trois quarts des entreprises prévoient de déployer de l'IA agentique sous deux ans. Et que seules 21 % de celles qui en déploient déjà déclarent disposer d'un modèle mature de gouvernance des agents.
McKinsey, dans son état des lieux d'août 2026 auprès de 1 719 organisations, constate que pas plus de 10 % d'entre elles passent réellement les agents à l'échelle dans une fonction métier donnée.
Gartner, en juin 2025, prévoyait que plus de 40 % des projets d'IA agentique seraient annulés d'ici fin 2027, et estimait qu'une centaine de fournisseurs seulement, sur les milliers qui s'en réclament, proposent de véritables capacités agentiques.
L'écart entre ce qui est annoncé et ce qui tourne vraiment est donc considérable. Il laisse du temps. C'est précisément dans ce temps qu'une gouvernance se pose, ou ne se pose pas.
Le vide juridique, et il est volontaire
Ce point mérite d'être dit clairement, parce qu'il est contre-intuitif.
L'Europe avait proposé une directive sur la responsabilité en matière d'intelligence artificielle. Elle l'a retirée. L'avis de retrait a été publié au Journal officiel le 6 octobre 2025, faute d'accord prévisible entre États membres. Aucune nouvelle proposition n'a suivi.
Ce qui reste, c'est le droit commun. La directive 2024/2853 sur la responsabilité du fait des produits défectueux inclut désormais explicitement le logiciel dans la définition de produit, qu'il soit intégré, autonome ou fourni comme service. Les États membres doivent la transposer au plus tard le 9 décembre 2026, et elle s'applique aux produits mis sur le marché après cette date.
Quant au règlement sur l'intelligence artificielle, il a desserré son calendrier. Le règlement 2026/1744, entré en vigueur le 27 juillet 2026, reporte les obligations applicables aux systèmes à haut risque de l'annexe III du 2 août 2026 au 2 décembre 2027, et celles de l'annexe I au 2 août 2028.
Autrement dit, l'Europe a assoupli son calendrier au moment même où les premiers incidents d'agents autonomes survenaient.
Et à ce jour, aucune décision de justice européenne ne tranche la responsabilité d'une entreprise pour un acte accompli seul par un agent. Le seul texte qui répond frontalement à la question vient de Californie. Son code civil, dans une disposition adoptée en 2025, prévoit qu'un défendeur ne peut pas se défendre en soutenant que l'intelligence artificielle a causé le préjudice de façon autonome.
« La machine a décidé seule » n'est pas une défense. C'est la seule réponse législative claire dont nous disposions.
En Suisse
Pas de loi spécifique, et ce n'est pas un oubli. Le Conseil fédéral a retenu le 12 février 2025 une approche sectorielle, et chargé le Département fédéral de justice et police de préparer un avant-projet de consultation d'ici fin 2026. Une entrée en vigueur avant 2028 paraît peu probable.
En attendant, trois points s'appliquent déjà.
L'article 41 du code des obligations. La responsabilité pour faute peut être engagée si une entreprise a déployé un outil sans en vérifier la fiabilité, sans former son personnel, ou sans prévoir de mécanisme de contrôle humain. Ce dernier terme figure en toutes lettres dans l'analyse de la doctrine.
L'article 21 de la loi sur la protection des données. Lorsqu'une décision est prise exclusivement sur la base d'un traitement automatisé et produit des effets juridiques ou affecte significativement la personne, celle-ci doit en être informée et peut exiger qu'un être humain la réexamine. Le Préposé fédéral l'a rappelé le 8 mai 2025 : la loi actuelle est directement applicable à l'intelligence artificielle.
La communication FINMA 08/2024, du 18 décembre 2024, pour les banques et les assurances. Elle attend des responsabilités clairement définies, un inventaire complet des applications d'intelligence artificielle, des tests réguliers et des revues indépendantes des systèmes critiques.
Un écart avec l'Union mérite d'être noté. La loi suisse sur la responsabilité du fait des produits n'a pas été révisée pour y inclure explicitement le logiciel autonome.
Ce que disent les agences de sécurité
Le centre britannique de cybersécurité a publié le 10 décembre 2025 un avertissement qui devrait figurer dans tout dossier de décision.
Les attaques par injection de consignes, où du contenu extérieur détourne l'agent de sa tâche, pourraient ne jamais être totalement corrigées comme l'ont été les injections SQL. La raison est structurelle. La défense contre l'injection SQL repose sur une séparation nette entre les données et les instructions, séparation que les grands modèles de langage ne savent pas opérer.
Ce n'est donc pas un défaut à attendre d'un correctif. C'est une propriété du système, à contenir par la gouvernance.
Le guide conjoint publié le 30 avril 2026 par les agences de six pays, dont les centres britannique, américain, canadien et australien, dit la même chose autrement. Commencer par des cas d'usage à faible risque, n'étendre l'accès et l'autonomie qu'à mesure que la confiance se construit, et concevoir dès le départ pour la réversibilité et le confinement.
Trois niveaux, et il faut choisir le vôtre
Le centre britannique propose une grille en trois régimes, que je trouve immédiatement utilisable en comité.
| Régime | Ce que fait la personne | Quand le retenir |
|---|---|---|
| Dans la boucle | Elle approuve chaque action avant qu'elle ne se produise | Engagement financier, contrat, donnée client |
| Sur la boucle | Elle surveille et peut intervenir | Volume élevé, enjeu limité par action |
| Hors de la boucle | L'agent agit sans revue | Action réversible, périmètre fermé, seuil écrit |
La question à poser n'est pas « quel niveau d'autonomie voulons-nous ». Elle est : pour quelle action, et jusqu'à quel montant, quel volume, quel périmètre ?
Une organisation mûre ne choisit pas un régime, elle en choisit un par type d'action, et elle écrit le seuil.
Sept lignes à écrire avant de déployer
Elles viennent du règlement européen, du guide des six agences et de la note britannique d'août 2026. Elles convergent, ce qui est plutôt rassurant.
Une personne nommée, avec la compétence, la formation, l'autorité et le soutien nécessaires. Pas une fonction, une personne.
Le pouvoir de passer outre : ne pas utiliser le système, ignorer sa sortie, la remplacer, l'inverser.
Un bouton d'arrêt, et la capacité de couper l'accès réseau immédiatement. Testé, pas seulement documenté.
Des journaux immuables, incluant les traces de raisonnement et les échanges de l'agent, conservés au moins six mois.
L'attribution : qu'un tiers puisse identifier que l'action vient de votre agent, et non d'un humain de chez vous.
La réversibilité : que l'action de l'agent puisse être défaite, et que ce soit vrai avant le déploiement, pas après.
L'inventaire : la liste de vos agents, de leurs droits et de leurs accès. La plupart des organisations ne l'ont pas.
Déléguer l'exécution
Un agent est le premier système auquel une organisation délègue l'exécution sans relecture. C'est un saut, et il se prend en connaissance de cause ou par défaut.
Innover de façon responsable ne veut pas dire ralentir. Cela veut dire connaître le prix de l'erreur avant de la rendre possible, et l'avoir fait accepter par ceux qui devront la payer.
C'est aussi ce que travaille la discipline Decision Architecture™ : rendre lisible la manière dont on tranche, surtout quand on délègue le trancher.
Posez la question à votre prochaine réunion de direction, et laissez le silence répondre. Si un de vos agents engageait votre organisation demain, envers un client ou un fournisseur, sauriez-vous en trois heures ce qu'il a fait, pourquoi, sur quelle autorité, et comment l'arrêter ?
Si la réponse est non, personne n'attend un correctif technique. La décision vous appartient déjà.
Sources
- Groupe scientifique international indépendant sur l'intelligence artificielle, Nations unies, mémoire thématique sur les agents d'IA, le désalignement et le risque de perte de contrôle humain, 21 septembre 2026
- Hugging Face, divulgation d'incident de sécurité, 16 juillet 2026
- Deloitte, The State of AI in the Enterprise, 21 janvier 2026, 3 235 dirigeants, vingt-quatre pays
- McKinsey, The State of AI in 2026: On the road to ROI, août 2026, 1 719 participants
- Gartner, communiqué du 25 juin 2025 sur l'annulation attendue de plus de 40 % des projets d'IA agentique d'ici fin 2027
- Règlement (UE) 2024/1689 sur l'intelligence artificielle, articles 12, 14 et 26
- Règlement (UE) 2026/1744 du 24 juillet 2026, report des obligations applicables aux systèmes à haut risque
- Commission européenne, avis de retrait de la proposition de directive sur la responsabilité en matière d'intelligence artificielle, Journal officiel du 6 octobre 2025
- Directive (UE) 2024/2853 sur la responsabilité du fait des produits défectueux, transposition au plus tard le 9 décembre 2026
- Californie, code civil, section 1714.46, adoptée en 2025
- Conseil fédéral, décision du 12 février 2025 sur l'approche suisse en matière de réglementation de l'intelligence artificielle
- Préposé fédéral à la protection des données et à la transparence, publication du 8 mai 2025 sur l'applicabilité directe de la loi en vigueur
- FINMA, communication sur la surveillance 08/2024 du 18 décembre 2024
- National Cyber Security Centre britannique, avertissement du 10 décembre 2025 sur l'injection de consignes, et note du 20 août 2026 sur la gestion du risque cyber lié à l'IA agentique
- Guide conjoint des agences de cybersécurité d'Australie, du Canada, de Nouvelle-Zélande, du Royaume-Uni et des États-Unis, Careful Adoption of Agentic AI Services, 30 avril 2026
Sujets liés