Modèle d’Agent à Garde-fous Prioritaires
What It Is
« Garde-fous prioritaires » signifie que les contraintes de politique sont évaluées avant que l’agent ne soit autorisé à poursuivre son raisonnement ou son exécution.
Les garde-fous incluent les règles de sécurité, les politiques d’accès aux données, les exigences de conformité, les plafonds budgétaires et les contraintes métier.
L’idée clé : les contraintes ne sont pas de simples « suggestions » dans le prompt, ce sont des portes de contrôle appliquées.
Why It Matters in Enterprise
Les entreprises doivent prévenir les violations, pas seulement les expliquer après coup.
Des garde-fous stricts réduisent le rayon d’impact en rendant les actions dangereuses impossibles, même si le modèle se comporte mal.
C’est fondamental pour la confiance : les équipes sécurité et conformité ont besoin de contrôles applicables, pas d’un alignement probabiliste.
Common Mistakes
- Intégrer les règles uniquement sous forme de texte dans le prompt plutôt que de les appliquer à l’exécution.
- Mettre en place les garde-fous après le déploiement, comme un correctif réactif face aux incidents.
- Sur-bloquer : des garde-fous qui arrêtent un travail utile au lieu d’orienter vers des alternatives sûres (escalade, demande d’approbation).
- Ne pas tester les garde-fous face à des cas adverses et à des conditions limites.
How Copyl Supports This Pattern
- L’approche Agent OS de Copyl est construite autour de la gouvernance, des permissions et d’un fonctionnement centré sur la politique.
- Les contraintes peuvent être appliquées aux frontières des actions (outils/workflows) pour prévenir les résultats risqués.
- L’auditabilité permet de prouver ce qui a été bloqué, pourquoi, et sous quelle politique.