Contrôler les dépenses d'un agent IA avec des validations humaines
Un agent acheteur doit pouvoir avancer seul sur les tâches réversibles tout en s'arrêtant avant un engagement financier important. Une bonne politique combine plafond, contexte de décision et comportement sûr en cas d'incertitude.
Plan de contrôle
- 1. Définir plusieurs limites de budget
- 2. Classer les actions par niveau de risque
- 3. Présenter une demande compréhensible
- 4. Exécuter une seule fois après approbation
- 5. Mesurer et améliorer la politique
- Exemple de niveaux d'approbation à adapter à votre politique de risque
- Questions fréquentes
- Sources et méthode de révision
/1. Définir plusieurs limites de budget
Un plafond unique ne suffit pas. Définissez un montant maximal par action, un cumul par jour ou par mois et, si nécessaire, une limite par catégorie. Précisez la devise : 100 EUR et 100 GBP ne sont pas interchangeables.
- Plafond par transaction pour contenir une erreur isolée.
- Budget cumulé pour éviter une succession de petits achats.
- Marché et devise explicites pour FR, GB et ES.
/2. Classer les actions par niveau de risque
Autorisez automatiquement les lectures et simulations. Demandez une validation pour une offre, un paiement, une révélation de contact ou une hausse de budget. Bloquez les actions hors politique plutôt que de les envoyer systématiquement à un humain.
/3. Présenter une demande compréhensible
La demande doit résumer le vendeur, l'objet, le montant, la devise, les frais, le marché, la raison proposée par l'agent et la politique déclenchée. Ajoutez une expiration et montrez ce qui changera si le propriétaire approuve.
- Afficher le coût total, pas seulement le prix facial.
- Associer la demande à l'identité de l'agent et à la ressource ciblée.
- Offrir des choix explicites : approuver, refuser ou laisser expirer.
/4. Exécuter une seule fois après approbation
Une approbation doit être liée à une action précise, non à une permission générale. Après validation, utilisez une clé d'idempotence pour qu'un retry réseau ou un double clic ne crée pas une seconde offre. Refusez toute exécution si le montant, la cible ou la devise diffère de la demande approuvée.
- Consommer l'approbation une seule fois.
- Revalider la politique juste avant l'écriture.
- Faire échouer de manière sûre les demandes expirées ou modifiées.
/5. Mesurer et améliorer la politique
Conservez l'horodatage, la règle déclenchée, le décideur, le résultat et l'identifiant de requête. Examinez régulièrement les refus, expirations et contournements évités. Si presque toutes les demandes identiques sont approuvées, ajustez un seuil avec prudence plutôt que de supprimer le contrôle.
- Alerter sur les tentatives répétées après refus.
- Tester la révocation d'un agent et d'un approbateur.
- Séparer les changements de politique de l'exécution des achats.
/Exemple de niveaux d'approbation à adapter à votre politique de risque
| Niveau de risque | Exemple | Décision par défaut | Preuve à conserver |
|---|---|---|---|
| Faible | Recherche ou comparaison en lecture seule | Autoriser dans le périmètre déclaré | Requête, sources et identité de l'agent |
| Moyen | Réservation réversible ou message à un vendeur | Autoriser uniquement dans une politique étroite | Version de politique, entrées et résultat |
| Élevé | Paiement, achat engageant ou action irréversible | Exiger une approbation humaine | Approbateur, heure de décision, montant et résultat final |
/Questions fréquentes
Chaque action d'un agent doit-elle être approuvée ?
Pas nécessairement. Les actions en lecture seule et à faible impact peuvent suivre une allowlist documentée ; les actions financières, engageantes ou irréversibles doivent franchir une approbation appliquée indépendamment du modèle.
Le modèle peut-il décider lui-même si son achat exige une approbation ?
Le modèle peut décrire le contexte, mais le contrôle final doit être appliqué côté serveur à partir d'entrées fiables comme le montant, le type d'action, le compte et le marché.
Que doit contenir une preuve d'approbation ?
Conservez l'acteur, l'agent, l'action demandée, les paramètres matériels, la version de politique, la décision, l'approbateur si nécessaire, les horodatages, l'identifiant de requête et le résultat.
/Sources et méthode de révision
Ce modèle de gouvernance a été vérifié le 18 juillet 2026 à partir des documents primaires suivants.
Configurer des achats sous contrôle
Explorez les budgets, seuils et gates de validation disponibles dans Policy Control.