Concevoir des transferts sécurisés : rendre la collaboration entre agents manifestement sûre

Idée en langage clair : lorsqu'un agent IA demande de l'aide à un autre, ce « transfert » doit être aussi clair et contrôlé qu'un bon de commande, et non un simple message privé. Les transferts sécurisés vous permettent de conserver la vitesse de l'automatisation sans risquer d'incidents silencieux et difficiles à détecter.

Pourquoi les transferts sont-ils importants ?

La plupart des équipes n'utilisent pas un seul agent, mais plusieurs (triage, finances, recherche, RH, etc.). Dès qu'un agent peut demander à un autre de « simplement le faire », vous gagnez en rapidité, mais vous vous exposez à des risques de malentendus ou d'abus. Un transfert bâclé peut :

• brouiller l'identité de la personne qui a réellement pris la décision,

  
  

• mélanger les demandes externes avec l'autorité interne,

  
  

• et dissimuler des actions risquées dans le cadre d'un travail d'équipe « normal ».

Les modes de défaillance (en termes humains)

• La demande vague : « Pouvez-vous leur envoyer le rapport complet ? » (Quel rapport ? À qui ? Est-ce autorisé ?)

  
  

• Autorité empruntée : un bot à faible accès demande à un bot à haut accès d'exécuter une tâche sensible, sans que personne ne s'en aperçoive.

  
  

• Raccourcis cachés : les agents utilisent des formulations informelles ou des mots codés ; vos filtres voient un texte « normal », et non une demande risquée.

Objectifs de conception (sans jargon)

1. Clarté : chaque transfert indique quoi, pourquoi, où et qui, sous une forme concise et structurée.

   
   

2. Contrôle : les demandes sensibles sont soumises à un clic humain.

   
   

3. Traçabilité : vous pouvez reconstituer qui a demandé quoi et ce qui s'est passé ensuite.

   
   

Ces principes s'alignent sur les conseils pratiques de l'OWASP (éviter « l'agence excessive »), la posture de vigilance face aux menaces du NCSC et les pratiques de gouvernance promues par le NIST et le MITRE.

La carte de transfert sécurisé (un écran, cinq champs)

Remplacez les messages directs en texte libre des agents par une petite « carte de transfert » que tous les agents doivent remplir. Restez sobre et cohérent :

• Intention (choisissez-en une) : réviser / résumer / mettre à jour / exporter / supprimer / inviter

  
  

• Type de données (choisissez-en un) : public / interne / sensible

  
  

• Destination (choisissez-en une) : listes nommées, dossiers ou systèmes uniquement (pas de texte libre)

  
  

• Raison (une phrase) : pourquoi cela est-il nécessaire ?

  
  

• Source (choisissez-en une) : interne / externe (cela a-t-il commencé par un e-mail, une page web, un téléchargement, un ticket ?)

Si intention = exporter/supprimer/inviteret/ou source = externe, exiger une approbation humaine avant que l'agent destinataire n'agisse.

La carte d'approbation (une diapositive que les responsables peuvent adopter)

• Pas d'approbation : lecture seule ou examen interne des données publiques/internes.

  
  

• Approbation du responsable : toute exportation de données internes.

  
  

• Approbation du propriétaire des données : toute action (exportation/suppression/invitation) sur des données sensibles, ou toute demande provenant de sources externes.

Veillez à ce que la règle soit suffisamment courte pour être mémorisable et affichez-la à l'endroit où les demandes apparaissent.

Le modèle « courtier » (votre barrière de sécurité)

Ne laissez pas les agents s'envoyer des messages directement. Acheminez tous les transferts via un simple courtier qui :

• applique la carte (pas de carte, pas d'action),

  
  

• vérifie la carte d'approbation,

  
  

• et enregistre l'historique complet (qui a demandé, ce qui a été demandé, les approbations, les résultats).

Cela peut sembler technique, mais de nombreuses équipes le mettent en œuvre à l'aide d'un formulaire, d'un petit flux de travail et d'un journal partagé. Votre équipe de sécurité peut ensuite ajouter des analyses. (Cela s'accorde également bien avec les guides pratiques de la CISA sur l'automatisation sécurisée).

À quoi ressemble une « bonne » pratique (exemples)

Bonne pratique :

« Intention : exportation • Données : internes • Destination : liste des indicateurs financiers • Raison : effectif mensuel • Source : interne → Approuvé automatiquement ».

Nécessite une approbation :

« Intention : exportation • Données : sensibles • Destination : S3-Payroll-Archive • Raison : demande d'audit • Source : externe → Approbation du propriétaire des données requise. »

Bloqué :

« Intention : exportation • Données : sensibles • Destination : « someone@vendor.com » (texte libre) → Aucune destination en texte libre autorisée. »

Signaux d'alerte que votre courtier doit repérer

• Tout texte libre (intention, destination, destinataires).

  
  

• Externes → sensibles demandes sans approbation.

  
  

• « Premières » actions pour un agent donné (nouvel outil, nouvelle destination).

  
  

• Mouvements importants après les heures de bureau (exportations importantes à 2 heures du matin sans approbateur en ligne).

Rôles et responsabilités (pour que rien ne passe entre les mailles du filet)

• Cadres : approuvez la carte + le courtier comme norme ; faites des approbations une attente, pas une faveur.

  
  

• Responsables : gérez les listes d'approbation de vos agents et revoyez-les chaque mois.

  
  

• Personnel de première ligne : indiquez clairement les « raisons » sur la carte ; traitez les demandes externes comme des conseils, et non comme des ordres.

  
  

• IT/Sécurité : mettez en place le courtier, verrouillez les destinations dans une liste de sélection et alertez en cas de séquences « externes → sensibles ».

Plan de lancement (une semaine, faible effort)

Jours 1-2 : publiez la carte de transfert à cinq champs et la carte d'approbation.

Jours 3-4 : désactivez les messages directs en texte libre entre agents ; acheminez-les via le courtier (même s'il s'agit d'un formulaire léger).

Jour 5 : limitez les destinations à des listes/dossiers/systèmes nommés.

Jours 6-7 : examinez les transferts de la première semaine ; clarifiez tout ce qui prête à confusion.

Indicateurs prouvant l'efficacité du système

• Pourcentage de transferts utilisant la fiche (objectif : 100 %)

  
  

• Pourcentage de demandes « externes → sensibles » bloquées (devrait diminuer)

  
  

• Délai entre la demande et l'approbation (devrait rester court et prévisible)

  
  

• Pourcentage de transferts avec une « raison » claire indiquée (objectif : > 95 %)

Copier-coller de la liste de contrôle

• Pas de messages directs aux agents ; tous les transferts utilisent la carte

  
  

• Approbations requises pour l'exportation/la suppression/l'invitation et toute demande d'origine externe

  
  

• Les destinations sont des listes de sélection ; le texte libre est désactivé

  
  

• Les journaux indiquent qui/quoi/pourquoi/où pour chaque transfert

  
  

• Examen hebdomadaire de 15 minutes des valeurs aberrantes (nouveaux outils, heures supplémentaires, exportations importantes)