Partir de la tâche, puis choisir la mémoire
Un agent qui connaît le vocabulaire d’une organisation peut expliquer une procédure avec plus de cohérence. Un agent qui conserve une préférence de rythme peut rendre un échange plus confortable. Ces deux usages n’impliquent pas nécessairement de mémoriser l’histoire personnelle de l’utilisateur. La première décision devrait donc concerner le service rendu, pas le volume de données disponible.
Prenons un scénario hypothétique de préparation à une réunion. Retenir le sujet choisi par la personne peut être utile pendant la session. Conserver durablement toutes ses hésitations ou ses relations professionnelles est une autre décision, qui exige une justification distincte. La disponibilité technique d’une mémoire ne constitue pas en elle-même un besoin métier.
Les recommandations de la CNIL pour le développement des systèmes d’IA structurent notamment la définition de la finalité, l’identification des responsabilités et l’examen des conditions de traitement des données personnelles. Leur portée concerne les étapes de développement décrites par la CNIL ; le présent article propose une traduction en questions de conception, sans remplacer une analyse juridique du projet.
Séparer connaissances de service et informations personnelles
Une base contenant les horaires d’un établissement n’a pas le même rôle qu’un historique individuel. Les premières informations servent à produire une réponse exacte pour tous ; les secondes peuvent adapter cette réponse à une personne. Les regrouper sans distinction complique l’actualisation, les permissions et la compréhension des erreurs.
Le créateur devrait pouvoir répondre à trois questions : quelle information l’agent utilise, quelle version fait référence et qui peut la corriger ? Pour une procédure métier, la réponse dépend souvent du propriétaire du document. Pour une préférence personnelle, elle devrait inclure la possibilité pour l’utilisateur de la modifier ou de la retirer dans les conditions prévues par le service.
Cette distinction aide également à diagnostiquer les erreurs. Si l’agent donne un horaire incorrect, il faut examiner la source de connaissance et son actualisation. Si l’agent parle trop vite malgré une préférence enregistrée, il faut examiner la récupération de cette préférence et sa prise en compte. Appeler l’ensemble « personnalisation » masque deux problèmes différents.
Mesurer l’utilité de chaque donnée
Nous proposons un test simple : comparer le même parcours avec et sans l’élément de personnalisation étudié. L’objectif peut être une meilleure compréhension, moins de répétitions ou une tâche terminée avec moins d’effort. Le critère doit être défini avant le test. La comparaison doit rester suffisamment proche pour que les différences ne s’expliquent pas par un autre changement du scénario.
Un indicateur possible est le taux de personnalisation utile : interactions où l’information retenue a contribué à un résultat vérifié, rapportées aux interactions où elle a été utilisée. Ce ratio exige une méthode d’observation ; il ne peut pas être calculé honnêtement à partir de la seule présence d’une donnée dans un contexte envoyé au modèle.
Il faut suivre en parallèle la personnalisation incorrecte : préférence obsolète, confusion entre utilisateurs, déduction non demandée ou information mentionnée dans un contexte inapproprié. Une amélioration moyenne peut être insuffisante si elle s’accompagne d’erreurs de ce type. La valeur dépend aussi de la possibilité de comprendre et de corriger le fonctionnement.
Éviter les déductions personnelles faciles
Une phrase dite à un agent peut contenir une émotion temporaire, une plaisanterie ou un récit sur quelqu’un d’autre. La transformer automatiquement en caractéristique permanente de l’utilisateur crée un risque de mauvais profil. Une mémoire utile doit distinguer un fait explicitement confirmé d’une interprétation du système.
Nous proposons de limiter les mémorisations aux informations dont l’usage est clair et de soumettre les résumés personnels à une validation lorsque le contexte le justifie. L’utilisateur devrait comprendre ce qui est retenu et pouvoir signaler une erreur. Ce choix de conception n’est pas une preuve de conformité universelle ; il constitue une manière de réduire les malentendus à examiner avec les responsables du projet.
Dans les contextes du bien-être ou de l’accompagnement, il faut être particulièrement attentif à ce glissement. Un agent peut aider à structurer une routine sans prétendre connaître l’état psychologique d’une personne. Le créateur doit décrire la frontière entre une préférence pratique et une interprétation intime.
TEMPORA
Un compagnon à votre image
Choisissez sa voix, son ton et ses repères. Votre proche l’appelle quand il en a envie.
Tester l’effacement comme une fonction de service
L’effacement est parfois décrit dans la documentation mais peu testé dans les parcours réels. Un projet devrait vérifier ce qui se passe lorsqu’une personne retire une préférence, demande de repartir de zéro ou quitte le service. Le test doit porter sur les endroits pertinents : mémoire utilisée par l’agent, journaux applicatifs, exports et autres copies identifiées par l’organisation.
La procédure doit être compréhensible pour les équipes qui reçoivent les demandes. Il ne suffit pas de disposer d’une option technique si personne ne sait quel système contient les données ou quelles limites s’appliquent. Les dépendances fournisseurs doivent également être documentées afin de ne pas promettre un effacement plus large que celui réellement assuré.
Un indicateur opérationnel possible est le délai de traitement des demandes de correction ou d’effacement, accompagné du taux de demandes correctement exécutées selon la procédure. Ces mesures n’épuisent pas les obligations applicables ; elles permettent de vérifier que les décisions annoncées ont une traduction concrète dans le service.
La fiabilité exige aussi une mémoire de provenance
Personnaliser ne dispense pas de savoir d’où provient une réponse. Dans un parcours professionnel, l’agent peut combiner une préférence utilisateur avec une procédure de l’organisation. L’évaluation devrait vérifier que la préférence ne modifie pas une information factuelle de référence. Un ton plus concis ne doit pas faire disparaître une condition importante.
Le profil du NIST sur les risques de l’IA générative propose un cadre transversal pour organiser l’identification et la gestion de ces risques. Notre recommandation de conserver la provenance des connaissances et des versions de scénario est une pratique de pilotage : elle permet d’expliquer quel changement a précédé un incident, sans présenter le document comme une approbation d’un produit.
Une organisation devrait pouvoir retrouver la configuration en vigueur au moment d’une interaction importante, dans les limites de conservation définies. Cette traçabilité facilite les corrections et les comparaisons. Elle évite de débattre d’une erreur sur un agent dont le contexte a déjà été modifié.
Un modèle économique qui tient compte de la complexité
Davantage de personnalisation peut ajouter du travail de conception, de support et de contrôle. Le calcul de valeur doit intégrer ces coûts. Une donnée qui améliore légèrement l’expérience mais nécessite un processus difficile à maintenir n’est pas automatiquement une bonne décision. Il faut comparer la simplicité du service, l’effort demandé à l’utilisateur et le bénéfice réellement observé.
Nous proposons un déploiement par couches : connaissances de service fiables, préférences simples, puis usages plus élaborés uniquement lorsque leur valeur est démontrée et leur gouvernance prête. Chaque couche doit pouvoir être expliquée et désactivée si elle ne produit pas l’effet attendu. Une plateforme de création d’agents gagne ainsi à rendre les choix explicites plutôt qu’à encourager une collecte sans objectif.
Pour Tempora, l’enjeu éditorial est de montrer comment construire un agent pertinent pour son contexte. La personnalisation devient défendable lorsqu’une équipe peut nommer la donnée utile, démontrer son effet et décrire son contrôle. La meilleure mémoire est celle qui sert une tâche et reste maîtrisable.
