Human in the loop : où placer la validation humaine dans un workflow IA

Trois positions, trois niveaux de risque

L'expression « human in the loop » recouvre trois situations distinctes qu'il vaut mieux nommer séparément, parce qu'elles n'offrent pas la même protection.

• Human in the loop : une personne valide chaque action avant son exécution. Contrôle maximal, gain de temps limité.
• Human on the loop : le système agit seul mais une personne supervise, peut intervenir et reçoit les exceptions. C'est le régime le plus courant en production.
• Human out of the loop : le système agit seul, le contrôle est postérieur et statistique. Acceptable uniquement lorsque l'erreur est peu coûteuse et facilement réversible.

Choisir le niveau par action, pas par projet

L'erreur la plus fréquente consiste à choisir un niveau pour tout le système. En pratique, un même workflow mélange les trois : classer un e-mail peut se faire sans supervision, envoyer une réponse au nom de l'entreprise non.

La règle que nous appliquons tient en trois catégories. Sont validées systématiquement les actions qui engagent l'entreprise vis-à-vis d'un tiers, celles qui déclenchent une dépense ou un accès, et celles qui portent sur des données personnelles sensibles.

Le reste s'exécute sous supervision, avec les exceptions remontées. Ce découpage se décide lors de la conception, avec les personnes qui font le travail aujourd'hui, parce que ce sont elles qui savent où les erreurs coûtent cher.

Seuils de confiance et règles bloquantes

Un système bien construit ne produit pas seulement un résultat, il produit un degré de confiance. Le seuil détermine ce qui passe et ce qui part en revue, et il se règle par type de cas plutôt que globalement.

À côté des seuils, certaines règles doivent bloquer indépendamment de toute confiance : une opposition au démarchage, un contact signalé comme restreint, un dossier suivi par une personne nommée. Ce sont des arrêts durs, évalués avant tout calcul.

Le troisième mécanisme est l'arrêt contrôlé. Lorsque le système ne peut pas décider, il doit s'interrompre proprement, laisser une trace et prévenir, plutôt que de choisir l'option la plus probable.

Le coût du contrôle, qu'il faut chiffrer

La validation humaine a un prix, et le taire fausse toute estimation. Un système qui traite automatiquement quatre cas sur cinq laisse le cinquième à une personne, et ce cinquième est le plus difficile.

Ce taux d'exception se mesure pendant la phase de cadrage, sur vos données réelles. Il détermine le temps humain résiduel, donc le gain net. Un fournisseur qui annonce une économie sans mentionner ce taux n'a pas fait le calcul.

Ce taux baisse avec le temps, à condition que les corrections humaines soient collectées et exploitées. C'est une raison de plus pour que la revue soit un point du workflow et non un contournement improvisé.

Journal d'audit et réversibilité

Deux propriétés rendent un système défendable. Le journal permet de reconstituer ce qui a été décidé, sur quelle base et par qui, longtemps après. La réversibilité permet de défaire une action erronée sans reconstruire l'état à la main.

Ces propriétés servent d'abord en cas de litige ou de contrôle, mais elles servent aussi tous les jours : sans journal, il est impossible de savoir si le système s'améliore ou se dégrade.

Elles supposent d'être prévues dès la conception. Les ajouter après coup coûte plus cher que de les inclure, et le résultat est moins fiable.

Ce que le cadre réglementaire exige

Le règlement général sur la protection des données encadre, à son article 22, les décisions produisant des effets juridiques ou affectant significativement une personne lorsqu'elles reposent exclusivement sur un traitement automatisé. L'intervention humaine doit alors être effective : la personne doit disposer de l'information et du pouvoir de modifier le résultat.

Le règlement européen sur l'intelligence artificielle prévoit par ailleurs, pour les systèmes qu'il classe à haut risque, une obligation de contrôle humain permettant de superviser le fonctionnement et d'interrompre le système. L'application de ces obligations aux systèmes de l'annexe III a été reportée au 2 décembre 2027 selon le calendrier révisé en 2026.

Une automatisation documentaire ou commerciale ordinaire ne relève pas de la catégorie à haut risque. Un outil de tri de candidatures, en revanche, peut y tomber. Le détail figure dans notre guide sur l'IA, le RGPD et l'AI Act.

Où se place la validation, solution par solution

Sur les e-mails et documents : la classification et l'extraction s'exécutent sous supervision, la revue humaine traite les cas sous le seuil, et toute réponse engageante est validée. Voir Document & Inbox AI.

Sur les leads : l'enregistrement, l'enrichissement et la notation s'exécutent seuls, les messages sortants sont validés par le commercial, et les oppositions bloquent indépendamment du score. Voir Sales & Lead AI.

Sur les factures : l'extraction et le rapprochement s'exécutent, les écarts au-delà du seuil partent en revue, et aucune écriture ni aucun paiement n'est exécuté sans validation. Voir Finance & Admin AI.

Sur les appels et les demandes clients : l'agent traite un périmètre défini, annonce qu'il est une intelligence artificielle, et transfère avec tout le contexte dès qu'il en sort. Voir Customer & Voice AI.