Humain dans la boucle : pourquoi les meilleures mises en œuvre d'IA gardent des personnes dans le processus

Le fantasme de l'automatisation totale

Une grande partie du marketing de l'IA laisse entendre que le but est de supprimer entièrement les humains. En pratique, les mises en œuvre d'IA qui fonctionnent le mieux en contexte opérationnel font l'inverse. Elles gardent les humains dans la boucle par conception, en utilisant le modèle pour traiter la majorité routinière et en routant les cas ambigus, à fort enjeu ou à faible confiance vers une personne. Ce n'est pas un échec de l'automatisation complète. C'est ce à quoi ressemble une bonne automatisation.

Pourquoi les seuils de confiance l'emportent sur l'automatisation généralisée

Prenons le traitement intelligent de documents. Un modèle qui extrait des données de documents sera très confiant sur des entrées propres et gabaritées et beaucoup moins confiant sur des télécopies, des annotations manuscrites et des formats non standard. Tout automatiser revient à accepter les suppositions à faible confiance du modèle précisément sur les documents où les erreurs sont les plus probables et les plus coûteuses.

La meilleure conception ne traite automatiquement qu'au-dessus d'un seuil de confiance, fixé de façon prudente avec la direction des risques et assoupli à mesure que la précision mesurée le justifie. Tout ce qui se situe en dessous du seuil est routé vers un humain. Le résultat est un taux élevé de traitement direct sur les cas qui le méritent, un discernement humain sur les cas qui en ont besoin, et une posture de risque maîtrisée d'un bout à l'autre. Des taux de traitement direct de quatre-vingts pour cent et plus sont atteignables ainsi sans parier sur le modèle là où il est le plus faible.

La boucle vertueuse

La valeur plus profonde du maintien des humains dans la boucle est que leurs décisions deviennent des données d'entraînement. Chaque cas qu'une personne résout, avec son contexte et son raisonnement, alimente le réentraînement suivant du modèle. La file des exceptions n'est pas seulement un soulagement opérationnel. C'est un flux continu précisément des exemples que le modèle échoue actuellement à traiter, ce qui constitue les données d'entraînement les plus précieuses qui soient. Au fil des cycles de réentraînement, le modèle s'améliore précisément là où il était le plus faible, et la part humaine du travail diminue, sans jamais avoir parié sur le modèle au-delà de sa compétence.

La modération de contenu illustre clairement le schéma

La modération de contenu en est l'illustration la plus claire. Un classificateur pré-note et priorise le contenu, mais n'agit de façon autonome qu'à l'intérieur d'une étroite bande de haute confiance. Les modérateurs humains traitent le contenu ambigu, et leurs décisions, avec leur contexte régional et culturel, entraînent le classificateur suivant. La précision et le rappel grimpent au fil des cycles de réentraînement, les temps de réponse baissent car le volume routinier est absorbé par l'automatisation, et les jugements les plus difficiles restent entre les mains de personnes qui comprennent le contexte. C'est l'humain dans la boucle fonctionnant comme prévu.

Comment le structurer

Quand vous mettez en œuvre l'IA en contexte opérationnel, résistez au cadrage qui mesure le succès au nombre d'humains restants. Mesurez-le à la précision, au risque maîtrisé, et à la capacité du système à s'améliorer avec le temps. Fixez les seuils de confiance avec votre fonction risque. Routez les cas à faible confiance vers des personnes formées. Réinjectez leurs décisions dans le réentraînement. Les meilleures mises en œuvre d'IA ne sont pas exemptes d'humains. Elles gardent l'humain dans la boucle, et elles en sont meilleures.