withHuman : validation humaine des agents IA

withHuman, exploité par Metoro Inc, organise la validation humaine des actions proposées par des agents IA. La plateforme reçoit un appel d’outil, applique les règles de l’équipe et renvoie une décision à l’agent connecté.

À quoi sert ce site, concrètement ?

Prenons un agent qui souhaite rembourser un client. withHuman peut retenir l’appel avant son exécution, vérifier une règle puis demander à une personne d’examiner les paramètres. Le responsable autorise ou refuse l’action.

Ce fonctionnement convient aux équipes qui confient déjà à des agents des messages, des modifications de données, des paiements ou des déploiements. La validation constitue une permission ; le résultat de l’agent indique ensuite si l’opération a réellement réussi.

Définir ce que l’agent peut faire seul

Les Approval pipelines parcourent des blocs dans l’ordre. Le premier qui prend une décision termine l’évaluation. Les conditions portent notamment sur l’agent, l’outil, ses arguments et le contexte. Une autorisation générale placée trop tôt peut donc court-circuiter une vérification ultérieure.

Dans l’édition hébergée, AI Judge confronte la demande à une politique écrite et fournit verdict, confiance et justification. Les cas incertains peuvent être orientés vers une personne ; un échec ou un délai dépassé déclenche également une revue humaine. La confiance annoncée ne remplace pas les pièces justificatives.

Les circuits d’escalade désignent les personnes ou équipes responsables. Les règles de notification choisissent quand les contacter, par courriel, messagerie ou application mobile selon la configuration. Le journal d’audit hébergé permet de retrouver demandes et décisions.

Comprendre les données transmises

La politique de confidentialité précise que les arguments, le raisonnement et le contexte peuvent contenir des données clients. Demandes, décisions et traces d’audit sont conservées pendant la vie de l’organisation. Le fournisseur indique ne pas les utiliser pour entraîner des modèles.

Le service hébergé fonctionne sur Azure en Irlande. Les modèles AI Judge sont déployés en Suède, avec un traitement possible dans une autre région Azure. Le site et l’application hébergée utilisent aussi des outils d’analyse et d’enregistrement des sessions, désactivables dans le navigateur. Il faut donc examiner les champs envoyés et les contraintes de localisation.

Réaliser une première validation de bout en bout

Le guide de démarrage demande d’exécuter la commande personnelle fournie par l’assistant sur la machine de l’agent. Sélectionnez ensuite les agents détectés, connectez et vérifiez vos canaux de notification, puis définissez les appels soumis à validation.

Lancez la commande de test affichée dans un nouveau terminal. Vérifiez la réception de la notification, examinez l’outil et ses paramètres, puis approuvez ou refusez. Contrôlez enfin la fermeture du circuit et la sortie de l’agent.

Pour modifier une pipeline, testez les demandes représentatives, créez une révision puis rendez-la active. Un brouillon enregistré ne devient pas automatiquement la politique appliquée.

Raccorder outils de développement et serveurs MCP

Le site cite Claude Code, Codex, OpenClaw, Pi, Hermes et DeepSeek parmi les agents compatibles avec les hooks CLI. Les agents développés sur mesure peuvent utiliser AAP et des SDK pour LangGraph, Pydantic AI, OpenAI Agents, CrewAI, Mastra ou AI SDK.

Le MCP Gateway conserve les identifiants des services et expose les outils choisis. Un serveur distant doit prendre en charge Streamable HTTP. Les anciennes connexions directes doivent être désactivées pour éviter le contournement. Le nom readonly ne suffit pas : les droits accordés par le service doivent réellement être limités à la lecture.

Offre gratuite, abonnement et déploiement autonome

Au 18 octobre 2026, la tarification officielle propose Free à 0 USD, jusqu’à cinq membres, avec agents et demandes illimités. AI Judge est limité, sans quota chiffré public.

Scale est affiché à 20 USD par utilisateur et par mois, hors taxes, avec notamment clés d’organisation, SSO et SCIM. Enterprise repose sur un contrat annuel personnalisé et propose cloud, installation sur site ou BYOC.

Le dépôt fournit un déploiement Docker du noyau. La grille exclut cependant MCP Gateway, AI Judge, journal d’audit et applications mobiles de cette édition. La licence Elastic 2.0 comporte en outre des restrictions sur la fourniture à des tiers d’un service hébergé reprenant des fonctionnalités substantielles.

Questions fréquentes

Faut-il tout approuver manuellement ?

Non. Les règles peuvent autoriser ou refuser automatiquement, puis transmettre seulement certains cas à un responsable.

Combien de demandes comprend l’offre gratuite ?

La grille actuelle les indique comme illimitées. Le plafond de cinq membres et les limites propres à AI Judge restent applicables.

Les demandes servent-elles à entraîner des modèles ?

Le fournisseur affirme que non pour les demandes, décisions et notes. Cela ne signifie pas qu’elles ne sont pas conservées.

Que se passe-t-il après un refus ou une expiration ?

L’agent ne doit pas exécuter l’action refusée, annulée ou expirée. Une autorisation ne garantit pas son succès.

Ressources officielles

• Configuration des pipelines : ordre, tests et activation.
• Dépôt GitHub : déploiement et exemples.
• Assistance : aide pour une configuration ou un identifiant de demande.