Les entreprises encadrent les agents IA pour équilibrer risques et bénéfices

NEW YORK — Alors que les entreprises accélèrent l’adoption des agents d’IA, beaucoup découvrent que la rapidité doit être équilibrée par le contrôle. Les premières expérimentations ont montré à la fois la promesse de l’IA agentique et les risques opérationnels et de gouvernance qui l’accompagnent.

Kevin Hearn, vice-président senior et responsable du développement de la banque de détail chez Axos Bank, l’a appris de première main. En tant qu’adoptant précoce de l’IA, il a initialement donné à 300 employés l’accès à un agent d’IA sans objectif précis. Le résultat a été 300 résultats différents.

Certains employés ont utilisé l’agent pour écrire du code, d’autres pour corriger du code, et certains ont eu des difficultés à le solliciter efficacement, ce qui a conduit à une qualité de code inégale. Hearn a finalement réduit le groupe de testeurs d’IA de 300 à environ cinq à sept personnes dédiées à l’expérimentation, aux tests et à l’amélioration de l’agent.

« Lorsque des personnes viennent me voir avec des idées, je peux leur donner l’autonomie d’aller les poursuivre, ou bien demander à cette équipe de s’y concentrer spécifiquement », a déclaré Hearn. « La force de cette équipe, c’est qu’une fois qu’elle a consolidé un agent dans un domaine particulier, c’est-à-dire qu’elle a travaillé avec tous les utilisateurs de cet agent pour lui donner un cadre d’entreprise, nous sommes désormais capables de le déployer de manière cohérente. »

Cette approche plus centralisée reflète la manière dont les entreprises cherchent à exploiter la puissance des agents d’IA tout en maîtrisant leurs risques. Les dirigeants subissent une pression pour innover rapidement, mais ils se méfient également des conséquences imprévues.

« Les agents ne sont pas des logiciels traditionnels », a déclaré Matt DeBergalis, PDG et cofondateur d’Apollo GraphQL. « D’un côté, tout le monde tape du poing sur la table en disant : “Allez vite, voyez grand, agissez comme une startup.” Mais de l’autre, c’est la plus grande menace d’exfiltration de données pour chaque entreprise. »

Selon DeBergalis, les entreprises ont besoin de bases solides leur permettant d’expérimenter de manière mesurée plutôt que de déployer largement des agents sans garde-fous.

Des cas d’usage internes d’abord

Pour Axos, l’opportunité que représentait l’IA était trop importante pour être ignorée. La banque a choisi d’atténuer les risques en se concentrant d’abord sur des cas d’usage internes. Elle utilise OutSystems Agent Workbench pour créer, déployer et gérer des agents d’IA, notamment des agents internes d’analyste métier, des agents Scrum Master et des agents d’ingénierie.

Hearn a souligné qu’une petite équipe centralisée contribue à garantir la gouvernance et une supervision adéquate.

« Tout passe par cette équipe centralisée qui veille à ce que la gouvernance soit assurée », a-t-il déclaré. « Par gouvernance, j’entends que nous l’utilisons de manière appropriée. Nous ne lui fournissons pas d’informations que nous ne devrions pas. Il n’a pas accès au monde extérieur. »

La fintech Netevia a adopté une approche similaire. Elle utilise l’IA, y compris l’IA agentique, pour des processus internes tels que le service client, mais évite de l’intégrer dans des applications orientées vers les clients.

« Une partie du parcours consiste à comprendre comment avancer progressivement », a déclaré Vlad Sadovskiy, PDG de Netevia. « On ne peut pas jouer avec l’argent des gens, même si la technologie est déjà disponible pour d’autres qui effectuent des paiements agentiques, des paiements IA-à-IA. Nous sommes encore à environ un an du moment où les utilisateurs envisageront réellement l’adoption. »

Équilibrer l’innovation externe avec des contrôles

D’autres entreprises déploient des agents d’IA dans des applications destinées aux clients, tout en maintenant une supervision stricte.

Chez T-Mobile, l’IA soutient le service client via son application alimentée par l’IA, T-Life. Julianne Roberson, directrice de l’ingénierie IA chez T-Mobile, a indiqué que la gestion des risques est au cœur de leur stratégie.

« Nous avons une observabilité sur tout, donc si quelque chose ne va pas, nous le voyons », a déclaré Roberson. « Nous essayons de ne rien mettre en production si nous ne savons pas si cela va fonctionner. »

Upwork a également investi massivement dans le confinement des risques. L’entreprise exécute en interne des modèles linguistiques conçus sur mesure et les fait passer par un système de confiance destiné à prévenir les hallucinations et à maintenir les résultats sur la bonne voie.

« Nous avons développé beaucoup de technologies internes qui fournissent le harnais de sécurité pour tout cela », a déclaré Andrew Rabinovich, directeur technique et responsable de l’IA chez Upwork. « Chaque modèle linguistique exécuté en interne — et ils sont tous conçus sur mesure — passe par ce système de confiance pour éviter les hallucinations et prévenir tout dérapage. »

Upwork a également mis l’accent sur la formation des employés concernant le fonctionnement des agents d’IA, permettant aux équipes de mieux comprendre les cas d’usage appropriés et les limites.

La stratégie plus large de confinement — s’assurer que des cadres de gouvernance, une observabilité et des garde-fous techniques sont en place avant un déploiement plus large — apparaît comme un thème commun parmi les entreprises.

« Les gens voient la performance, la confondent avec la confiance, puis ils sont pris de FOMO et c’est le chaos. Dès que vous entrez en mode FOMO, c’est un véritable désordre », a déclaré Robert Blumofe, vice-président exécutif et directeur technique chez Akamai. « Utilisez l’IA pour ce dans quoi elle excelle, et n’essayez pas de la forcer à s’appliquer à tout. »

À mesure que les agents d’IA continuent de mûrir, les entreprises apprennent que le succès dépend non seulement de l’adoption, mais aussi d’une expérimentation disciplinée, d’une gouvernance rigoureuse et de la capacité à identifier où la technologie apporte le plus de valeur.