Companiile limitează agenții AI pentru a echilibra riscul și recompensa

NEW YORK — Pe măsură ce companiile accelerează adoptarea agenților AI, multe descoperă că viteza trebuie echilibrată cu controlul. Experimentarea timpurie a arătat atât promisiunea AI-ului agentic, cât și riscurile operaționale și de guvernanță care îl însoțesc.

Kevin Hearn, vicepreședinte senior și responsabil de dezvoltarea diviziei de retail banking la Axos Bank, a învățat acest lucru pe propria piele. Ca adoptator timpuriu al AI, el a oferit inițial acces la un agent AI unui număr de 300 de angajați, fără un obiectiv specific. Rezultatul a fost 300 de rezultate diferite.

Unii angajați au folosit agentul pentru a scrie cod, alții pentru a corecta codul, iar unii s-au confruntat cu dificultăți în formularea prompturilor, ceea ce a dus la o calitate inconsistentă a codului. În cele din urmă, Hearn a redus grupul de testeri AI de la 300 la aproximativ cinci până la șapte persoane dedicate experimentării, testării și perfecționării agentului.

„Pe măsură ce oamenii vin la mine cu idei, le pot oferi autonomia de a le urmări sau pot pune acea echipă să se concentreze în mod specific asupra lor”, a spus Hearn. „Puterea acelei echipe constă în faptul că, odată ce au consolidat un agent într-un anumit domeniu, adică au lucrat cu toți utilizatorii acelui agent pentru a-i aplica un cadru corporativ, suntem acum capabili să perpetuăm acest lucru în mod consecvent.”

Această abordare mai centralizată reflectă modul în care companiile încearcă să valorifice puterea agenților AI, limitând în același timp riscurile. Liderii se confruntă cu presiunea de a inova rapid, dar sunt și precauți față de consecințele neintenționate.

„Agenții nu sunt software tradițional”, a spus Matt DeBergalis, CEO și cofondator al Apollo GraphQL. „Pe de o parte, toată lumea bate cu pumnul în masă spunând: «Mergeți repede, mergeți departe, acționați ca un startup». Dar, pe de altă parte, aceasta este cea mai mare amenințare de exfiltrare a datelor pentru orice companie.”

Potrivit lui DeBergalis, companiile au nevoie de baze solide care să le permită să experimenteze într-un mod controlat, în loc să implementeze agenți la scară largă fără măsuri de protecție.

Mai întâi cazurile de utilizare internă

Pentru Axos, oportunitatea oferită de AI era prea semnificativă pentru a fi ignorată. Banca a ales să reducă riscurile concentrându-se mai întâi pe cazuri de utilizare internă. Utilizează OutSystems Agent Workbench pentru a crea, implementa și gestiona agenți AI, inclusiv agenți interni pentru analiști de business, agenți Scrum Master și agenți pentru inginerie.

Hearn a subliniat că o echipă mică și centralizată ajută la asigurarea guvernanței și a supravegherii adecvate.

„Totul trece prin acel tip de echipă centralizată care se asigură că există guvernanță”, a spus el. „Guvernanță în sensul că o folosim în mod corespunzător. Nu introducem informații pe care nu ar trebui. Nu are acces la lumea exterioară.”

Compania fintech Netevia a adoptat o abordare similară. Utilizează AI, inclusiv AI agentic, pentru procese interne precum serviciul pentru clienți, dar evită integrarea sa în aplicații orientate direct către clienți.

„O parte a călătoriei este să înțelegi cum să avansezi încet”, a spus Vlad Sadovskiy, CEO al Netevia. „Nu poți interveni asupra banilor oamenilor, chiar dacă tehnologia este deja disponibilă pentru alții care fac plăți agentice, plăți AI-la-AI. Suntem încă la aproximativ un an distanță de momentul în care oamenii vor lua în considerare efectiv adoptarea.”

Echilibrarea inovației externe cu mecanisme de control

Alte companii implementează agenți AI în aplicații orientate către clienți, menținând în același timp o supraveghere strictă.

La T-Mobile, AI sprijină serviciul pentru clienți prin aplicația sa alimentată de AI, T-Life. Julianne Roberson, director de inginerie AI la T-Mobile, a declarat că gestionarea riscurilor este esențială pentru strategia companiei.

„Avem observabilitate asupra a tot, astfel încât, dacă ceva nu merge bine, vedem acest lucru”, a spus Roberson. „Încercăm să nu lansăm lucruri dacă nu știm dacă vor funcționa.”

Upwork a investit, de asemenea, masiv în mecanisme de control. Compania rulează intern modele lingvistice construite personalizat și le trece printr-un sistem de încredere conceput pentru a preveni halucinațiile și pentru a menține rezultatele pe direcția corectă.

„Am construit multă tehnologie internă care oferă un cadru de siguranță pentru toate acestea”, a spus Andrew Rabinovich, CTO și șef al departamentului AI la Upwork. „Fiecare model lingvistic rulat intern — și toate sunt construite personalizat — este trecut prin acest sistem de încredere pentru a evita halucinațiile și a preveni derapajele.”

Upwork s-a concentrat, de asemenea, pe educarea angajaților cu privire la modul în care funcționează agenții AI, permițând echipelor să înțeleagă mai bine cazurile de utilizare adecvate și limitările.

Strategia mai amplă de control — asigurarea existenței cadrelor de guvernanță, a observabilității și a mecanismelor tehnice de protecție înainte de o implementare mai largă — devine o temă comună în rândul companiilor.

„Oamenii văd performanța, o confundă cu încrederea, apoi apare FOMO și totul devine un haos. De îndată ce intri în modul FOMO, este un mare haos”, a spus Robert Blumofe, vicepreședinte executiv și director tehnologic la Akamai. „Folosiți AI pentru ceea ce este extraordinar de bun și nu încercați să o forțați în orice.”

Pe măsură ce agenții AI continuă să se maturizeze, companiile învață că succesul depinde nu doar de adoptare, ci și de experimentare disciplinată, guvernanță și de cunoașterea domeniilor în care tehnologia oferă cea mai mare valoare.