De la primele pagini statice încărcate în browsere până la asistenți capabili să navigheze autonom pe web, tehnologia a evoluat astfel încât tot mai multe sarcini sunt delegabile algoritmilor. Acum Google introduce în Chrome o nouă barieră pentru funcțiile de navigare agentică bazate pe Gemini: un model denumit User Alignment Critic, conceput să prevină abuzurile și scurgerile de informații când un agent AI execută operațiuni complexe online.
Agentic browsing presupune ca un agent AI să efectueze pentru utilizator o serie de pași pe internet: deschide site-uri, parcurge conținut, apasă butoane, completează formulare și finalizează succesiuni de acțiuni fără intervenție umană la fiecare etapă. Gemini, asistentul AI de la Google care generează text, imagini și cod, este integrat în Chrome din septembrie și în alte servicii Google și este motorul care va susține aceste capacități. Pentru diminuarea riscurilor, Google a implementat o arhitectură de securitate în straturi, explicată de inginerul Nathan Parker, care combină reguli deterministe, protecții la nivel de model, limite de izolare și implicarea utilizatorului.
Nucleul soluției este User Alignment Critic, un model Gemini separat și izolat față de conținutul neîncredere, care evaluează fiecare acțiune propusă de agentul principal. Acest model nu poate fi compromis de mesaje malițioase de pe pagini și analizează metadatele acțiunilor pentru a decide dacă o operațiune este sigură și relevantă pentru obiectivul utilizatorului; dacă depistează risc sau irelevanță, solicită reîncercarea sau predă controlul înapoi utilizatorului. Un alt mecanism este Origin Sets, care restricționează accesul agentului la anumiți furnizori web și elemente specifice ale paginii; origini neafiliate, inclusiv iframe-uri, rămân blocate până când o funcție de aprobare considerată de încredere permite accesul. Această separare scade probabilitatea scurgerilor de date între site-uri și micșorează impactul unui eventual compromis.
Chrome introduce și o pauză automată când agentul ajunge pe site-uri sensibile, precum portalele bancare, sau când este necesară autentificarea prin managerul de parole; în aceste cazuri, browserul solicită confirmare manuală pentru a continua. În paralel, există un clasificator dedicat detectării injecțiilor indirecte de prompturi, care scanează paginile în căutare de tentative de manipulare a agentului. Acest sistem funcționează împreună cu Safe Browsing și cu detectarea locală a escrocheriilor, blocând acțiunile suspecte sau conținutul potențial fraudulos.
Google afirmă că testează continuu aceste protecții folosind sisteme automate de red-teaming care generează site-uri de probă și atacuri orchestrate de alte modele, pentru a identifica vulnerabilități și a livra rapid corecții utilizatorilor prin actualizări automate ale Chrome. În testare, prioritate au atacurile care pot produce pagube pe termen lung, precum tranzacțiile financiare neautorizate sau divulgarea de acreditări sensibile; astfel, inginerii primesc feedback imediat despre rata de succes a atacurilor și pot aplica remedieri rapide. Pentru a stimula cercetarea independentă, Google a anunțat recompense de până la 20.000 de dolari pentru cei care reușesc să compromită noul sistem, invitând comunitatea de securitate să contribuie la consolidarea acestei arhitecturi agentice.
Prin urmare, abordarea Google urmărește să îmbine controlul automat cu supravegherea umană și limite clare de acces, în timp ce continuă testarea agresivă a potențialelor vectori de atac; aceasta vine după situații în care produse similare s-au dovedit vulnerabile la phishing, injecții de prompturi sau cumpărături pe site-uri false. Pe scurt, planul este să permită agenților AI să întreprindă mai multe acțiuni în browser, dar numai după ce linii de apărare separate verifică fiecare pas.
User Alignment Critic este componenta care intermediază acțiunile agentului și decide dacă sunt sigure. Mecanismele de izolare, detectarea injecțiilor de prompturi, pașii de confirmare pentru site-urile sensibile, testele automate de tip red-teaming și recompensa de 20.000 de dolari reflectă o abordare pragmatică pentru limitarea riscurilor asociate navigării agentice. Credeți că măsurile propuse de Google vor fi suficient de riguroase pentru a proteja datele și tranzacțiile utilizatorilor?
Fii primul care comentează