L’era dels agents d’IA: com afecta la ciberseguretat

El 2026 crec que serà clau en l’evolució de la intel·ligència artificial: hem passat de models que només “parlen” a agents que “actuen”. A diferència dels xatbots tradicionals, els agents d’IA i els navegadors agèntics (com Claude Cowork, ChatGPT Atlas o Perplexity Comet) tenen la capacitat d’executar tasques de manera autònoma, interactuar amb fitxers locals i navegar per la xarxa sense intervenció humana directa.

Comencem per el principi, què és un Agent d’IA: és un sistema informàtic capaç d’actuar de forma autònoma per assolir un objectiu específic. A diferència d’una IA convencional que només respon preguntes, l’agent pot prendre decisions, utilitzar eines i interactuar amb el seu entorn per completar una tasca sense supervisió constant. [Definició Gemini]

Què són exactament aquestes eines?

–Agents de propòsit general (ex. Claude Cowork o Grog)

Són eines dissenyades per actuar com un “company de feina digital”. Claude Cowork pot gestionar fitxers, organitzar correus electrònics i executar codi en un entorn local. La seva potència rau en la integració directa amb el sistema de fitxers de l’usuari, tot i que opera dins d’una màquina virtual aïllada per motius de seguretat.

–Navegadors agèntics (Agentic Browsers)

Navegadors com ChatGPT Atlas, Perplexity Comet, Dia o Genspark redefineixen la navegació web. En lloc de fer clic nosaltres mateixos, deleguem missions com “planifica un viatge” o “analitza aquests preus”. El navegador obre pestanyes, omple formularis i extreu dades de manera autònoma. Sóc de l’opinió que els navegadors guanyaran encara més importància: amb la IA, a la pràctica, es convertiran en sistemes operatius.

–Sistemes operatius agèntic  (AI-Native OS)

Soc de l’opinió que els sistemes operatius, tant de dispositius mòbils (de tot tipus: ulleres, telèfons, anells, etc.) com d’ordinadors, estaran integrats per agents d’IA o, com crec que pot arribar a passar, el propi sistema operatiu serà una IA, que estarà estretament relacionada amb els navegadors. Aquests sistemes operatius es convertiran en el centre operatiu d’automatitzacions, accions remotes i altres funcions, gestionant a la pràctica tots els nostres continguts i comptes. Això també es pot fer extensiu als servidors locals. Segurament caldrà una certa potència dels equips; tanmateix, penso que seran sistemes operatius híbrids (entre local i en línia) per aprofitar al màxim el potencial de la IA, tot i que per seguretat o per potència de la màquina, també podran ser 100% locals.

Ciberseguretat en els agents d’IA

Això canvia de dalt a baix la ciberseguretat a nivell professional. Ara, hackejant els agents, no només tindran accés a tota la nostra informació o a la gestió dels nostres dispositius, sinó que també podran executar tasques i gestions en el nostre nom.

Bàsicament crec que hi ha dues vies principals de risc:
– que s’infiltri als nostres equips un agent malware que executi ordres de tercers;
– o que algun malware modifiqui o segrest (hackegfi)i les ordres que reben els agents legítims.

Els riscos del hackeig dels agents d’IA:

Aquesta capacitat d’acció introdueix vulnerabilitats crítiques que la ciberseguretat tradicional no havia previst fins ara.

-Injecció de prompts indirecta

Un atacant pot amagar instruccions malicioses en una web. Quan l’agent llegeix aquesta pàgina, pot ser “segrestat” per executar ordres ocultes, com exfiltrar dades personals cap a servidors externs.

-Vulnerabilitats en les APIs (el cas MCP)

S’ha detectat que el protocol MCP (Model Context Protocol), utilitzat per eines com Perplexity Comet, presentava fallades que permetien a extensions ocultes executar comandaments locals al dispositiu de l’usuari sense permís.

-Privadesa i phishing

Navegadors com ChatGPT Atlas s’han mostrat fins a un 90 % més vulnerables a atacs de phishing que els navegadors convencionals, ja que la IA sovint ignora senyals d’alerta visuals que un filtre tradicional detectaria.

Tot això pot derivar en un hackeig mitjançant un agent que controli els nostres equips, informació, comunicacions i fins i tot la gestió bancària, amb la pèrdua total de control. Podríem parlar, sense exagerar gaire, d’un Agent Terminator.

Com protegir-nos: estratègies clau

El factor més important en la ciberseguretat és el sentit comú; tanmateix, aquest no és suficient i cal adoptar mesures tecnològiques que no comprometin la nostra seguretat. Per fer-ho, cal seguir alguns principis bàsics:

–Human-in-the-loop (HITL)

Mai permetis que un agent executi accions irreversibles (pagaments, esborrat de dades, enviament de correus crítics) sense una confirmació humana explícita.

Mai s’han d’automatitzar els processos de signatura electrònica en documents sensibles i d’alt valor jurídic, ja sigui la signatura verificada o l’avançada, pel contingut legal que comporta i per la responsabilitat associada a una persona, la qual és irreversible.

–Aïllament dels agents

Cal utilitzar sempre agents que operin en entorns virtualitzats, cosa que limita el radi d’explosió en cas que l’agent sigui compromès. Soc conscient que molts agents han de cooperar amb d’altres perquè el seu propòsit funcioni, però s’ha d’evitar tant com sigui possible i cal aïllar-los entre si per no perdre el control de tot el sistema.

–Principi de mínim privilegi

No atorguis accés a tot el disc dur. Defineix carpetes específiques i limitades per a cada tasca de l’agent.

–Identitat lligada al maquinari

Cal utilitzar solucions que vinculin les claus criptogràfiques, la biometria, contrasenyes o dobles factors d’autenticació, aïllant-les del processador principal per evitar que les credencials puguin ser robades mitjançant injeccions de prompts.

-Sistemes de defensa activa: Anti-Agent Hacking

Considero que la indústria de la ciberseguretat ha de pivotar cap a un model de defensa activa. Ja no n’hi haurà prou amb l’anàlisi de signatures de malware; les solucions antivirus i els desenvolupadors de sistemes operatius i navegadors hauran de col·laborar en la creació de firewalls de comportament. L’objectiu serà identificar, neutralitzar i bloquejar agents d’IA hostils capaços d’infiltrar-se en els nostres dispositius per executar accions no autoritzades o manipular la nostra identitat digital. 

En aquest aspecte, i tal com estan evolucionant els agents i la IA pel que fa a la programació, potser serà el propi usuari qui prepari i entreni aquesta defensa activa, o simplement qui programi el seu propi agent de ciberseguretat, o aquest estigui ja integrat en sistema operatiu o navegador. Podria ser la fi dels antivirus? com a mínim, tal com els coneixem?

Conclusió final i futur on els agents en portin cap al transhumanisme?

Els agents d’IA són una tecnologia molt nova i caldrà veure com evolucionen. D’entrada, em fan respecte. No només pel perill del hackeig de les automatitzacions o dels nostres dispositius, sinó perquè podem perdre el control de la nostra vida si abusem d’aquesta tecnologia.

Imaginem un funcionari que tramiti gestions administratives de forma autònoma: com podrà ajudar sense interpretar el context com ho fa un humà? Suposo que hi haurà aspectes on serà possible i d’altres on no. En tot cas, la IA ajudarà molt en les automatitzacions; estic segur que serà clau en molts tipus de feina, sobretot en les més repetitives.

Tanmateix, gestionar la seguretat de les dades serà cada cop més difícil. Les IA sabran tant de nosaltres que, si són hackejades, podran suplantar la nostra identitat mitjançant agents avançats i actuar autonomament com si fóssim nosaltres, sense que ni tan sols ho sapiguem.

Per últim, imagineu un agent personal gestionant temes familiars o personals: un agent dels pares interactuant amb el dels fills per revisar deures, preparar el menú o determinar quan poden jugar a videojocs o si poden sortir de festa segons uns paràmetres consensuats. No vull donar idees, qui estigui informat ja sap què vull dir, però aquest seria un pas més cap al transhumanisme?

Infografia: Agents IA i els ríscos en Ciberseguretat