Guia crítica per a l'Ús Professional de la IA: Límits, Riscos i Bones Pràctiques
La IA funciona millor com més professionals som: ens potencia i amplia les nostres capacitats. Els seus resultats poden enlluernar-nos, especialment quan consultem matèries que no dominen, cal vetllar perquè siguin adequats. Això implica aplicar tècnics específiques pe treure el màxim rendiment a la IA, revisar els resultats i conèixer les possibles limitacions pròpies de la IA.
Aquesta guia pretén ajudar a comprendre i millorar els resultats que obtenim de la IA a partir d’un ús professional, crític i conscient.
1. Supervisió i Criteri: La IA com a copilot, mai com a pilot principal
–Anàlisi: de moment, la IA no raona, prediu quina paraula té més sentit que vagi a continuació. Això provoca al·lucinacions (invencions plausibles però falses). Sobretot quan l’utilitzem per ús professional, responsabilitat civil, penal i deontològica recau exclusivament en el professional humà que l’utilitza.
Un altre risc és que les IA estan dissenyades per respondre a les demandes d’informació de manera que s’ajustin al màxim a les necessitats de l’usuari. Això pot generar respostes esbiaixades o equivocades, un fenomen conegut com a factor de complaença és també un biaix de la IA. Per això, és important demanar sempre a la IA que sigui objectiva i aplicar el nostre esperit crític i coneixement professional en l’avaluació dels seus resultats.
–Recomanació pràctica: Aplica sempre la regla del Human-in-the-loop (Humà en el bucle). Verifica qualsevol dada, llei, jurisprudència o càlcul de manera independent. Si la IA et cita un article o un llibre, busca’l a la font original abans d’utilitzar-lo.
2. Biaix Algorítmic i Alineament: L’il·lusió de la neutralitat
–Anàlisi: la IA està programada directament amb prejudicis i interessos econòmics, empresarials, polítics i ideològics, que la IA reflecteix els biaixos en la que ha estat entredada i configurat els algoritmes. A més, les empreses apliquen filtres de seguretat (conegut com a alineament) per evitar contingut perillós o tòxic, la qual cosa pot derivar en respostes excessivament asèptiques, esbiaixades cap a la moralitat corporativa o, en certs casos, en una censura subtil de debats legítims. La IA no és el gurú de la veritat.
–Recomanació pràctica: Mantingues una mirada escèptica i crítica. Si tractes un tema complex, demana explícitament a la IA que et mostri arguments contraris (p. ex.: “Actua com un advocat de la part contrària i critica aquest argument”). Això ajuda a trencar l’eco informatiu.
3. El Valor Afegit: La barrera del coneixement ocult
–Anàlisi: Els models d’IA estan entrenats amb dades públiques. Les bases de dades de pagament, monografies tècniques, jurisprudència molt recent o, sobretot, el context específic del teu sector i client, queden fora del seu abast. Si confies només en la IA, el teu treball serà estàndard i mediocre.
–Recomanació pràctica: Utilitza la IA per a l’estructura (l’esquelet) o per superar el bloqueig del full en blanc, però el “múscul” (l’anàlisi crítica, les fonts especialitzades i l’estratègia) l’has de posar tu. El teu valor diferencial és allò que la IA no sap. No oblidis de consultar altre tipus de documentació que no estan en el fon de coneixement de la IA, com monografies i articles.
La IA és més precisa quan s’utilitzen fonts d’informació pròpies. Per exemple, en l’àmbit del dret, es pot carregar una sentència concreta perquè redacti un recurs basat en aquest document.
4. Confidencialitat i Privacitat: El risc de l’exposició de dades
–Anàlisi: Les eines gratuïtes i algunes de pagament utilitzen per defecte els xats dels usuaris per re-entrenar els seus models(normalment, quan més cara és una versió d’IA, més protegeix la privacitat). Introduir dades sensibles (noms de clients, secrets industrials, contractes) trenca frontalment la clàusula de confidencialitat i el RGPD.
–Recomanació pràctica: Estableix una política de “Confiança Zero” (Zero Trust). Anonimitza o pseudonimitza sempre la informació (substitueix “Empresa X” per “Empresa de retail”, o “Joan Pérez” per “Client A”). Si el teu volum de treball ho requereix, inverteix en llicències d’IA corporatives on per contracte es garanteixi que les teves dades no s’usen per entrenar models.
Recorda de configurar la IA per mantenir el màxim la privacitat de les dades.
Opció de disposar d’una IA en local per protegir la privacitat de la nostra documentació i dades. En aquest cas, la IA no és tan eficient i calen ordinadors potents.
Un altre risc és que les IA estan dissenyades per respondre a les demandes d’informació de manera que s’ajustin al màxim a les necessitats de l’usuari. Això pot generar respostes esbiaixades o equivocades, un fenomen conegut com a factor de complaença és també un biaix de la IA. Per això, és important demanar sempre a la IA que sigui objectiva i aplicar el nostre esperit crític i coneixement professional en l’avaluació dels seus resultats.
5. Personalització: Fugir de l’homogeneïtzació i el to robòtic
–Anàlisi: La IA tendeix a escriure amb estructures repetitives, ús excessiu de certs adjectius o llistes estandarditzades. Això dilueix la teva marca personal i fa evident que el text no és genuí.
–Recomanació pràctica: Abans de demanar que redacti res, proporciona-li exemples de textos teus previs. Usa prompts com: “Analitza l’estil, el to i el vocabulari d’aquest text meu. Ara, redacta la nova resposta imitant exactament aquest estil”. Així i tot, reserva l’edició final per polir-ho amb la teva veu.
6. Enginyeria de Prompts (Aprofundiment): El diàleg iteratiu
–Anàlisi: Més que un prompt “pesat”, un bon prompt ha de ser contextualitzat, precís i iteratiu. Esperar que la IA faci un treball excel·lent amb simple o una sola instrucció és un error de principiant.
–Recomanació pràctica: Utilitza l’enfocament de “Cadena de Pensament” (Chain of Thought). No li demanis el document final; demana-li primer un esquema. Revisa l’esquema. Després, demana-li que desenvolupi el punt 1. Revisa’l. Dóna-li feedback sobre què ha fet malament, i demana-li el punt 2. Aquest procés conversacional extreu molt més potencial de l’eina. Un cop tinguem el resultat, demana-li que revalar la resposta (que torni a pensar i redactar el resultat), utilitza una segona IA per que corregeix els resultats de la primera.
Un bon Prompt i estratègia de consulta, és bàsic per obtenir un bon resustat .
7. Seleccionar la IA adequada
–Anàlisi: depenent de les nostres necessitats, cal seleccionar entre una IA generalista (multimodal), una d’especialitzada (per exemple, en vídeo) o una de temàtica (com ara en dret). Cada opció presenta avantatges i desavantatges, i la seva elecció dependrà del nostre propòsit i de si l’ús és professional o personal.
Normalment, les eines especialitzades i temàtiques solen ser més cares, i aquí també cal valorar quin retorn ens poden oferir en relació amb la inversió.
–Recomanació pràctica: abans de contractar una eina, és convenient definir clarament per a què la necessitem, provar diferents opcions i valorar quina s’adapta millor al nostre flux de treball, al pressupost disponible i al nivell de qualitat que exigim. Tanmateix, aquestes eines són complementàries i no excloents.
Un factor important de les IA temàtiques, com les de dret, és que solen protegir millor la privacitat de les dades.
8. Riscos
–Degradació d’Habilitats (Skill Fade): Un risc professional a llarg termini és perdre la capacitat de pensar des de zero o estructurar idees per delegar-ho massa aviat a la IA. És recomanable fer la feina d’ideació mentalment abans d’obrir l’eina. La IA ens farà perdre habilitats cognitius o habilitats que ara disposem, ja que no les utilitzem. És semblant el que ens ha passat amb les caluladores, agendes de telèfons mòbils o GPS – hem perdut capacitat de càlcul i memòria.
-Propietat Intel·lectual: Tenir en compte que, actualment, allò generat exclusivament per una IA no està protegit per drets d’autor en la majoria de jurisdiccions; requereix una transformació humana significativa.
Recomanació final en l’ús de la IA
Tal com està evolucionant la IA, i encara més segons es preveu en el futur pròxim, el factor humà serà clau per fer-ne un bon ús. Com a usuaris, i per continuar sent competitius professionalment, caldrà, abans de res, tenir esperit crític: qüestionar qualsevol resultat i informació, mantenir la imaginació, voler experimentar amb les eines, adoptar una actitud de revisió i prudència, i tenir voluntat d’aprofundir.
També serà necessari dedicar temps a la formació tant en IA, així com en la nostra pròpia professió. Per tant, l’èxit dels resultats que obtinguem amb la IA en el nostre àmbit professional dependrà, en gran mesura, de l’actitud i del comportament que tinguem en el seu ús.
Infografia
