RGPD i agents d'IA: què ha de vigilar la teva pime
Guia pràctica sobre RGPD i agents d'IA per a pimes catalanes: bases legals, dades que tracten i decisions que has de prendre abans d'engegar.
Una gestoria de Sabadell va posar en marxa un agent d’IA perquè respongués dubtes de clients per WhatsApp fora d’horari. Funcionava bé fins que un client va demanar: “em pots recordar quant vaig pagar l’IVA el trimestre passat?”. L’agent va respondre amb la xifra exacta. El problema no era la resposta, sinó que ningú havia pensat qui autoritzava aquell accés a dades fiscals, on quedava registrada la consulta ni què passava si l’enviava a la persona equivocada.
Aquest és el punt cec habitual. Un agent d’IA que executa accions toca dades personals gairebé sempre, i això el posa de ple dins del Reglament General de Protecció de Dades. No és una qüestió teòrica: és responsabilitat de l’empresa que el fa servir, no del proveïdor de la tecnologia.
Per què un agent d’IA entra dins del RGPD
Qualsevol sistema que tracti informació d’una persona identificable queda subjecte al reglament. Un agent que llegeix el teu CRM, respon correus de clients o consulta comandes està tractant dades personals contínuament: noms, telèfons, adreces, historials de compra i, de vegades, categories especials com dades de salut o situació econòmica.
La diferència respecte d’una eina clàssica és que l’agent decideix i actua. Quan un sistema pren decisions amb dades personals, el nivell d’exigència puja. No vol dir que no el puguis fer servir, vol dir que has de poder explicar què fa, amb quines dades i per què.
Qui és responsable i qui és encarregat
La teva pime és la responsable del tractament: decideix per a què s’usen les dades. El proveïdor del model (per exemple, una plataforma d’IA al núvol) actua com a encarregat del tractament. Això exigeix un contracte d’encarregat de tractament signat, amb garanties concretes sobre seguretat, confidencialitat i eliminació de dades.
Si el proveïdor processa dades fora de l’Espai Econòmic Europeu, necessites una base per a aquesta transferència internacional (clàusules contractuals tipus o una decisió d’adequació). Molts serveis populars d’IA tenen servidors als Estats Units, i això s’ha de documentar.
Les decisions que has de prendre abans d’engegar
Abans d’activar un agent de cara al client o a dades internes, convé tancar unes quantes qüestions. No són tràmits burocràtics buits: et protegeixen davant d’una reclamació i et fan dissenyar millor el sistema.
- Quina base legal empares cada tractament (consentiment, execució d’un contracte, interès legítim).
- Quines dades concretes pot llegir l’agent i quines queden fora del seu abast.
- Quant de temps es conserven les converses i els registres, i com s’esborren.
- Qui dins de l’equip pot revisar les interaccions de l’agent.
- Com informes la persona que està parlant amb un sistema automàtic.
Aquest últim punt és important. El RGPD i les normes de transparència demanen que la gent sàpiga quan interactua amb una màquina. Un simple avís al principi de la conversa resol bona part del requisit.
Minimització: el principi que més t’estalvia problemes
La regla d’or és donar a l’agent només les dades que necessita per fer la seva feina. Si respon dubtes de facturació, no cal que tingui accés a l’historial mèdic d’un client d’una altra línia de negoci. Com menys superfície de dades, menys risc.
Una pime de serveis de Girona ho va resoldre bé: va crear una vista limitada del CRM per a l’agent, amb només nom, estat de la comanda i contacte. Tota la resta quedava fora. Si algú hackejava l’agent o es produïa un error, el mal possible era molt menor.
Decisions automatitzades i perfilat
L’article 22 del RGPD posa límits a les decisions totalment automatitzades que tinguin efectes jurídics o afectin significativament una persona. Si el teu agent denega un crèdit, descarta una candidatura o cancel·la un servei sense cap revisió humana, entres en terreny delicat.
La solució pràctica per a la majoria de pimes és mantenir una persona al circuit per a les decisions sensibles. L’agent proposa, un humà valida. Per a tasques rutinàries (respondre un horari, confirmar una reserva, enviar una factura) no cal aquest nivell de control.
Avaluació d’impacte: quan cal fer-la
Si el tractament és a gran escala, implica categories especials de dades o un seguiment sistemàtic de persones, has de fer una avaluació d’impacte relativa a la protecció de dades. La majoria de casos d’ús d’una pime no hi arriben, però val la pena fer-se la pregunta abans, no després d’un incident.
Seguretat tècnica mínima
El reglament exigeix mesures de seguretat adequades al risc. Per a un agent d’IA, això es tradueix en coses concretes i assumibles:
- Xifratge de les dades en trànsit i en repòs.
- Control d’accés per rols, perquè cada persona vegi només el que li toca.
- Registre d’activitat per saber qui ha consultat què i quan.
- Un procediment clar per atendre drets dels usuaris (accés, rectificació, supressió).
Un error freqüent és deixar que l’agent guardi converses senceres en serveis externs sense control. Si un client exerceix el dret de supressió, has de poder trobar i esborrar les seves dades a tot arreu, inclosos els registres de l’agent.
Un exemple de com es fa bé
Un taller mecànic de Terrassa va implementar un agent per gestionar cites i recordatoris. Van definir que l’agent només accedia a matrícula, nom i data de servei. Van signar el contracte d’encarregat amb el proveïdor, van afegir un avís de tractament automàtic al xat i van fixar que les converses s’esborraven als 90 dies. Quan la Inspecció va fer una comprovació rutinària al sector, van tenir tota la documentació a punt en mitja hora.
Aquesta feina prèvia no va endarrerir el projecte més d’una setmana, i els estalvia ara el risc d’una sanció que per a una pime pot ser demolidora.
La clau del RGPD en agents d’IA no és frenar el projecte, sinó dissenyar-lo amb el compliment incorporat des del primer dia. Surt molt més barat que arreglar-ho després.
Per on començar amb cap i peus
Fes un inventari de quines dades personals tocaria l’agent, tria el proveïdor mirant on allotja les dades, limita els accessos al mínim i deixa per escrit els terminis de conservació. Amb això cobreixes la major part del risc real abans d’escriure una sola línia de codi.
Si vols ajuda per muntar un agent que compleixi el RGPD des del disseny, parlem-ne:
Descobreix com transformem la teva empresa amb intel·ligència artificial