RGPD i agents d'IA: què ha de vigilar la teva pime

Guia pràctica sobre RGPD i agents d'IA per a pimes catalanes: bases legals, dades que tracten i decisions que has de prendre abans d'engegar.

Agentiko · · 5 min de lectura

Una gestoria de Sabadell va posar en marxa un agent d’IA perquè respongués dubtes de clients per WhatsApp fora d’horari. Funcionava bé fins que un client va demanar: “em pots recordar quant vaig pagar l’IVA el trimestre passat?”. L’agent va respondre amb la xifra exacta. El problema no era la resposta, sinó que ningú havia pensat qui autoritzava aquell accés a dades fiscals, on quedava registrada la consulta ni què passava si l’enviava a la persona equivocada.

Aquest és el punt cec habitual. Un agent d’IA que executa accions toca dades personals gairebé sempre, i això el posa de ple dins del Reglament General de Protecció de Dades. No és una qüestió teòrica: és responsabilitat de l’empresa que el fa servir, no del proveïdor de la tecnologia.

Per què un agent d’IA entra dins del RGPD

Qualsevol sistema que tracti informació d’una persona identificable queda subjecte al reglament. Un agent que llegeix el teu CRM, respon correus de clients o consulta comandes està tractant dades personals contínuament: noms, telèfons, adreces, historials de compra i, de vegades, categories especials com dades de salut o situació econòmica.

La diferència respecte d’una eina clàssica és que l’agent decideix i actua. Quan un sistema pren decisions amb dades personals, el nivell d’exigència puja. No vol dir que no el puguis fer servir, vol dir que has de poder explicar què fa, amb quines dades i per què.

Qui és responsable i qui és encarregat

La teva pime és la responsable del tractament: decideix per a què s’usen les dades. El proveïdor del model (per exemple, una plataforma d’IA al núvol) actua com a encarregat del tractament. Això exigeix un contracte d’encarregat de tractament signat, amb garanties concretes sobre seguretat, confidencialitat i eliminació de dades.

Si el proveïdor processa dades fora de l’Espai Econòmic Europeu, necessites una base per a aquesta transferència internacional (clàusules contractuals tipus o una decisió d’adequació). Molts serveis populars d’IA tenen servidors als Estats Units, i això s’ha de documentar.

Les decisions que has de prendre abans d’engegar

Abans d’activar un agent de cara al client o a dades internes, convé tancar unes quantes qüestions. No són tràmits burocràtics buits: et protegeixen davant d’una reclamació i et fan dissenyar millor el sistema.

Aquest últim punt és important. El RGPD i les normes de transparència demanen que la gent sàpiga quan interactua amb una màquina. Un simple avís al principi de la conversa resol bona part del requisit.

Minimització: el principi que més t’estalvia problemes

La regla d’or és donar a l’agent només les dades que necessita per fer la seva feina. Si respon dubtes de facturació, no cal que tingui accés a l’historial mèdic d’un client d’una altra línia de negoci. Com menys superfície de dades, menys risc.

Una pime de serveis de Girona ho va resoldre bé: va crear una vista limitada del CRM per a l’agent, amb només nom, estat de la comanda i contacte. Tota la resta quedava fora. Si algú hackejava l’agent o es produïa un error, el mal possible era molt menor.

Decisions automatitzades i perfilat

L’article 22 del RGPD posa límits a les decisions totalment automatitzades que tinguin efectes jurídics o afectin significativament una persona. Si el teu agent denega un crèdit, descarta una candidatura o cancel·la un servei sense cap revisió humana, entres en terreny delicat.

La solució pràctica per a la majoria de pimes és mantenir una persona al circuit per a les decisions sensibles. L’agent proposa, un humà valida. Per a tasques rutinàries (respondre un horari, confirmar una reserva, enviar una factura) no cal aquest nivell de control.

Avaluació d’impacte: quan cal fer-la

Si el tractament és a gran escala, implica categories especials de dades o un seguiment sistemàtic de persones, has de fer una avaluació d’impacte relativa a la protecció de dades. La majoria de casos d’ús d’una pime no hi arriben, però val la pena fer-se la pregunta abans, no després d’un incident.

Seguretat tècnica mínima

El reglament exigeix mesures de seguretat adequades al risc. Per a un agent d’IA, això es tradueix en coses concretes i assumibles:

Un error freqüent és deixar que l’agent guardi converses senceres en serveis externs sense control. Si un client exerceix el dret de supressió, has de poder trobar i esborrar les seves dades a tot arreu, inclosos els registres de l’agent.

Un exemple de com es fa bé

Un taller mecànic de Terrassa va implementar un agent per gestionar cites i recordatoris. Van definir que l’agent només accedia a matrícula, nom i data de servei. Van signar el contracte d’encarregat amb el proveïdor, van afegir un avís de tractament automàtic al xat i van fixar que les converses s’esborraven als 90 dies. Quan la Inspecció va fer una comprovació rutinària al sector, van tenir tota la documentació a punt en mitja hora.

Aquesta feina prèvia no va endarrerir el projecte més d’una setmana, i els estalvia ara el risc d’una sanció que per a una pime pot ser demolidora.

La clau del RGPD en agents d’IA no és frenar el projecte, sinó dissenyar-lo amb el compliment incorporat des del primer dia. Surt molt més barat que arreglar-ho després.

Per on començar amb cap i peus

Fes un inventari de quines dades personals tocaria l’agent, tria el proveïdor mirant on allotja les dades, limita els accessos al mínim i deixa per escrit els terminis de conservació. Amb això cobreixes la major part del risc real abans d’escriure una sola línia de codi.

Si vols ajuda per muntar un agent que compleixi el RGPD des del disseny, parlem-ne:

Descobreix com transformem la teva empresa amb intel·ligència artificial