L’Agència Espanyola de Protecció de Dades (AEPD) ha publicat un decàleg de recomanacions per utilitzar assistents i agents d’intel·ligència artificial (IA) amb més garanties de privacitat. El document adverteix dels riscos associats a l’accés a correus electrònics, documents, comptes personals i serveis digitals, especialment quan aquestes eines poden executar operacions sense intervenció directa de l’usuari.
Com ja sap, la utilització d’assistents i agents d’intel·ligència artificial (IA) s’està estenent tant en l’àmbit particular com en el professional. Aquestes eines ja no es limiten a respondre consultes o elaborar documents, sinó que poden gestionar agendes, accedir al correu electrònic, fer reserves, tramitar compres i fins i tot executar determinades operacions seguint instruccions generals.
La seva capacitat per a desenvolupar tasques de manera autònoma ofereix avantatges evidents, però també planteja riscos relacionats amb la privacitat, la seguretat de la informació i el tractament de dades personals.
Conscient d’aquesta situació, l’Agència Espanyola de Protecció de Dades (AEPD) va publicar el 27 d’octubre de 2026 un decàleg dirigit als usuaris d’assistents i agents d’intel·ligència artificial, en el qual recull diverses mesures per a utilitzar aquestes tecnologies sense perdre el control sobre la informació i les decisions que es deleguen.
L’Agència recomana valorar cinc qüestions fonamentals abans de començar a fer servir aquests serveis. És necessari conèixer quina informació poden consultar, quines dades conserven, quines operacions estan autoritzades a fer, on es transmet la informació i si les seves actuacions poden afectar altres persones.
A continuació, es recullen les principals recomanacions, amb especial atenció a aquelles situacions que poden presentar-se en l’activitat diària d’empreses, professionals i particulars.
1. Comprovar qui hi ha darrere de l’assistent d’intel·ligència artificial
Abans d’utilitzar un assistent o agent d’IA convé identificar l’empresa que presta el servei i conèixer les condicions sota les quals tractarà la informació facilitada.
El fet que una aplicació sigui coneguda, gratuïta o aparentment senzilla de fer servir no significa que les seves condicions de privacitat siguin adequades per a qualsevol finalitat.
L’AEPD aconsella seleccionar proveïdors clarament identificats, que expliquin on es processen les dades, per què es fan servir i quins mecanismes ofereixen per a exercir els drets reconeguts per la normativa europea.
També resulta convenient comprovar si la informació introduïda pot emprar-se per a desenvolupar models d’intel·ligència artificial o per a finalitats comercials distintes de les inicialment previstes.
Quan existeixi la possibilitat de realitzar el tractament directament en el dispositiu, sense remetre les dades a servidors externs, aquesta alternativa pot proporcionar una protecció addicional.
- Atenció. No s’han de facilitar documents personals, informació empresarial o dades confidencials a eines el proveïdor, condicions de privacitat o destí de la informació de les quals es desconeguin. És important comprovar les opcions relatives a l’entrenament de models abans d’utilitzar el servei.
2. Limitar els permisos d’accés a aplicacions i documents
Un dels principals riscos apareix quan un assistent sol·licita autorització per a consultar el correu electrònic, els contactes, les carpetes d’arxius, el calendari o determinades aplicacions.
Concedir accés a un compte complet pot resultar desproporcionat si la tasca encomanada únicament requereix consultar una carpeta o determinats documents.
A més, cal distingir entre permetre que una eina llegeixi informació i autoritzar-la per a modificar-la, eliminar-la o compartir-la amb tercers.
L’AEPD recomana aplicar un criteri restrictiu en concedir permisos i revisar periòdicament les connexions actives. Una autorització que inicialment semblava raonable pot deixar de ser-ho quan l’aplicació incorpora noves funcions o comença a utilitzar-se per a altres finalitats.
- Atenció. Cal evitar l’acceptació automàtica d’opcions com «permetre sempre». Una autorització permanent pot facilitar que l’assistent accedeixi a informació o executi operacions sense sol·licitar una nova confirmació.
3. Evitar la comunicació de contrasenyes i dades especialment delicades
La informació que rep un assistent condiciona tant la seva utilitat com els possibles danys derivats d’un error, un accés indegut o una utilització no prevista.
Per aquest motiu, l’Agència recomana reduir al mínim les dades personals que s’introdueixen en aquestes eines, especialment quan contenen informació econòmica, sanitària, identificativa o de caràcter confidencial.
Les contrasenyes, els codis de verificació i els nombres de targetes bancàries no han d’incorporar-se directament a les converses. Quan calgui identificar-se o efectuar un pagament, l’usuari ha d’introduir personalment aquestes dades en l’entorn segur corresponent.
En el cas de documents que continguin informació de tercers, convé valorar prèviament si poden eliminar-se noms, referències personals o altres elements que no siguin necessaris per a desenvolupar la tasca.
Aquesta precaució adquireix particular importància quan s’utilitzen eines d’IA per a revisar contractes, analitzar documentació administrativa o preparar informes a partir d’arxius que contenen dades identificatives.
- Atenció. Abans d’incorporar contractes, nòmines, informes mèdics, declaracions tributàries o altres documents a l’assistent, cal comprovar si contenen informació que es pot ometre, anonimitzar o substituir per dades fictícies. La documentació professional no s’ha d’introduir en serveis no autoritzats per l’organització.
4. Controlar quina informació recorda i conserva la intel·ligència artificial
Alguns assistents incorporen funcions de memòria que permeten recordar converses anteriors, preferències, relacions personals i altres dades amb la finalitat d’oferir respostes adaptades a l’usuari.
No obstant això, l’acumulació d’informació aparentment poc rellevant pot acabar generant un perfil detallat sobre els seus hàbits, interessos, situació econòmica o circumstàncies personals.
L’AEPD recorda que esborrar una conversa no implica necessàriament que desapareguin totes les dades relacionades amb ella. Els serveis poden conservar informació addicional en historials, memòries, registres tècnics o sistemes utilitzats per a altres finalitats.
Tampoc s’ha de confondre l’eliminació d’informació dins de l’assistent amb la seva desaparició de les aplicacions externes que hagi usat.
Per exemple, si un agent efectua una reserva a través d’una pàgina web, la informació proporcionada a aquest establiment pot romandre emmagatzemada en els seus sistemes, amb independència del que posteriorment s’elimini de l’assistent.
Per això, és recomanable revisar les opcions de memòria i historial, fer servir converses temporals quan escaigui i mantenir separats els entorns personals i professionals.
- Atenció. Esborrar un xat, desactivar la memòria o desconnectar una aplicació no garanteix per si sol la supressió de tota la informació. Quan correspongui, poden exercir-se els drets d’accés i supressió enfront del responsable del tractament.
5. Establir instruccions precises i límits a les tasques delegades
A diferència dels sistemes que únicament generen respostes, determinats agents d’intel·ligència artificial poden organitzar una activitat en diverses fases i decidir quines actuacions dur a terme per a aconseguir el resultat sol·licitat.
Una indicació tan àmplia com «organitza tots els meus correus pendents» pot provocar que l’eina interpreti que està autoritzada per a respondre missatges, modificar informació o fer gestions que l’usuari no pretenia delegar.
La recomanació de l’AEPD consisteix a concretar no sols el que es desitja aconseguir, sinó també les accions que han de quedar excloses.
Convé establir límits sobre les persones amb les quals pot contactar l’agent, els documents que pot utilitzar, els imports que pot comprometre i les situacions en les quals s’haurà de detenir per a sol·licitar autorització.
Inicialment, és preferible delegar operacions senzilles, d’abast limitat i les conseqüències de les quals puguin revertir-se sense dificultats.
En qualsevol cas, les instruccions escrites no substitueixen els mecanismes tècnics de control, especialment quan l’assistent disposa de permisos per a actuar sobre comptes o serveis externs.
- Atenció. No és aconsellable encomanar la gestió íntegra d’un compte o activitat sense determinar prèviament quines operacions queden autoritzades. Com més gran sigui l’autonomia de l’agent, més important és establir controls efectius.
6. Exigir confirmació abans de fer operacions rellevants
La diferència entre rebre una resposta equivocada i permetre una actuació incorrecta és considerable. Mentre que un error en una consulta es pot corregir abans d’utilitzar la informació, una operació executada automàticament pot produir efectes immediats. És el que succeeix quan un agent envia un correu, comparteix un arxiu, fa una compra o accepta determinades condicions contractuals.
L’AEPD aconsella mantenir la confirmació prèvia per a aquelles actuacions que puguin tenir conseqüències econòmiques, jurídiques o afectar tercers.
Abans d’autoritzar una operació, s’han de revisar els seus elements essencials, inclosos el destinatari, l’import, la documentació adjunta i les condicions aplicables.
Els resums generats per l’assistent poden ometre detalls importants, per la qual cosa no convé utilitzar-los com a únic element de comprovació.
També s’ha de tenir present que les persones poden assumir responsabilitats per les actuacions que hagin permès executar a aquests sistemes.
- Atenció. La signatura o acceptació de contractes, els pagaments, la publicació d’informació i les decisions amb conseqüències jurídiques o econòmiques no haurien d’executar-se sense una revisió humana prèvia. La confirmació s’ha de referir a l’operació concreta i no limitar-se a una autorització genèrica.
7. Tenir precaució amb les instruccions ocultes en correus i documents
Un dels riscos menys coneguts dels agents d’intel·ligència artificial està relacionat amb les instruccions que poden trobar-se incorporades en continguts procedents de tercers.
Un correu electrònic, una pàgina web, un document PDF o una invitació de calendari poden incloure missatges dissenyats per a alterar el comportament de l’assistent.
A vegades, aquestes instruccions poden aparèixer ocultes per a l’usuari, per exemple mitjançant text blanc sobre fons blanc, encara que resultin accessibles per a l’eina que processa el document.
Aquest tipus de manipulació, conegut com a injecció d’instruccions o prompt injection, pot intentar que l’agent ignori les indicacions originals, faciliti informació privada o efectuï operacions no autoritzades.
El risc augmenta quan una mateixa eina té accés a documentació d’origen desconegut, pot consultar informació confidencial i disposa de capacitat per a actuar en nom de l’usuari.
L’AEPD assenyala que cap mesura elimina completament aquesta amenaça. Per això recomana limitar els permisos i exigir autorització abans d’efectuar accions externes.
- Atenció. Si l’assistent sol·licita contrasenyes, proposa visitar pàgines desconegudes, intenta enviar informació a un destinatari no previst o demana aprovar una actuació aliena a la tasca encomanada, s’ha d’interrompre l’operació i comprovar el seu origen.
8. Respectar la privacitat d’altres persones
L’accés a un compte de correu, una agenda o una carpeta compartida no afecta exclusivament el seu titular. En aquests entorns sol conservar-se informació pertanyent a clients, treballadors, proveïdors, familiars o altres persones que no han decidit utilitzar l’assistent d’intel·ligència artificial. Per consegüent, autoritzar una connexió pot implicar el tractament de dades personals de tercers, circumstància que exigeix valorar la legitimitat d’aquest tractament i les garanties aplicables.
L’AEPD recorda que disposar d’accés a una informació no significa que existeixi autorització per a fer-la servir lliurement.
En l’àmbit empresarial i professional, aquesta qüestió adquireix especial rellevància quan els documents inclouen informació sobre relacions laborals, situacions econòmiques o circumstàncies personals protegides.
També s’han d’extremar les precaucions quan l’assistent es comunica amb altres persones usant el nom, la identitat, la veu o la imatge de l’usuari.
- Atenció. La informació de tercers no s’ha d’incorporar indiscriminadament a aplicacions d’intel·ligència artificial. Les empreses i professionals han de comprovar que el tractament compta amb una base jurídica adequada i respecta les obligacions de confidencialitat i protecció de dades que siguin exigibles.
9. Reforçar la seguretat dels comptes i dispositius connectats
Quan un assistent disposa d’accés a diverses aplicacions, el seu compte pot convertir-se en una via d’entrada a bona part de la informació digital de l’usuari. Una persona que aconsegueixi accedir indegudament a aquest compte podria aprofitar les connexions existents per consultar documents, enviar comunicacions o efectuar determinades operacions. Per reduir aquesta exposició, l’AEPD recomana utilitzar contrasenyes segures i exclusives, activar l’autenticació en dos passos o sistemes equivalents i revisar les sessions que romanen obertes.
També s’ha de parar esment als complements i connectors que s’instal·len per a ampliar les funcions de l’assistent, ja que poden sol·licitar nous permisos d’accés.
Quan un agent controla un navegador, fins i tot podria interactuar amb pàgines en les quals l’usuari ja tingui iniciada sessió. Per aquesta raó, per a determinades activitats pot ser convenient emprar perfils separats i eliminar posteriorment els accessos innecessaris.
La informació especialment sensible s’ha de protegir mitjançant mesures addicionals, com el xifratge i la limitació de la seva disponibilitat mentre l’agent estigui actiu.
- Atenció. No s’han d’instal·lar extensions de procedència desconeguda ni connectar comptes empresarials sense comprovar els permisos sol·licitats. Un únic compte compromès pot facilitar l’accés a diversos serveis vinculats.
10. Supervisar les actuacions i saber com detenir l’agent
Delegar una tasca no significa renunciar a comprovar com s’ha executat. L’AEPD insisteix en la conveniència de conèixer, abans de començar a utilitzar el servei, els mecanismes disponibles per detenir-ne funcionament i retirar els permisos concedits. Així mateix, aconsella revisar els historials d’activitat i comprovar les operacions efectuades en les aplicacions connectades.
Aquest seguiment ha de ser especialment acurat quan existeixen tasques programades, processos periòdics o activitats que continuen executant-se sense la presència de l’usuari.
Les actualitzacions de les eines també requereixen atenció, ja que poden modificar funcions o introduir noves possibilitats de connexió i tractament d’informació.
Si es detecta un comportament anòmal, convé interrompre l’activitat, desconnectar els serveis afectats, revisar les credencials i comprovar si s’han enviat o compartit dades indegudament.
En l’àmbit professional, qualsevol incident que pugui comprometre informació personal s’ha de comunicar als responsables corresponents per valorar les mesures de resposta i, quan escaigui legalment, les obligacions de notificació.
- Atenció. Els processos que funcionen de manera periòdica o sense supervisió directa s’han de revisar amb especial atenció. És recomanable limitar la seva durada, comprovar els seus resultats i desactivar aquells que hagin deixat de ser necessaris.
Recomanacions addicionals per a empreses i professionals
Encara que el decàleg es dirigeix principalment als usuaris d’assistents i agents d’intel·ligència artificial, l’AEPD dedica una consideració específica a la seva utilització en l’entorn laboral.
El document recorda que una aplicació adequada per a ús particular no té per què oferir les garanties necessàries per a tractar informació professional. Per aquest motiu, els treballadors han d’utilitzar únicament les eines autoritzades per la seva organització i connectar exclusivament els comptes, aplicacions i documents permesos.
No és aconsellable instal·lar agents per iniciativa pròpia en equips corporatius ni vincular el correu professional o els arxius de treball a comptes personals d’intel·ligència artificial.
Aquestes precaucions són especialment rellevants per a empreses que gestionen informació econòmica, laboral, tributària o jurídica dels seus clients.
Convé també que les organitzacions estableixin criteris interns sobre l’ús d’aquestes tecnologies, determinin quines eines poden usar-se i facilitin instruccions als empleats per evitar tractaments inadequats d’informació.
Des d’una perspectiva de compliment normatiu, s’hauran de valorar les obligacions que corresponguin conforme al Reglament General de Protecció de Dades i a la normativa espanyola aplicable, atesa la finalitat, les dades tractades i les característiques de cada servei.
- Atenció. La utilització d’eines d’intel·ligència artificial per part dels empleats no elimina les responsabilitats de l’organització sobre les dades personals que tracta. Davant qualsevol dubte sobre una aplicació o una connexió, s’ha de consultar amb el responsable i, quan existeixi, amb el delegat de protecció de dades.
Quines garanties convé exigir als proveïdors d’IA
La responsabilitat d’un ús segur d’aquestes tecnologies no ha de traslladar-se exclusivament als qui les utilitzen. L’AEPD assenyala que els proveïdors haurien de facilitar mecanismes que permetin comprendre quina informació consulta l’assistent, quines decisions pot adoptar i com controlar les seves actuacions. Entre les garanties especialment rellevants es troben la possibilitat de configurar permisos diferenciats, exigir autoritzacions per a operacions importants, consultar l’historial d’activitat i detenir immediatament l’agent. També cal disposar d’informació comprensible sobre la conservació de les dades, la seva eventual utilització per a desenvolupar models d’intel·ligència artificial i els procediments disponibles per a exercir els drets de protecció de dades.
Si una eina no ofereix prou controls, convé reconsiderar quina informació se li proporciona i quin nivell d’autonomia és prudent concedir-li.
