Inteligencia artificial en la empresa: privacidad, seguridad y responsabilidad legal
La incorporación de asistentes y agentes de inteligencia artificial (IA) a los procesos empresariales está abriendo nuevas posibilidades de automatización, pero también introduce riesgos jurídicos y de seguridad que las organizaciones no pueden ignorar. Estas herramientas ya no se limitan a generar textos, analizar información o responder consultas: pueden acceder a correos electrónicos, consultar documentación interna, gestionar agendas, realizar compras y ejecutar operaciones en diferentes plataformas sin intervención directa del usuario.
Ante esta evolución, la Agencia Española de Protección de Datos (AEPD) publicó el 27 de octubre de 2026 el documento Asistentes y agentes de IA: Que la IA actúe por ti, no sin ti, un decálogo dirigido a los usuarios de estas tecnologías que adquiere especial relevancia para empresas, autónomos y profesionales.
La Agencia advierte de que delegar tareas en sistemas autónomos no significa perder el control sobre la información ni sobre las operaciones realizadas. Una respuesta incorrecta puede convertirse en un correo enviado, un documento compartido, un pago o una contratación ejecutada sin la debida supervisión.
Para las empresas, la cuestión va más allá de la seguridad informática. El tratamiento de información personal mediante estos sistemas debe ajustarse al Reglamento General de Protección de Datos (RGPD), a la Ley Orgánica 3/2018, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD), y, cuando corresponda, al Reglamento Europeo de Inteligencia Artificial.
Qué obligaciones legales asume una empresa cuando utiliza agentes de IA
El primer aspecto que debe tenerse en cuenta es que la utilización de inteligencia artificial no crea una excepción a las obligaciones generales de protección de datos.
Cuando un agente accede a información de clientes, trabajadores, proveedores o representantes de otras empresas, puede estar participando en un tratamiento de datos personales sujeto al RGPD. La organización deberá determinar su finalidad, base jurídica, alcance y garantías, sin trasladar automáticamente sus responsabilidades al proveedor tecnológico.
En particular, los principios del artículo 5 del RGPD obligan a respetar la licitud, lealtad y transparencia, la limitación de la finalidad, la minimización de datos, la exactitud y la limitación del plazo de conservación. El artículo 6 exige disponer de una base jurídica válida para cada tratamiento y el artículo 9 establece condiciones adicionales para utilizar categorías especiales de datos, como información sanitaria.
También deben considerarse los artículos 24 y 25, relativos a la responsabilidad proactiva y la protección de datos desde el diseño y por defecto, así como el artículo 32, que exige aplicar medidas técnicas y organizativas adecuadas al riesgo.
Por tanto, antes de incorporar un agente a los procesos de trabajo, la empresa debe evaluar qué información manejará, qué operaciones podrá ejecutar y qué garantías ofrece el proveedor.
Las diez recomendaciones de la AEPD para controlar los riesgos de la inteligencia artificial
1. Identificar al proveedor y conocer las condiciones del servicio
La AEPD recomienda comprobar quién presta el servicio, dónde se procesan los datos y con qué finalidades se utilizan.
En el ámbito empresarial, esta comprobación debe incluir las condiciones contractuales, la política de privacidad, los posibles subencargados y la utilización de la información para entrenar o mejorar modelos de IA.
Cuando el proveedor actúe como encargado del tratamiento, deberá formalizarse el contrato exigido por el artículo 28 del RGPD, que debe regular, entre otros aspectos, las instrucciones documentadas, la confidencialidad, las medidas de seguridad, la asistencia al responsable y la eliminación o devolución de los datos.
Asimismo, si existen transferencias internacionales de información fuera del Espacio Económico Europeo, deberán comprobarse los requisitos del capítulo V del RGPD, incluidos, cuando proceda, los mecanismos de adecuación o las garantías apropiadas.
2. Aplicar el principio de mínimo privilegio en los permisos
Conceder acceso al correo corporativo, al CRM, a las carpetas compartidas o a los sistemas de gestión empresarial puede proporcionar al agente una capacidad de actuación considerable.
La recomendación consiste en aplicar el principio de mínimo privilegio: permitir exclusivamente los accesos imprescindibles para desarrollar la tarea encomendada.
También debe distinguirse entre permisos de lectura, modificación, eliminación, descarga y envío de información. Una herramienta que necesita consultar determinadas facturas no tiene por qué disponer de autorización para modificar toda la documentación contable.
Este criterio responde directamente a los principios de minimización de datos y protección desde el diseño establecidos en los artículos 5 y 25 del RGPD.
3. Evitar introducir contraseñas y documentación confidencial
Los empleados y directivos deben evitar incorporar credenciales, códigos de autenticación, datos bancarios o información especialmente sensible en las conversaciones con asistentes de IA.
La misma precaución debe aplicarse a contratos, nóminas, expedientes laborales, declaraciones tributarias e informes que contengan datos personales de clientes o trabajadores. Cuando sea posible, conviene anonimizar o seudonimizar la documentación y eliminar los datos que no resulten necesarios para la finalidad perseguida.
En particular, la seudonimización no equivale a anonimización: los datos seudonimizados siguen estando sujetos al RGPD cuando permiten identificar a una persona mediante información adicional.
4. Revisar la memoria y los plazos de conservación
Los asistentes pueden conservar conversaciones, preferencias, documentos y otros datos para contextualizar futuras respuestas. Esta memoria puede terminar acumulando información sobre la situación económica, profesional o personal de clientes y trabajadores.
La empresa debe conocer qué información almacena el proveedor, durante cuánto tiempo, con qué finalidad y qué mecanismos existen para suprimirla.
El artículo 5.1.e del RGPD establece que los datos personales no deben conservarse durante más tiempo del necesario para los fines del tratamiento.
Además, borrar una conversación no implica necesariamente eliminar los datos de los sistemas externos, registros técnicos o aplicaciones conectadas. Por ello, deben establecerse procedimientos específicos para gestionar la memoria, el historial y las solicitudes de supresión.
5. Establecer instrucciones y límites operativos
Los agentes pueden interpretar instrucciones generales y descomponerlas en diferentes operaciones. Sin embargo, esa autonomía puede provocar actuaciones que excedan las facultades que la empresa pretendía concederles.
No es lo mismo autorizar la preparación de respuestas comerciales que permitir su envío automático a clientes. Tampoco equivale consultar facturas a aprobar pagos o modificar registros contables.
La organización debe definir qué tareas puede ejecutar cada agente, qué información puede utilizar, qué operaciones quedan excluidas y cuándo debe solicitar autorización.
Es recomendable incorporar estas limitaciones a una política interna de uso de inteligencia artificial, vinculada a los procedimientos de seguridad y protección de datos.
6. Exigir autorización humana para las operaciones relevantes
La AEPD recomienda mantener la confirmación humana antes de realizar actuaciones que puedan tener consecuencias económicas, jurídicas o afectar a terceros.
Entre ellas se encuentran los pagos, las contrataciones, el envío de comunicaciones sensibles, la publicación de información y la aceptación de condiciones contractuales.
Esta supervisión debe ser real y efectiva. No basta con conceder una autorización general para que el agente opere libremente: deben existir controles sobre cada actuación relevante.
También debe distinguirse entre una operación ejecutada por un agente y una decisión automatizada sometida al artículo 22 del RGPD. Este precepto reconoce garantías específicas frente a decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente a las personas. No toda automatización queda incluida en esta prohibición, pero cuando resulte aplicable deberán respetarse sus excepciones y garantías.
7. Prevenir los ataques mediante instrucciones ocultas
Uno de los riesgos tecnológicos más relevantes es la denominada prompt injection o inyección de instrucciones.
Un correo electrónico, una página web o un documento PDF pueden incorporar instrucciones ocultas destinadas a modificar el comportamiento del agente. Por ejemplo, un archivo aparentemente normal podría contener órdenes para que el sistema ignore las instrucciones originales y transmita información confidencial a un tercero.
La AEPD ya había analizado estas vulnerabilidades en sus orientaciones de febrero de 2026 sobre inteligencia artificial agéntica.
El riesgo aumenta cuando el agente tiene acceso simultáneo a información interna y capacidad para comunicarse con servicios externos. Por ello, deben establecerse controles de aislamiento, validación de contenidos, limitación de permisos y autorización previa para las operaciones de salida de información.
8. Proteger los datos personales de clientes, empleados y proveedores
El hecho de que una empresa tenga acceso legítimo a determinados datos no significa que pueda utilizarlos para cualquier finalidad.
Un agente conectado al correo corporativo puede procesar información de personas que no han decidido interactuar con esa herramienta. Lo mismo sucede con las agendas, los expedientes de trabajadores y los documentos compartidos con clientes.
La organización debe comprobar la base jurídica del tratamiento, respetar los deberes de información y confidencialidad y evitar la utilización indiscriminada de datos de terceros.
Cuando se incorporen nuevas finalidades o tecnologías que alteren sustancialmente el tratamiento, será necesario revisar también la información facilitada a los interesados y las condiciones de licitud correspondientes.
9. Reforzar la seguridad de las cuentas y aplicaciones conectadas
La protección de las cuentas resulta esencial cuando un único agente puede acceder a diferentes servicios empresariales.
La AEPD recomienda utilizar contraseñas robustas y exclusivas, activar la autenticación multifactor y revisar periódicamente las sesiones y conexiones autorizadas.
Desde una perspectiva empresarial, también conviene mantener registros de actividad, controlar los conectores instalados, segmentar los accesos y disponer de mecanismos para revocar credenciales y detener inmediatamente al agente.
Estas medidas deben integrarse en la política general de seguridad de la información y en los procedimientos de respuesta ante incidentes.
10. Supervisar las operaciones y disponer de mecanismos de desconexión
La autonomía de un agente no debe confundirse con la ausencia de supervisión. Las empresas necesitan conocer qué operaciones realiza, cuándo las ejecuta y qué información consulta o transmite.
Es especialmente importante controlar las tareas programadas, los procesos recurrentes y las operaciones que continúan ejecutándose sin presencia humana.
Si se produce un incidente que compromete datos personales, deberá evaluarse su naturaleza y alcance. Conforme al artículo 33 del RGPD, el responsable del tratamiento debe notificar la brecha a la autoridad de control competente, cuando proceda, en un plazo máximo de 72 horas desde que tenga constancia, salvo que sea improbable que constituya un riesgo para los derechos y libertades de las personas. Cuando exista un alto riesgo, también deberá comunicarse a los afectados conforme al artículo 34.
El Reglamento Europeo de Inteligencia Artificial también afecta a las empresas
El Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial o AI Act, introduce obligaciones adicionales para proveedores y responsables del despliegue de sistemas de IA.
Desde el 2 de febrero de 2025 resulta aplicable, entre otras disposiciones, el artículo 4, que exige adoptar medidas para garantizar un nivel suficiente de alfabetización en materia de IA entre el personal y las personas que utilizan estos sistemas por cuenta de la organización.
Además, desde el 2 de agosto de 2026 se aplica con carácter general buena parte del Reglamento, incluidas las obligaciones de transparencia del artículo 50 y las disposiciones correspondientes a los sistemas de alto riesgo, con las excepciones y calendarios específicos previstos en la norma.
No todos los asistentes o agentes de IA tienen automáticamente la consideración de sistemas de alto riesgo. Esta clasificación depende de su finalidad y de los supuestos establecidos en el Reglamento. Cuando corresponda, los responsables del despliegue deberán cumplir las obligaciones del artículo 26, que incluyen medidas de supervisión humana y control del funcionamiento.
El cumplimiento del AI Act tampoco sustituye al RGPD: ambas normas deben aplicarse conjuntamente cuando el sistema trate datos personales.
Qué debería hacer una empresa antes de incorporar agentes de IA
Más allá de las recomendaciones individuales, las organizaciones necesitan un modelo de gobernanza que permita controlar la utilización de estas tecnologías.
Una primera medida consiste en elaborar un inventario de asistentes, agentes y conectores utilizados por los empleados, identificando sus proveedores, finalidades, permisos y categorías de datos tratados.
A partir de ahí, conviene realizar un análisis de riesgos y determinar si resulta necesaria una evaluación de impacto relativa a la protección de datos (EIPD), conforme al artículo 35 del RGPD, especialmente cuando el tratamiento pueda entrañar un alto riesgo para los derechos y libertades de las personas.
También deberán actualizarse, cuando corresponda, el registro de actividades de tratamiento del artículo 30, los contratos con encargados, las políticas internas de seguridad y los procedimientos para atender los derechos de los interesados.
La empresa debe establecer, además, qué herramientas están autorizadas, qué información puede introducirse en ellas y qué operaciones requieren validación humana. Estas instrucciones deben acompañarse de formación específica para los trabajadores y controles técnicos que impidan que una autorización excesiva comprometa la información corporativa.
La inteligencia artificial no elimina la responsabilidad de la empresa
La automatización puede mejorar considerablemente la productividad, reducir tareas administrativas y facilitar la gestión empresarial. Sin embargo, delegar operaciones en un agente no supone trasladarle las obligaciones legales que corresponden a la organización.
La empresa debe conservar la capacidad de supervisar los tratamientos, justificar su legitimidad y demostrar que ha adoptado medidas proporcionadas para proteger la información.
Por ello, la implantación de asistentes y agentes de IA debe abordarse como una decisión tecnológica, organizativa y jurídica. Una estrategia adecuada de cumplimiento normativo permite aprovechar sus ventajas sin exponer innecesariamente los datos de clientes, trabajadores y proveedores.
En Actium Consulting podemos asesorarle en la revisión de sus obligaciones legales, la evaluación de riesgos y la adecuación de sus procedimientos empresariales a la normativa vigente en materia de protección de datos e inteligencia artificial.
