Seguridad y Privacidad en IA: Lo que tu empresa necesita saber

Cuando una empresa empieza a usar IA, los datos salen de sitios donde estaban controlados: un correo de un cliente se pega en un chat, una factura se manda a una API externa o una carpeta compartida se indexa entera. Casi nunca hay mala intención. El problema es que nadie se paró a decidir qué podía salir y adónde.

Esta guía repasa qué dice la normativa, qué riesgos son reales en una pyme y qué medidas concretas puedes tomar sin un departamento de sistemas. No es asesoramiento jurídico; para casos concretos, consulta con tu delegado de protección de datos o con un abogado especializado.

Qué dice la normativa

RGPD y LOPDGDD

El Reglamento General de Protección de Datos no habla de IA en concreto, pero sus principios se aplican igual que a cualquier otro tratamiento de datos personales:

• Minimización. Usa solo los datos necesarios para la tarea. Si la IA tiene que clasificar correos, no necesita el historial completo de cada cliente.
• Transparencia. Informa a clientes y empleados de que usas herramientas de IA que tratan sus datos y con qué fin.
• Decisiones automatizadas. El artículo 22 protege a las personas frente a decisiones basadas únicamente en un tratamiento automatizado que les afecten de forma significativa, y les da derecho a pedir intervención humana.
• Encargados del tratamiento. Si un proveedor procesa datos personales por tu cuenta, necesitas un contrato de encargado del tratamiento con él.

Reglamento europeo de IA

El Reglamento europeo de IA clasifica los sistemas por nivel de riesgo. La mayoría de los usos de una pyme (redactar textos, clasificar correos, leer documentos) quedan en los niveles bajos, con obligaciones sobre todo de transparencia, como avisar de que alguien está hablando con un chatbot. Los usos en selección de personal, crédito o servicios esenciales tienen requisitos mucho más exigentes. Si estás en alguno de esos casos, busca asesoramiento específico.

Los riesgos reales en una pyme

Datos enviados a servicios externos

Las versiones gratuitas de algunos chats y APIs pueden usar lo que envías para mejorar sus modelos. Las versiones de pago o empresariales suelen excluirlo por contrato. Lee las condiciones antes de meter datos de clientes o empleados.

Respuestas inventadas

Un modelo de lenguaje puede dar una respuesta falsa con total seguridad. Si esa respuesta llega a un cliente o se usa para decidir, el problema es de tu empresa. La defensa es limitar la IA a tu información, pedirle que cite la fuente y mantener una revisión humana en lo importante.

Accesos mal configurados

Un asistente con acceso a todo el correo o a todas las carpetas puede enseñar a un empleado algo que no debería ver. Los permisos de la IA tienen que ser los mínimos y estar separados por persona o por rol.

Credenciales y claves

Las integraciones necesitan claves de acceso a tu correo, tu Drive o tu programa de gestión. Si esas claves se guardan sin protección o nadie sabe dónde están, son el punto más débil del sistema.

Acciones automáticas sin control

Cuando la IA no solo responde, sino que envía correos, borra ficheros o cambia datos, un error se multiplica. Las acciones con consecuencias deben esperar una confirmación humana.

Medidas concretas, de menos a más esfuerzo

• Escribe una norma interna de una página: qué herramientas de IA se pueden usar, con qué datos y cuáles están prohibidos en herramientas gratuitas.
• Contrata versiones de pago o empresariales de las herramientas que uséis con información interna.
• Firma contratos de encargado del tratamiento con los proveedores que procesen datos personales.
• Activa el doble factor en todas las cuentas que tengan acceso a la IA o que la IA use.
• Da a cada integración solo los permisos que necesita y revisa cada cierto tiempo quién tiene acceso a qué.
• Para datos muy sensibles, valora sistemas que procesen en local o en un servidor que tú controles, o que anonimicen la información antes de enviarla a un modelo externo.
• Guarda un registro de lo que hace la IA y de quién aprobó cada acción importante.

Cómo lo resolvemos en sistemas que ya funcionan

Algunos ejemplos de nuestras propias fichas, con sus límites:

• El asistente operativo IA funciona en un servidor que elige el cliente. Antes de enviar texto a un modelo externo, un anonimizador sustituye correos, teléfonos, IBAN, tarjetas, DNI e IP. Las acciones delicadas esperan la confirmación del propietario, y las claves y credenciales se guardan cifradas.
• FileSync indexa los archivos en el propio equipo y su servidor solo escucha en el propio ordenador. Si se conecta un proveedor de IA externo, recibe el nombre, el tamaño, la fecha y la huella del fichero, nunca su contenido. Como limitación, las claves de esos proveedores se guardan en un fichero local sin cifrar.
• En la lectura automática de facturas recibidas, los datos viven en la cuenta de Google del cliente con credenciales revocables. Cuando hace falta IA, el documento se envía a la API de Gemini. Se puede forzar el funcionamiento sin IA o usar una modalidad empresarial de la API.
• En la vigilancia de servidores WordPress, las claves SSH se guardan cifradas y solo se cargan en memoria. Solo se ejecutan comandos de una lista permitida y siempre con confirmación humana.

Qué preguntar a tu proveedor de IA

• ¿Dónde se procesan y se guardan los datos, y en qué país?
• ¿Qué servicios de terceros intervienen y qué datos reciben?
• ¿Se usan mis datos para entrenar algún modelo?
• ¿Firmáis un contrato de encargado del tratamiento?
• ¿Quién tiene acceso a mi información dentro de vuestra empresa?
• ¿Cómo guardáis las claves de acceso a mis sistemas?
• ¿Puedo borrar todos mis datos y cómo lo compruebo?

Preguntas frecuentes

¿Puedo usar ChatGPT con datos de clientes?

Con la versión gratuita, mejor no. Con versiones de pago o empresariales que excluyen el uso de tus datos para entrenar y con un contrato adecuado, es posible, siempre aplicando la minimización: envía solo lo imprescindible.

¿Tengo que informar a mis clientes de que uso IA?

Si la IA trata sus datos personales, tu política de privacidad debe recogerlo. Si un cliente habla con un chatbot, hay que decirle que es un sistema automático, salvo que sea evidente.

¿Es más seguro procesar en local?

Reduce el riesgo de que los datos salgan de tu empresa, pero exige mantener el equipo o el servidor actualizado y protegido. Para documentación muy sensible suele compensar.

¿Qué hago si un empleado ya ha pegado datos sensibles en un chat público?

Revisa qué datos fueron y en qué servicio, borra la conversación si la herramienta lo permite y consulta con tu delegado de protección de datos o tu asesor si hay que notificar algo. Después, aprovecha para escribir la norma interna de uso.