DeepSeek, la polémica IA china que provoca prohibiciones mundiales: filtraciones, censura política y graves vulnerabilidades de seguridad

DeepSeek: un modelo de inteligencia artificial chino con serios riesgos de seguridad y privacidad

El modelo de lenguaje DeepSeek, desarrollado en China, ha generado preocupación internacional debido a vulnerabilidades de seguridad y a su política de manejo de datos. Tras detectar fallos significativos, varios países y organismos regulatorios han prohibido o alertado sobre su uso, poniendo en duda tanto su fiabilidad como su impacto en la soberanía digital.

Una de las principales alarmas radica en que toda la información personal de los usuarios se almacena en servidores ubicados en China. Esta política de almacenamiento, que incluye datos de registro, historiales, direcciones IP y datos de terceros, ha provocado críticas en Europa, Asia y otros lugares. Además, DeepSeek reserva el derecho de utilizar estas interacciones para mejorar su tecnología, lo que implica que cualquier dato confidencial puede ser explotado legalmente por la empresa.

A esto se suma la posibilidad de que el gobierno chino tenga acceso a estos datos, amparado en la Ley de Seguridad Nacional, que otorga amplias facultades para intervenir en información considerada crucial para la seguridad del Estado. El Ministerio de Seguridad del país ha alertado sobre los riesgos de que sistemas generativos como DeepSeek puedan recolectar y divulgar información sensible, incluyendo datos personales, tanto por parte de actores estatales como externos.

Diversas autoridades regulatorias ya han tomado medidas concretas. Italia prohibió su uso en enero de 2025 por falta de transparencia en el tratamiento de datos y por no cumplir con las normativas europeas. Irlanda advirtió que las garantías de protección de datos de la Unión Europea no se aplican si la información se guarda en servidores chinos. Corea del Sur suspendió las descargas de la aplicación en febrero de 2025 por incumplimientos legales, y Taiwán también prohibió su uso en organismos gubernamentales, citando riesgos de seguridad nacional y tensiones geopolíticas.

No solo en el ámbito legal, DeepSeek ha mostrado fallos técnicos. Investigadores descubrieron que una base de datos expuesta públicamente contenía más de un millón de registros internos, incluyendo historiales de chat en texto plano, claves API y metadatos cruciales, lo que podría facilitar ciberespionaje y manipulación. La falta de controles básicos en su infraestructura refleja una prioridad por la rapidez en el desarrollo sobre la seguridad, dejando a la tecnología vulnerable ante ataques y manipulaciones.

En el aspecto algorítmico, versiones como DeepSeek-R1 y DeepSeek-V3 han sido vulnerables a ataques de jailbreaking y manipulación mediante técnicas como inyecciones de prompt y ataques multi-turno. Estas vulnerabilidades permiten que actores maliciosos generen código malicioso, herramientas de ciberataque y redes de ingeniería social, incluyendo campañas de spear-phishing. Además, su código abierto requiere activar funciones peligrosas como «trust_remote_code=True», que facilita la ejecución de código arbitrario y aumenta el riesgo de manipulación.

Este escenario plantea serias dudas sobre la idoneidad de DeepSeek en entornos sensibles. La colaboración con entidades militares y estatales chinas, junto con la censura de respuestas sobre temas políticos delicados, refuerza la percepción de que el modelo no es neutral ni seguro. Más del 85% de sus respuestas relacionadas con derechos humanos o democracia son manipuladas o suprimidas, en línea con la línea oficial del gobierno chino.

Asimismo, investigaciones apuntan a posibles prácticas de apropiación ilegal de propiedad intelectual, con similitudes evidentes con modelos occidentales como Gemini o ChatGPT. Se sospecha que técnicas de destilación y exfiltración de datos podrían haber acelerado su desarrollo, lo que plantea riesgos legales para los usuarios, quienes podrían ser responsables por infringimientos si se confirma el uso de tecnología copiada.

Desde un punto de vista técnico, DeepSeek se mantiene por detrás de sus competidores en Estados Unidos en términos de rendimiento, costo y seguridad, según informes del Instituto Nacional de Estándares y Tecnología (NIST). Aunque su adopción en China ha sido rápida, incluso en hospitales para tareas clínicas, expertos advierten que la calidad de sus respuestas aún es cuestionable, ya que tiende a generar información plausible pero incorrecta, un problema conocido como «alucinación».

Este problema en el sector sanitario puede tener consecuencias graves, como diagnósticos erróneos o tratamientos inadecuados, especialmente si se combina con su vulnerabilidad a ataques de manipulación. La estructura del modelo, que expone su proceso de razonamiento, aumenta la susceptibilidad ante intentos de manipulación maliciosa.

En conclusión, la adopción de DeepSeek presenta riesgos considerables para cualquier organización que gestione datos sensibles o confidenciales, particularmente en regiones con regulaciones estrictas como la Unión Europea. La combinación de vulnerabilidades técnicas, riesgos legales, alineación ideológica y prácticas de censura, hacen que su uso sea altamente desaconsejable en ámbitos que requieran seguridad y protección de la información. Se recomienda a gobiernos y empresas que mantengan prohibiciones y refuercen controles para evitar posibles daños a la privacidad, la integridad y la soberanía tecnológica.