DeepSeek, la IA que fascina y preocupa, ¿estamos ante un “caballo de Troya”?

DeepSeek, una startup china de inteligencia artificial (IA), irrumpió en la escena tecnológica mundial con sus modelos de lenguaje de gran tamaño (LLM) de código abierto. Si bien la comunidad tecnológica celebra la eficiencia y la capacidad de DeepSeek para rivalizar con gigantes como OpenAI y Google, surgen preocupaciones sobre los peligros potenciales que podría representar.

Fundada en Hangzhou en 2023 por Liang Wenfeng, un administrador de fondos de cobertura que se ha convertido en una figura prominente en el impulso de la IA en China, DeepSeek experimentó un rápido ascenso en el panorama de la IA. Su modelo DeepSeek-R1, lanzado en enero de 2025, demostró un rendimiento comparable al de los modelos líderes de OpenAI en tareas como matemáticas, codificación y razonamiento del lenguaje natural. La aplicación de chatbot de la compañía también alcanzó el primer puesto en descargas gratuitas en la App Store de Apple tanto en China como en Estados Unidos, superando a ChatGPT en este último.

A pesar de sus logros, DeepSeek se vio envuelto en controversias. Expertos cuestionan que la empresa haya entrenado su modelo V3 con un costo inferior a 6 millones de dólares, utilizando chips Nvidia H800 y posiblemente evadiendo las restricciones de exportación de Estados Unidos. Este bajo costo y el rápido progreso de la empresa podrían ser un “cisne negro” afectando a las acciones tecnológicas estadounidenses.

Las condiciones de servicio de DeepSeek también generan preocupación. La compañía establece que los usuarios son totalmente responsables de todas las entradas enviadas a sus servicios y de las salidas correspondientes, lo que podría exponerlos a riesgos legales si, por ejemplo, suben datos protegidos por derechos de autor o información delicada sin saberlo. Además, la startup se reserva el derecho de utilizar las entradas y salidas de los usuarios para mejorar sus servicios, lo que plantea dudas sobre la privacidad de los datos, especialmente porque no existe una opción clara para que los usuarios se excluyan de este uso.

Finalmente, DeepSeek conserva todos los derechos de propiedad intelectual relacionados con sus servicios, lo que limita significativamente la forma en que los usuarios pueden interactuar con las salidas y el software de la compañía.

Un análisis más profundo de DeepSeek revela un patrón preocupante de censura. Se observó que el modelo evita responder preguntas sobre temas políticamente sensibles relacionados con China. Por ejemplo, cuando se le pregunta sobre la situación de los musulmanes uigures en Xinjiang o sobre la soberanía de Taiwán, DeepSeek responde con evasivas o proporciona información que se alinea con la narrativa del gobierno chino. Este sesgo en las respuestas de DeepSeek plantea serias dudas sobre su objetividad y su capacidad para proporcionar información imparcial a los usuarios.

El rápido desarrollo del chatbot y su creciente popularidad plantean importantes interrogantes éticas. La capacidad de la IA para analizar grandes conjuntos de datos y generar contenido realista podría ser utilizada para la vigilancia masiva, la manipulación y la difusión de desinformación. Además, la naturaleza de código abierto de DeepSeek, si bien fomenta la innovación, también aumenta el riesgo de que la tecnología sea utilizada por actores malintencionados para fines destructivos.

Al igual que TikTok, DeepSeek es una empresa tecnológica china que logró una rápida expansión global, generando inquietudes sobre la seguridad de los datos y la posible influencia del gobierno chino. Ambas plataformas han sido objeto de escrutinio por su capacidad para recopilar grandes cantidades de datos de usuarios, lo que plantea interrogantes sobre cómo se utiliza y protege esa información.

La preocupación radica en que, al igual que con TikTok, DeepSeek podría verse presionada para compartir datos con el gobierno chino o ser utilizada para promover intereses geopolíticos. Además, la naturaleza de código abierto de DeepSeek, aunque fomenta la innovación, también aumenta el riesgo de que la tecnología sea utilizada para fines maliciosos, como la difusión de desinformación o la manipulación de la opinión pública, un problema que también se planteó con TikTok.

Si bien DeepSeek se presenta como una empresa con un compromiso con el desarrollo responsable de la IA, existen preocupaciones sobre cómo se pondrán en práctica estos principios. La censura observada en el modelo y la falta de transparencia en sus términos y condiciones plantean dudas sobre su compromiso con la ética y la privacidad de los datos.

Expertos en ciberseguridad advierten que DeepSeek podría representar una seria amenaza. Su capacidad para procesar grandes volúmenes de datos en tiempo real podría ser explotada para identificar vulnerabilidades en sistemas complejos, lo que facilitaría el lanzamiento de ciberataques.

Además, las capacidades generativas de DeepSeek podrían utilizarse para crear correos electrónicos de phishing hiperrealistas, suplantar identidades y difundir desinformación a gran escala. La naturaleza del código abierto de DeepSeek, si bien fomenta la innovación, también aumenta el riesgo de que la tecnología sea utilizada por actores malintencionados para fines destructivos. DeepSeek podría actuar como un “caballo de Troya”, recopilando datos sensibles de usuarios en Estados Unidos y otros países.

En diciembre de 2024, se descubrió una vulnerabilidad de seguridad en DeepSeek que permitía a los atacantes tomar el control de la cuenta de una víctima mediante un ataque de inyección de comandos. Esta vulnerabilidad, aunque ya fue corregida, pone de manifiesto la necesidad de una mayor vigilancia y de medidas de seguridad más robustas en el desarrollo de modelos de IA. Los modelos clonados de DeepSeek-R1 podrían ser utilizados para realizar ataques de suplantación de identidad y fraude.

La capacidad de DeepSeek para analizar datos y generar contenido realista también plantea preocupaciones sobre su posible uso en aplicaciones militares. Expertos en IA advierten sobre el riesgo de que la IA se utilice para crear armas autónomas letales o para intensificar los conflictos a través de la desinformación y la manipulación. Regulaciones y políticas gubernamentales chinas

El gobierno chino implementó una serie de regulaciones y políticas para controlar el desarrollo y la aplicación de la IA, incluyendo la Ley de Protección de Información Personal (PIPL) y el Marco de Gobernanza de la IA.

Sin embargo, algunos expertos argumentan que estas regulaciones se centran más en el control de la información y la seguridad nacional que en el crecimiento económico. La influencia del gobierno chino en el desarrollo de DeepSeek plantea interrogantes sobre la transparencia y la independencia de la compañía. La información personal recopilada por DeepSeek puede almacenarse en servidores ubicados en China, donde las leyes de protección de datos son más débiles.

El avance de DeepSeek está generando preocupaciones significativas sobre la regulación y el liderazgo global en inteligencia artificial. Según el New York Times, legisladores estadounidenses debatieron limitar el desarrollo de tecnologías de código abierto por temor a que puedan ser usadas para difundir desinformación o causar otros daños graves.

Además, mientras el gobierno estadounidense endurece las restricciones para evitar que China acceda a chips avanzados, DeepSeek demostró que estas políticas tienen limitaciones, al lograr avances considerables con recursos más modestos. Esto pone en entredicho la capacidad de las regulaciones actuales para proteger la ventaja tecnológica de Estados Unidos frente al crecimiento de la innovación china, destacó el NYT.

La eficiencia de DeepSeek se debe en gran medida a sus innovaciones técnicas. El modelo utiliza un sistema de “Cerebro Fiduciario” (Selective Expert System) que activa solo los parámetros necesarios para una tarea específica, optimizando el uso de recursos. Además, su sistema de atención “Magia de Memoria” (Multi-head Latent Attention) crea resúmenes comprimidos que reducen el uso de memoria en un 40 %. Estas optimizaciones, junto con otras como el “Equilibrio de Carga sin Pérdida Auxiliar” y la “Predicción Multi Token”, permiten a DeepSeek lograr un alto rendimiento con un costo significativamente menor que sus competidores.

Satya Nadella, CEO de Microsoft, ofreció una perspectiva optimista sobre el impacto de DeepSeek al sugerir que su éxito podría desencadenar lo que llamó un “momento de paradoja de Jevons”. Este concepto, originado en la economía, explica que cuando una tecnología se vuelve más eficiente y accesible, su uso no disminuye, sino que aumenta de manera exponencial debido a la reducción de costos y la creciente demanda.

Sin embargo, el artículo de hoy del New York Times advierte que el surgimiento de DeepSeek también pone en cuestión las estrategias de Occidente para limitar el acceso de China a tecnologías avanzadas de inteligencia artificial, demostrando que estas políticas pueden tener alcances limitados frente a innovaciones disruptivas como las de esta startup.

DeepSeek resalta la necesidad de una cooperación internacional para garantizar un uso responsable de la inteligencia artificial. La competencia tecnológica no debe comprometer la seguridad global ni la privacidad. Es imprescindible establecer normas éticas que promuevan la innovación y fomenten la colaboración, enfrentando de manera conjunta los desafíos que plantea la IA.