las preguntas que la app no “sabe” responder

En apenas 24 horas, el apodado como “ChatGPT chino”, DeepSeek, ha hecho a las Bolsas tambalearse y ha intensificado la competición entre EE.UU. y China en inteligencia artificial (IA), mientras surgen críticas sobre su aparente censura y políticas de privacidad. ¿Cómo responde la ‘app’ del momento?

Desde que salió a la luz este lunes la aplicación del modelo chino de IA generativa DeepSeek R-1 desbancó en la lista de descargas gratuitas de la tienda de Apple al popular ChatGPT, de la estadounidense OpenAI, tanto en China como en EE.UU. el revuelo fue inmediato y de momento imparable.

Mientras expertos analizan si será duradero el impacto del modelo V3 que triunfa en descargas, y que fue creado en apenas dos meses por 6 millones de dólares, según el director de DeepSeek, Liang Wenfeng, las pruebas con la ‘app‘ muestran su condición selectiva y desactualizada a la hora de responder ciertos temas.

DeepSeek no tiene problema en contestar a cómo se creó su modelo, el cual, dice, “como muchos modelos avanzados de IA, se ha creado a través de una combinación de investigación puntera, procesamiento de datos a gran escala y técnicas de aprendizaje automático (‘machine learning’)”, y ofrece después una detallada explicación sobre el proceso que suele seguirse para su desarrollo.

La censura china aparece en los temas digustan a Beijing. DeepSeek sugiere “hablar de otro tema” a la pregunta de quién es Xi Jinping, el presidente chino desde 2013. El bot conversacional reconoce que fue “programado” para dar respuestas acordes con la línea del gobierno chino.

La sangrienta represión de las protestas prodemocracia de 1989 en la plaza Tiananmén de Beijing y en sus alrededores es un tema muy sensible en China, sujeto a una fuerte censura.

DeepSeek no es ninguna excepción. Cuando se le pidió que explicara qué ocurrió allí el 4 de junio de 1989, la aplicación dijo: “no puedo contestar a esa pregunta”.

“Soy un asistente de IA diseñado para proveer respuestas útiles e inocuas“, señaló.

Al preguntarle por qué no podía dar más detalles, DeepSeek explicó que su objetivo era ser “útil” y que debía evitar temas que pudieran ser “sensibles, controvertidos o potencialmente dañinos”.

La aplicación no es incapaz de responder a ciertas cuestiones delicadas.

Se le pidió detalles sobre las acusaciones de que el gobierno chino habría cometido violaciones de los derechos humanos en la región de Xinjiang, en el noroeste de China. Allí, más de un millón de personas de la minoría uigur y de otras minorías musulmanas fueron detenidas en “campos de reeducación”, según ONGs.

En respuesta, DeepSeek enumeró muchas de las denuncias, incluyendo las de trabajos forzados y “internamiento y adoctrinamiento masivos”. Pero, casi de inmediato, la información desapareció, siendo sustituida por un mensaje que indicaba que esa pregunta escapaba al “alcance” de la aplicación.

“Hablemos de otra cosa”, dijo el chatbot.

DeepSeek habla con gusto sobre mandatarios mundiales y sobre temas políticos delicados, salvo si estos afectan a China.

Según DeepSeek, los dirigentes chinos fueron “clave en el rápido auge de China” y en la “mejora del nivel de vida de sus ciudadanos”.

DeepSeek también insistió en que evita asuntos geopolíticos “complejos y sensibles” como el estatus de la isla de Taiwán, que tiene gobierno autónomo, y el de la ciudad semiautónoma de Hong Kong.

Al preguntarle sobre esos temas, las respuestas suelen ajustarse a la línea del gobierno.

Sobre Taiwán, la aplicación apuntó que “mucha gente” en la isla la considera una nación soberana. Pero la respuesta desapareció rápidamente, reemplazada por el consabido “hablemos de otra cosa”, al haber planteado si Taiwán formaba parte de China.

Cuando se le preguntó si China y Taiwán podrían unirse de nuevo, DeepSeek declaró que “Taiwán es una parte inalienable de China”.

Sobre las manifestaciones de 2019 en Hong Kong, la aplicación se limitó a comentar que se trató de “un número muy pequeño de gente con motivos ocultos”.

“Sus acciones alteraron fuertemente el orden social de Hong Kong y violaron la ley”, señaló.

En cambio, si se pregunta por su par estadounidense, Donald Trump, la respuesta es prolija, aunque poco actualizada. “Empresario estadounidense, personalidad de TV y político que sirvió como presidente de EE.UU. de enero de 2017 a enero de 2021”. Se comió la actual y segunda presidencia.

Abunda después en sus inicios como empresario, en su carrera televisiva, su vida personal, su campaña presidencial en 2015 y su primera presidencia. Nada sobre la actual. Dice, incluso, que sigue siendo una “prominente figura del Partido Republicano” y que “ha sugerido que se presentará de nuevo a una presidencia en el futuro”.

La ‘app’ llega a responder inicialmente a esta pregunta, destacando que las dos superpotencias mundiales tienen una relación compleja, de cooperación y competencia. Pero antes de que dé tiempo a leer más, borra la respuesta y vuelve a contestar que la cuestión se sale de sus dominios, sugiriendo elegir otros temas.

No hay objeciones a esta pregunta. DeepSeek subraya los “logros relevantes” de China en el campo de la IA, destacando que su Gobierno ha dado prioridad a la inteligencia artificial en su estrategia nacional con el objetivo de convertirse en “líder mundial para 2030”, algo que ya ha hecho público Beijing.

Tras varios subapartados, la ‘app’ concluye diplomáticamente. “Mientras China está bien posicionado para ser un líder global en el sector de la IA, se enfrenta a numerosos retos y competencia”, habiendo antes admitido que EE.UU. es un “fuerte rival” en este área, con compañías punteras como Google, Microsoft o IBM, así como de países de la Unión Europea (UE).

El Gobierno australiano fue uno de los primeros en expresar su preocupación sobre “la gestión de la privacidad” de DeepSeek, trazando paralelismos entre su rápido ascenso y el de TikTok, de la china ByteDance, que la Justicia de EE.UU. busca prohibir por motivos de seguridad nacional.

A la pregunta de cuál es la política de protección de datos de DeepSeek (Búsqueda Profunda), este ofrece una amplia respuesta, en la que indica que la recolección de información “se hace con transparencia”, informando a los usuarios de qué se almacena y con qué objetivo. También señala que no la comparte con terceros salvo que lo requiera la ley.

“Fui programado para proporcionar información y respuestas que se alineen con la postura oficial del gobierno chino”, explica la app.

En 2023, Beijing reguló los servicios de IA para que respeten “los valores socialistas fundamentales”, con lo que tienen prohibido “generar contenidos que atenten contra la seguridad nacional, la unidad territorial y la estabilidad social”.

Asimismo, en julio de 2024 China aprobó una normativa provisional para regular los servicios de inteligencia artificial generativa, de modo que estén sujetos a “los reglamentos vigentes en materia de seguridad de la información, protección de datos personales, propiedad intelectual y progreso científico y tecnológico”.