NASHVILLE, Tennessee.— Una empresa china ha estado intentando desarrollar tecnología impulsada por inteligencia artificial que permitiría a los gobiernos autoritarios no solo vigilar a los disidentes, sino también predecir quién podría convertirse en uno en el futuro.
El trabajo, que parece encontrarse todavía en una etapa de investigación, parece sacado de una novela de ciencia ficción distópica y ofrece una visión de un mundo en el que un Estado autoritario es capaz de actuar contra sus ciudadanos antes incluso de que expresen públicamente cualquier forma de disenso.
La empresa china Geedge Networks comercializa una versión del Gran Cortafuegos (Great Firewall), el sistema de vigilancia y censura que China utiliza para controlar la actividad en internet. Estas herramientas permiten a los gobiernos monitorear el tráfico en línea y detectar cuando alguien intenta eludir la censura tradicional de internet.
Pero, según documentos internos filtrados de la compañía, la firma está trabajando en nuevos productos que utilizan inteligencia artificial para analizar datos de ubicación y uso de internet con el fin de predecir quién podría hacer o decir algo crítico del gobierno, de acuerdo con investigadores de la Universidad de Vanderbilt.
Esa tecnología, si llegara a perfeccionarse, otorgaría a los gobiernos autoritarios una poderosa herramienta para utilizar contra sus enemigos percibidos.
La idea de que un gobierno autoritario utilice inteligencia artificial para reprimir la disidencia ya resulta inquietante. Pero el uso de IA para predecir la disidencia mucho antes de que una persona haya actuado se ha convertido en un escenario de pesadilla para algunos especialistas del sector.
“Esto es lo que ocurre cuando la vigilancia masiva se encuentra con la IA”, dijo Brett J. Goldstein, director del Wicked Problems Lab del Instituto de Seguridad Nacional de Vanderbilt. “Sin controles y contrapesos, lo que China está haciendo con sus propios ciudadanos es un adelanto de lo que podría hacerse en cualquier lugar donde estas herramientas operen sin supervisión”.
Los investigadores de Vanderbilt descubrieron que Geedge, trabajando junto con su brazo de investigación respaldado por el gobierno, MESA Lab, estaba desarrollando una tecnología capaz de generar perfiles de ciudadanos chinos y luego utilizar IA para identificar quién podría representar un riesgo político.
Sin embargo, el avance de la empresa parece haberse visto obstaculizado por los controles de exportación impuestos durante la administración Biden sobre chips diseñados en Estados Unidos, que son fundamentales para alimentar los sistemas de inteligencia artificial. Esto sugiere que las restricciones estadounidenses podrían haber ralentizado el desarrollo chino de la próxima generación de tecnologías de vigilancia.
Documentos de Geedge muestran que, en 2024, cuando estaban vigentes estrictos controles de exportación estadounidenses, la empresa y su laboratorio tuvieron dificultades para conseguir suficiente capacidad informática para sus tecnologías de vigilancia.
Brett V. Benson, profesor de Ciencia Política en Vanderbilt, explicó que los documentos hacen referencia a limitaciones en las GPU. Las GPU (unidades de procesamiento gráfico) son los chips que alimentan los modelos de IA. Como consecuencia de esas limitaciones, señaló, la empresa comenzó a utilizar modelos y chips de inteligencia artificial más antiguos y menos potentes.
Actualmente, Geedge tiene acceso a suficientes GPU para sostener sus productos actuales, según funcionarios estadounidenses. Pero para desarrollar la versión más ambiciosa de su tecnología predictiva, probablemente necesitaría chips más avanzados de los que China puede adquirir hoy, agregaron esas fuentes.
Exfuncionarios de la administración Biden afirmaron que la inteligencia recopilada mostraba que las políticas destinadas a impedir que China accediera a chips estadounidenses de alta gama habían funcionado tanto para preservar la ventaja estadounidense en inteligencia artificial como para ralentizar el desarrollo de otras tecnologías chinas.
Sin embargo, sigue siendo una incógnita si los controles de exportación estadounidenses lograrán frenar el desarrollo chino de usos más represivos de la inteligencia artificial.
La administración Trump ha flexibilizado parte de las restricciones heredadas de la era Biden, aunque mantuvo las limitaciones sobre los procesadores más avanzados de Nvidia, la empresa estadounidense que diseña los chips de inteligencia artificial más potentes del mundo. Durante el reciente viaje del presidente Donald Trump a Pekín, funcionarios estadounidenses señalaron que China tendría acceso a una versión más avanzada de los chips de Nvidia.
Aun así, China intenta independizar a sus compañías de inteligencia artificial de los chips diseñados en Estados Unidos para que los controles de exportación dejen de limitar sus ambiciones.
Perfilar a los críticos del futuro
La nueva información surgió de un enorme conjunto de datos que incluía 100.000 documentos de Geedge, publicados originalmente en septiembre pasado. Trabajando con esos materiales, Wired y otras publicaciones describieron cómo Geedge exportó su software de seguridad de redes a países como Etiopía, Kazajistán, Myanmar y Pakistán, permitiéndoles llevar a cabo vigilancia masiva sobre redes móviles.
Los investigadores de Vanderbilt que examinaron los documentos se concentraron no en la tecnología que Geedge ya vendía, sino en la próxima generación de herramientas que intentaba desarrollar, así como en las limitaciones que podrían impedir su implementación.
Según los documentos de Geedge, durante los primeros meses de 2024 los investigadores trabajaban en la creación de perfiles de comportamiento de las personas a partir de datos de telecomunicaciones, redes sociales y ubicación geográfica. Los modelos de IA eran utilizados para clasificar individuos y para “detectar información dañina”, una expresión que el Partido Comunista Chino suele emplear como eufemismo para referirse a la identificación de disidencia política u otro material que el gobierno desea suprimir.
En una reunión celebrada el 5 de febrero de 2024, los investigadores debatieron cómo construir perfiles de personas para “identificar sus intenciones” y “lograr el descubrimiento de información dañina”, según las actas del encuentro.
Los investigadores de Geedge parecían estar desarrollando herramientas destinadas a utilizar IA para predecir quién podría convertirse en crítico del gobierno chino, basándose en los patrones de datos recopilados por las tecnologías de vigilancia de la empresa.
“El equipo de investigación de Geedge estaba haciendo mucho más que documentar patrones de comportamiento. Estaban intentando predecir qué podrían hacer los ciudadanos después y con quién”, afirmó Benson. “Esos enormes depósitos de datos sobre actividades ordinarias son la materia prima para generar perfiles que determinen quién eres y qué harás a continuación”.
Geedge no respondió a una solicitud de comentarios.
Los documentos sugieren que el equipo de la compañía estaba trabajando para vincular los movimientos físicos de las personas con otras actividades en línea, incluyendo las películas que veían y los libros que leían, según los investigadores de Vanderbilt.
Los comentarios están cerrados.