inoticia

Un profesor estrella de la Universidad de Maryland (UMD) creó un software de aprendizaje automático “útil para la vigilancia” como parte de una subvención de investigación de seis cifras del gigante tecnológico chino Alibaba, lo que generó preocupaciones de que una universidad pública estadounidense contribuyó directamente al estado de vigilancia de China.

Alibaba proporcionó $125,000 en fondos a un equipo de investigación dirigido por Dinesh Manocha, profesor de informática en UMD College Park, para desarrollar un software de vigilancia urbana que puede “clasificar la personalidad de cada peatón e identificar otras características biométricas”, según la beca de investigación. documentos obtenidos mediante solicitud de registros públicos.

“Estas capacidades se utilizarán para predecir el comportamiento de cada peatón y son útiles para la vigilancia”, se lee en el documento.

Los productos de vigilancia de Alibaba ganaron notoriedad en 2020, cuando los investigadores descubrieron que uno de sus productos, Cloud Shield, podía reconocer y clasificar los rostros de los uigures. El grupo de derechos humanos cree que estas herramientas de vigilancia de alta tecnología juegan un papel importante en el genocidio uigur en curso en Xinjiang.

“La conclusión es que Alibaba financió la investigación académica de EE. UU. que se hizo a la medida del estado de vigilancia de China”, dijo Ryan Fedasiuk, miembro asociado del Centro para la Nueva Seguridad Estadounidense, en un correo electrónico a The Daily Beast.

Manocha es una académica condecorada en el campo de la IA y la robótica que ha ganado premios y elogios de Google, IBM y muchos otros. Su estatus de estrella trae recompensas: los contribuyentes de Maryland pagaron $355,000 en salarios al profesor en 2021, según el organismo de control del gobierno Open the Books. El ejército de EE. UU. también proporciona una generosa financiación para la investigación del profesor, firmando un acuerdo de $ 68 millones con el laboratorio de Manocha para investigar aplicaciones militares de tecnologías de IA.

Pero los contribuyentes de Maryland y el ejército estadounidense no son los únicos que financian la investigación de Manocha. En enero de 2018, la Universidad de Maryland y Alibaba firmaron un contrato de investigación de 18 meses para financiar el equipo de investigación de Manocha.

En el documento de subvención obtenido por The Daily Beast, El equipo de Manocha se comprometió a “trabajar en estrecha colaboración con los investigadores de Alibaba” para desarrollar un software de vigilancia urbana que pueda identificar a los peatones en función de sus firmas de paso únicas. Luego, el algoritmo usaría las firmas de la marcha para clasificar a los peatones como “agresivos”, “tímidos”, “impulsivos” y otras personalidades.

La subvención requería que los investigadores de la UMD probaran el algoritmo en videos proporcionados por Alibaba y presentaran sus hallazgos en persona en los laboratorios de Alibaba en China. Los académicos también tuvieron que proporcionar la base de código C++ para el software y el conjunto de datos sin procesar como entregables a Alibaba.

La “clara implicación del software es predecir de forma proactiva manifestaciones y protestas para que puedan ser reprimidas”, dijo Fedasiuk a The Daily Beast.. “Dado lo que sabemos ahora sobre la arquitectura de represión de China en Xinjiang y otras regiones, está claro que el Dr. Manocha no debería haber presentado este proyecto, y los administradores de la UMD no deberían haberlo aprobado”.

UMD se negó a comentar sobre esta historia. Manocha no respondió a múltiples solicitudes de comentarios.

No solo Alibaba estaba interesada en la experiencia del profesor. En enero de 2019, cuando la subvención de Alibaba todavía estaba activa, Manocha obtuvo una subvención del Departamento de Defensa de $ 321,000 financiada por los contribuyentes para su equipo de investigación.

Las dos subvenciones financiaron proyectos de investigación muy similares. El premio Alibaba se tituló “aprendizaje conductual a gran escala para multitudes densas”. Mientras tanto, la subvención del Departamento de Defensa financió la investigación de “modelos computacionales eficientes para simular multitudes heterogéneas a gran escala”.

Como era de esperar, los resultados de la investigación producidos por las dos subvenciones tuvieron una superposición significativa. Entre 2019 y 2021, Manocha publicó varios artículos en el campo de la IA y el aprendizaje automático que citaban tanto la subvención de Alibaba como la del Departamento de Defensa.

No hay pruebas de que Manocha haya infringido la ley al utilizar fuentes de financiación estadounidenses y chinas para financiar proyectos de investigación similares. Sin embargo, el caso aún plantea “serias dudas sobre la ética en la investigación del aprendizaje automático”, dijo Fedasiuk.

Muchos en el gobierno de EE. UU. comparten las preocupaciones de Fedasiuk. En los últimos años, los políticos estadounidenses han presionado para desalentar a los científicos de buscar financiación extranjera.

Un memorando de la Casa Blanca de 2021, escrito bajo la administración Trump y respaldado por la Casa Blanca de Biden, buscaba contrarrestar la interferencia china en el mundo académico estadounidense al exigir a los investigadores financiados por los contribuyentes estadounidenses que “divulguen por completo la información que pueda revelar posibles conflictos de intereses”. Mientras tanto, en el Congreso, el representante Mike Waltz presentó una legislación que prohibía a los investigadores estadounidenses participar en programas de reclutamiento de talentos extranjeros.

El congresista dijo que el caso de Manocha es “otra llamada de atención” y “precisamente por qué” introdujo la legislación.

Los lazos de Manocha con China se extienden más allá de su trabajo con Alibaba. Entre 2014 y 2016, el profesor trabajó como Thousand Talents Scholar, un programa chino considerado una amenaza a la seguridad nacional por parte del gobierno de EE. UU. En 2018, Baidu, otro gigante tecnológico chino, contrató a Manocha como consultor senior para su rama de investigación.

El profesor continuó trabajando con sus homólogos chinos incluso después de que la subvención de Alibaba expiró en junio de 2019, y coescribió un artículo con académicos chinos afiliados al complejo militar-industrial chino en 2020.

Jessica Brandt, directora de políticas de la Iniciativa de Inteligencia Artificial y Tecnología Emergente de la Institución Brookings, dijo a The Daily Beast que el caso de Manocha debería ser una advertencia para otros investigadores estadounidenses.

“Creo que este caso destaca cuán importantes pueden ser las decisiones de colaboración de los investigadores y cuán importante es que la comunidad académica desarrolle códigos de conducta para guiar esas decisiones”, dijo.