inoticia

PITTSBURGH (AP) — Durante las dos semanas que la bebé de los Hackney permaneció en una cama de hospital de Pittsburgh débil por la deshidratación, sus padres rara vez se apartaron de su lado, a veces durmiendo en el sofá plegable de la habitación.

Se quedaron con su hija todo el día cuando la trasladaron a un centro de rehabilitación para recuperar su fuerza. Finalmente, la niña de 8 meses dejó de batir sus biberones y comenzó a ganar peso nuevamente.

“Le estaba yendo bien y comenzamos a preguntar cuándo puede irse a casa”, dijo Lauren Hackney. “Y luego, a partir de ese momento, en ese momento, nos bloquearon por completo”.

La pareja quedó atónita cuando aparecieron los funcionarios de bienestar infantil, les dijeron que habían sido negligentes y se llevaron a su hija.

“Tenían documentos de custodia y se la llevaron allí mismo”, recordó Lauren Hackney. “Y empezamos a llorar”.

Más de un año después, su hija, que ahora tiene 2 años, permanece en un hogar de acogida y los Hackney, que tienen discapacidades del desarrollo, luchan por comprender cómo llevar a su hija al hospital cuando se negaba a comer podía considerarse tan negligente que ella hay que sacarla de su casa.

Se preguntan si una herramienta de inteligencia artificial que utiliza el Departamento de Servicios Humanos del condado de Allegheny para predecir qué niños podrían estar en riesgo de daño los seleccionó debido a sus discapacidades.

El Departamento de Justicia de los Estados Unidos está haciendo la misma pregunta. La agencia está investigando el sistema de bienestar infantil del condado para determinar si el uso del influyente algoritmo discrimina a las personas con discapacidades u otros grupos protegidos, según supo The Associated Press. A fines de este mes, los abogados federales de derechos civiles entrevistarán a los Hackney y a la madre de Andrew Hackney, Cynde Hackney-Fierro, dijo la abuela.

Lauren Hackney tiene un trastorno por déficit de atención con hiperactividad que afecta su memoria, y su esposo, Andrew, tiene un trastorno de comprensión y daño en los nervios debido a un derrame cerebral que sufrió cuando tenía 20 años. Su bebé tenía 7 meses cuando comenzó a rechazar los biberones. Ante la escasez de fórmula en todo el país, viajaron de Pensilvania a Virginia Occidental en busca de fórmula y se vieron obligados a cambiar de marca. Al bebé no parecía gustarle.

Su pediatra primero les aseguró que los bebés pueden ser inconstantes al alimentarse y les ofreció ideas para ayudarla a recuperar el apetito, dijeron.

Cuando se volvió letárgica días después, dijeron, el mismo médico les dijo que la llevaran a la sala de emergencias. Los Hackney creen que el personal médico alertó a los servicios de protección infantil después de que aparecieran con un bebé deshidratado y desnutrido.

Fue entonces cuando creen que su información se introdujo en la Herramienta de evaluación familiar de Allegheny, que según los funcionarios del condado es un procedimiento estándar para las acusaciones de negligencia. Pronto, un trabajador social apareció para interrogarlos y enviaron a su hija a un hogar de crianza.

Durante los últimos seis años, el condado de Allegheny ha servido como un laboratorio del mundo real para probar herramientas de bienestar infantil impulsadas por IA que analizan una gran cantidad de datos sobre familias locales para tratar de predecir qué niños probablemente enfrentarán peligro en sus hogares. Hoy, las agencias de bienestar infantil en al menos 26 estados y Washington, DC, han considerado el uso de herramientas algorítmicas, y las jurisdicciones en al menos 11 las han implementado, según la Unión Estadounidense de Libertades Civiles.

La historia de los Hackney, basada en entrevistas, correos electrónicos internos y documentos legales, ilustra la opacidad que rodea a estos algoritmos. Incluso mientras luchan por recuperar la custodia de su hija, no pueden cuestionar la “puntuación de riesgo” que la herramienta del condado de Allegheny pudo haber asignado a su caso porque los funcionarios no se la revelarán. Y ni el condado ni las personas que construyeron la herramienta han explicado qué variables se pueden haber usado para medir las habilidades de los Hackney como padres.

“Es como si tuvieras un problema con alguien que tiene una discapacidad”, dijo Andrew Hackney. “En ese caso… probablemente termines persiguiendo a todos los que tienen hijos y tienen una discapacidad”.

Como parte de una investigación de un año, AP obtuvo los puntos de datos que respaldan varios algoritmos implementados por agencias de bienestar infantil, incluidos algunos marcados como “CONFIDENCIAL”, que ofrecen una visión poco común de la mecánica que impulsa estas tecnologías emergentes. Entre los factores que han utilizado para calcular el riesgo de una familia, ya sea directamente o por representación: la raza, las tasas de pobreza, el estado de discapacidad y el tamaño de la familia. Incluyen si una madre fumaba antes de quedar embarazada y si una familia tenía quejas previas de abuso o negligencia infantil.

Lo que miden importa. Un análisis reciente realizado por investigadores de la ACLU encontró que cuando el algoritmo de Allegheny marcaba a las personas que accedían a los servicios del condado para la salud mental y otros programas de salud del comportamiento, eso podía sumar hasta tres puntos en la puntuación de riesgo de un niño, un aumento significativo en una escala de 20.

El portavoz del condado de Allegheny, Mark Bertolet, se negó a abordar el caso de Hackney y no respondió preguntas detalladas sobre el estado de la investigación federal o las críticas a los datos que alimentan la herramienta, incluso por parte de la ACLU.

“Como cuestión de política, no comentamos sobre demandas o asuntos legales”, dijo Bertolet en un correo electrónico.

La portavoz del Departamento de Justicia, Aryele Bradford, se negó a comentar.

Los desarrolladores de la herramienta, Rhema Vaithianathan, profesora de economía de la salud en la Universidad Tecnológica de Auckland de Nueva Zelanda, y Emily Putnam-Hornstein, profesora de la Universidad de Carolina del Norte en la Escuela de Trabajo Social de Chapel Hill, dijeron que su trabajo es transparente y que hacen públicos sus modelos.

“En cada jurisdicción en la que se ha implementado completamente un modelo, hemos publicado una descripción de los campos que se utilizaron para construir la herramienta”, dijeron por correo electrónico.

Los desarrolladores han iniciado nuevos proyectos con agencias de bienestar infantil en el condado de Northampton, Pensilvania, y el condado de Arapahoe, Colorado. Los estados de California y Pensilvania, así como Nueva Zelanda y Chile, también les pidieron que hicieran trabajos preliminares.

Vaithianathan recientemente asesoró a investigadores en Dinamarca y funcionarios en los Emiratos Árabes Unidos sobre tecnología en servicios infantiles.

El año pasado, el Departamento de Salud y Servicios Humanos de EE. UU. financió un estudio nacional, en coautoría de Vaithianathan y Putnam-Hornstein, que concluyó que su enfoque general en Allegheny podría ser un modelo para otros lugares.

La portavoz de la Administración para Niños y Familias del HHS, Debra Johnson, se negó a decir si la investigación del Departamento de Justicia influiría en el apoyo futuro de su agencia a los enfoques algorítmicos para el bienestar infantil.

Especialmente a medida que los presupuestos se ajustan, las agencias con problemas de liquidez están desesperadas por concentrarse en los niños que realmente necesitan protección. En un panel de 2021, Putnam-Hornstein reconoció que la “tasa general de pantallas entrantes” de Allegheny se mantuvo totalmente plana desde que se implementó su herramienta.

Mientras tanto, la separación familiar puede tener consecuencias de por vida en el desarrollo de los niños.

La hija de los Hackney ya fue colocada en dos hogares de acogida y pasó más de la mitad de su vida lejos de sus padres.

En febrero, le diagnosticaron un trastorno que puede alterar su sentido del gusto, según el abogado de Andrew Hackney, Robin Frank, quien agregó que la niña todavía tiene dificultades para comer, incluso en hogares de guarda.

“Realmente quiero recuperar a mi hijo”, dijo Andrew Hackney. “Duele mucho. No tienes idea de lo malo.

___

Burke informó desde San Francisco. La videoperiodista de Associated Press Jessie Wardarski y la fotoperiodista Maye-E Wong en Pittsburgh contribuyeron a este despacho.

___

Siga a Sally Ho y Garance Burke en Twitter en @_sallyho y @garanceburke.

___

Comuníquese con el equipo de investigación global de AP en [email protected] o https://www.ap.org/tips/