inoticia

A medida que Estados Unidos se recupera de otra horrible masacre escolar, aumenta la tentación de desatar nuevas tecnologías de vigilancia sobre las escuelas y los estudiantes, por “seguridad”. Pero, en general, estas tecnologías no solo no funcionan según lo previsto, sino que en realidad son dañinas.

Si eres un estudiante en Estados Unidos, ya existe una buena probabilidad de que mientras estés en la escuela, cada sitio web que visites, cada tarea que escribas, cada correo electrónico que envíes, todos los archivos adjuntos que incluyas en los correos electrónicos, cualquier comentario que publiques en Google documento, y mucho más, son escaneados por herramientas de monitoreo automatizado.

Los algoritmos utilizados en este software están diseñados para atrapar a cualquier persona que esté mirando, escribiendo o investigando temas “peligrosos”, que pueden abarcar todo, desde palabras y frases a menudo benignas como “Me estoy tomando un descanso mental” o “Tuve una pelea”. con mi novio”, a temas políticamente más complicados pero no peligrosos como los derechos reproductivos, las relaciones raciales o los temas LGTBQ+.

Cuando se utiliza un dispositivo proporcionado por la escuela, a menudo el único dispositivo al que tienen acceso los estudiantes marginados y de bajos ingresos, el escaneo es aún más probable y generalizado. Según el Centro para la Democracia y la Tecnología, el 71 por ciento de los maestros informan que el software de monitoreo automatizado está instalado en los dispositivos proporcionados por la escuela, mientras que tres de cada cuatro maestros informan que dicho monitoreo no se limita al horario escolar.

Las compañías de software afirman usar inteligencia artificial y sistemas algorítmicos para monitorear casi toda la actividad de los estudiantes con el pretexto de la seguridad, pero a menudo los estudiantes, los padres y los maestros no saben cuánto se monitorea, cuán ineficaces son estas herramientas y cómo esto forma creciente de vigilancia ubicua y generalizada perjudica a los estudiantes al bloquear material educativo, invadir su privacidad e invitar a un escrutinio injusto.

Algunas empresas, como Securly, promocionan su capacidad para monitorear la actividad de los estudiantes en el hogar como una característica valiosa. En un estudio de caso de un distrito escolar de Virginia que ofreció Chromebooks a todos los estudiantes, citaron a un administrador que estaba feliz de encontrar el producto Filter de Securly, anunciado como “una web más segura y educativa para todos sus estudiantes, en cualquier dispositivo, dondequiera que vayan”. ”, mientras “buscaba una nueva solución que funcionara sin problemas cuando los estudiantes se llevaran sus dispositivos a casa”.

Sin embargo, no hay evidencia real de que esta vigilancia ubicua haga que los estudiantes estén más seguros.

Las empresas de software utilizan estadísticas ambiguas para promocionar la eficacia de sus productos, que rara vez están respaldadas por datos detallados. La aplicación de control parental Bark afirma que detectó “2,6 millones de situaciones graves de intimidación”, sin indicar si estos informes eran precisos o cómo se manejaron en el mejor interés de los estudiantes. Securly afirma que ha salvado 1.652 vidas, pero los estudios de casos en el sitio de la empresa señalan un supuesto caso de esto, aunque se centran principalmente en la facilidad de configuración y la simplicidad para los administradores escolares.

Los pocos estudios publicados sobre estas herramientas indican que probablemente hagan más daño que bien. Los filtros frecuentemente impiden que los estudiantes accedan al contenido que necesitan para su educación. Un estudio de caso de Securly (que se anunció como positivo) dijo que un maestro podía pedirle al “entrenador de tecnología educativa” a cargo de filtrar que desbloqueara un sitio web cuando un estudiante lo necesitaba. El sitio era Amnistía Internacional. No se explica por qué se bloquearía ese sitio.

Lamentablemente, los niños saben que están siendo monitoreados, lo que hace que las herramientas sean menos efectivas para prevenir la violencia, al mismo tiempo que potencialmente desalienta a los adolescentes a buscar ayuda, particularmente aquellos en comunidades minoritarias y LGBTQ+, que tienen muchas más probabilidades de buscar ayuda en línea.

Estas herramientas están listas para el uso indebido y abundan los “falsos positivos”. Tienden a adoptar un enfoque de “bloquear y rastrear todo”, utilizando inteligencia artificial para la detección, lo que significa que, en la mayoría de los casos, los niños interesados ​​​​en el control de armas serán rastreados con la misma frecuencia que los niños interesados ​​​​en las armas.

En marzo, los senadores demócratas Elizabeth Warren y Ed Markey reprendieron a Gaggle.net, Bark Technologies, GoGuardian y Securly por vigilar a los estudiantes de manera inapropiada. Los senadores produjeron un informe que encontró que el software de monitoreo de estudiantes se ha utilizado indebidamente con fines disciplinarios y aumenta las interacciones de las fuerzas del orden con los estudiantes, lo que aumenta el riesgo de sanciones para los estudiantes. También señaló que las empresas “no han tomado ninguna medida para determinar si el software de monitoreo de la actividad de los estudiantes se dirige de manera desproporcionada a los estudiantes de grupos marginados”.

Y con las nuevas leyes que causan estragos en los derechos LGBTQ+ y el derecho al aborto, estas herramientas de vigilancia se convierten potencialmente en árbitros de las libertades personales privadas de los estudiantes.

Nuestros corazones están en carne viva por el dolor. Nadie quiere otro Sandy Hook, otro Parkland, otro Uvalde. Pero la vigilancia integral de los estudiantes dañará más que ayudará.

Jason Kelley es Director Asociado de Estrategia Digital en Electronic Frontier Foundation, una organización internacional de libertades civiles digitales con sede en San Francisco y en línea en eff.org.