inoticia

El filósofo griego Heráclito dijo una vez: “la única constante en la vida es el cambio”. Y en esta vida nada cambia más rápido que la tecnología.

La inteligencia artificial (IA) es la última ola. Y aunque puede traer eficiencia, eso podría ocurrir a expensas de otros objetivos necesarios.

El software de IA se basa en gran medida en algoritmos. Estos sistemas ya son una parte innata de todo, desde los préstamos bancarios hasta las sentencias penales y la contratación. La cuestión es que estos algoritmos no están libres de sesgos, y en la mayoría de los sectores en los que se utilizan, también hay una vía directa al avance de la discriminación por parte de la IA.

Pero el tren ya salió de la estación y, al no poder reducir la velocidad, queda en manos de las empresas y, además, de la regulación gubernamental, para que se encargue del daño potencial. La ciudad de Nueva York está haciendo precisamente eso.

Una nueva ley que entró en vigencia en la ciudad de Nueva York el miércoles es la primera de su tipo: un tipo de legislación que regula las prácticas de contratación de AI en equidad. Todas las empresas de la ciudad de Nueva York que utilizan IA en sus procesos de contratación deben demostrar que sus selecciones no contienen sexismo ni racismo, una hazaña que muchos departamentos de recursos humanos aún no han superado.

Según la ley de Herramientas de decisión de empleo automatizadas (AEDT) en la ciudad de Nueva York, una empresa externa auditaría y evaluaría a las empresas para asegurarse de que permanecieran libres de prejuicios.

Suena genial, en teoría, pero ¿va lo suficientemente lejos? Como la mayoría de las políticas, el diablo está en la implementación.

La bandera roja para el cumplimiento de la ley parece estar impulsada por las quejas. Si no sabe por qué lo rechazan para un trabajo porque en realidad nunca habla con un gerente de contratación, es un poco más difícil levantar una bandera de precaución. Además, el alcance de la discriminación en la contratación supera con creces lo descrito por la ley, y parece que no hay un castigo o recurso directo para las empresas que optan por no participar.

Por último, el Departamento de Protección al Consumidor y al Trabajador de Nueva York, la agencia encargada de hacer cumplir la nueva ley, ya está en una carrera contrarreloj para mantener sus compromisos previos con la equidad, como las protecciones pospandémicas para los trabajadores esenciales.

Una agencia con exceso de trabajo encargada de operar la aplicación de DEI en los algoritmos de contratación es inaudita, en parte debido a la dificultad, pero también porque los algoritmos que impulsan la IA están inherentemente sesgados. Para eliminar por completo los sesgos, tendrías que deshacerte de la tecnología.

Activistas y líderes de derechos civiles han estado pidiendo reformas a la IA y sus algoritmos durante bastante tiempo, sobre todo en el uso de una herramienta de evaluación de riesgos en todo el sistema de justicia penal. Esta herramienta está basada en algoritmos y se utiliza como factor determinante para saber quién sale de la cárcel y quién languidece tras las rejas. Como era de esperar, la herramienta resultó con mayor frecuencia en el crecimiento del encarcelamiento masivo de negros y morenos, mientras que los blancos que cometieron delitos similares regresaron a casa con sus familias.

En pocas palabras, una herramienta diseñada para eliminar el sesgo racial solo sirvió para extenderlo.

“Cada vez hay más pruebas de que los sistemas y algoritmos de IA no solo no eliminan como por arte de magia las desigualdades existentes, sino que además las reproducen e incluso las magnifican”, advierte Anna Ginès i Fabrellas, profesora asociada de Derecho Laboral de Esade y directora del Instituto de Estudios Laborales y el proyecto de investigación LABORAlgorithm.

Esta magnificación de las desigualdades tiene implicaciones de largo alcance.

Con la brecha de riqueza racial que continúa ampliándose, la amplificación de la guerra cultural ocupando un lugar central en nuestra política y los remedios influenciados por la equidad, como la acción afirmativa, ahora es el momento en que deberíamos buscar más oportunidades para los desatendidos.

Asegurándose de que la equidad no sea una mala palabra, y que los avances tecnológicos no se utilicen para perjudicar aún más a los grupos históricamente subrepresentados, la ciudad de Nueva York está avanzando para hacer precisamente eso con su ley AEDT. Pero la Gran Manzana tiene que hacer más.

La implementación de la ley requerirá una financiación significativa, y un consejo de supervisión no solo interesado en cómo la IA está promoviendo la equidad o pisoteándola, sino también erradicando las lagunas que harían posible que las empresas opten por no ser supervisadas. También requiere capacitación para los líderes de recursos humanos y las empresas de contratación/búsqueda en la aplicación de la nueva ley y los requisitos de presentación de informes. Además, la ciudad de Nueva York tiene que liderar una campaña de concientización para quienes buscan empleo, describiendo específicamente lo que hace esta nueva ley y cómo denunciar cualquier infracción de contratación de AI que puedan experimentar.

Pero la responsabilidad no es solo de la ciudad, los socios de la comunidad deben participar. Esto incluye organizaciones como Urban League, organizaciones locales de defensa LGBT, grupos de mujeres, aquellos que apoyan a trabajadores con discapacidades y más.

Debido a que el racismo sistémico está horneado en el pastel de varias capas que llamamos Estados Unidos, se requiere un esfuerzo concertado y vigilancia para confrontar y reformar los sistemas que inherentemente hacen que nuestro país y nuestra fuerza laboral sean menos equitativos.

Para que las prácticas de contratación de IA resulten efectivas e imparciales, deben analizar de manera profunda e intrínseca a sus desarrolladores. AI solo opera con los algoritmos y los datos que se le proporcionan a través de su equipo de desarrollo. Si esos desarrolladores utilizan evaluaciones sesgadas o casi sesgadas, el resultado final no disminuirá las desigualdades, las brechas se convertirán en agujeros enormes.

La Ciudad de Nueva York está en el camino correcto, pero el verdadero trabajo no radica en la nueva legislación, sino en los resultados producidos y en cómo las empresas enfrentan el momento.