inoticia

NUEVA YORK (AP) — A medida que crece la preocupación por los sistemas de inteligencia artificial cada vez más potentes como ChatGPT, el organismo de control financiero de la nación dice que está trabajando para garantizar que las empresas cumplan con la ley cuando usan IA.

Los sistemas y algoritmos automatizados ya ayudan a determinar las calificaciones crediticias, los términos de los préstamos, las tarifas de las cuentas bancarias y otros aspectos de nuestra vida financiera. La IA también afecta las condiciones de contratación, vivienda y trabajo.

Ben Winters, asesor principal del Centro de información de privacidad electrónica, dijo en una declaración conjunta sobre la aplicación publicado por las agencias federales el mes pasado fue un primer paso positivo.

“Existe esta narrativa de que la IA no está regulada en absoluto, lo cual no es realmente cierto”, dijo. “Están diciendo: ‘Solo porque usas IA para tomar una decisión, eso no significa que estás exento de responsabilidad con respecto a los impactos de esa decisión’. ‘Esta es nuestra opinión al respecto. Estamos mirando’”.

El año pasado, la Oficina de Protección Financiera del Consumidor dijo que multó a los bancos por sistemas automatizados mal administrados. eso resultó en ejecuciones hipotecarias indebidas, embargos de automóviles y pagos de beneficios perdidos, después de que las instituciones confiaron en nueva tecnología y algoritmos defectuosos.

No habrá “exenciones de IA” para la protección del consumidor, dicen los reguladores, señalando estas acciones de cumplimiento como ejemplos.

El director de la Oficina de Protección Financiera del Consumidor, Rohit Chopra, dijo que la agencia “ya ha comenzado un trabajo para continuar fortaleciéndose internamente cuando se trata de incorporar científicos de datos, tecnólogos y otros para asegurarse de que podamos enfrentar estos desafíos” y que la agencia continúa para identificar actividades potencialmente ilegales.

Los representantes de la Comisión Federal de Comercio, la Comisión de Igualdad de Oportunidades en el Empleo y el Departamento de Justicia, así como el CFPB, dicen que están dirigiendo recursos y personal para apuntar a la nueva tecnología. e identificar las formas negativas en que podría afectar la vida de los consumidores.

“Una de las cosas que estamos tratando de dejar muy claro es que si las empresas ni siquiera entienden cómo su IA toma decisiones, realmente no pueden usarla”, dijo Chopra. “En otros casos, estamos analizando cómo se cumplen nuestras leyes de préstamos justos en lo que respecta al uso de todos estos datos”.

En virtud de la Ley de informes crediticios justos y la Ley de igualdad de oportunidades crediticias, por ejemplo, los proveedores financieros tienen la obligación legal de explicar cualquier decisión crediticia adversa. Esas normas también se aplican a las decisiones que se toman en materia de vivienda y empleo. Cuando la IA toma decisiones de formas que son demasiado opacas para explicar, los reguladores dicen que los algoritmos no deberían usarse.

“Creo que había una sensación de que, ‘Oh, démosselo a los robots y no habrá más discriminación’”, dijo Chopra. “Creo que el aprendizaje es que eso en realidad no es cierto en absoluto. De alguna manera, el sesgo está integrado en los datos”.

La presidenta de la EEOC, Charlotte Burrows, dijo que se aplicará la ley contra la tecnología de contratación de IA que excluye a los solicitantes de empleo con discapacidades, por ejemplo, así como el llamado “bossware” que vigila ilegalmente a los trabajadores..

Burrows también describió formas en que los algoritmos podrían dictar cómo y cuándo los empleados pueden trabajar de manera que violaría la ley existente.

“Si necesita un descanso porque tiene una discapacidad o tal vez está embarazada, necesita un descanso”, dijo. “El algoritmo no necesariamente tiene en cuenta esa acomodación. Esas son cosas que estamos analizando de cerca… Quiero dejar claro que, si bien reconocemos que la tecnología está evolucionando, el mensaje subyacente aquí es que las leyes aún se aplican y tenemos herramientas para hacerlas cumplir”.

El principal abogado de OpenAI, en una conferencia este mes, sugirió un enfoque de regulación liderado por la industria.

“Creo que primero comienza tratando de llegar a algún tipo de estándares”, dijo Jason Kwon, asesor general de OpenAI, en una cumbre tecnológica en Washington, DC, organizada por el grupo de la industria del software BSA. “Esos podrían comenzar con los estándares de la industria y algún tipo de unión en torno a eso. Y las decisiones sobre si hacerlos obligatorios o no, y también cuál es el proceso para actualizarlos, esas cosas son probablemente un terreno fértil para más conversación”.

Sam Altman, director de OpenAI, que fabrica ChatGPT, dijo que la intervención del gobierno “será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos”.sugiriendo la formación de una agencia estadounidense o global para licenciar y regular la tecnología.

Si bien no hay señales inmediatas de que el Congreso elabore nuevas reglas radicales de IA, como lo están haciendo los legisladores europeoslas preocupaciones sociales llevaron a Altman y otros directores ejecutivos de tecnología a la Casa Blanca este mes para responder preguntas difíciles sobre las implicaciones de estas herramientas.

Winters, del Electronic Privacy Information Center, dijo que las agencias podrían hacer más para estudiar y publicar información sobre los mercados relevantes de IA, cómo funciona la industria, quiénes son los principales actores y cómo se utiliza la información recopilada: la forma en que los reguladores han hecho en el pasado con nuevos productos y tecnologías de financiación al consumo.

“El CFPB hizo un trabajo bastante bueno en esto con las empresas ‘Compre ahora, pague después’,” él dijo. “Hay tantas partes del ecosistema de IA que aún son tan desconocidas. Publicar esa información sería de gran ayuda”.

___

El reportero de tecnología Matt O’Brien contribuyó a este informe.

___

The Associated Press recibe apoyo de la Fundación Charles Schwab para reportajes educativos y explicativos para mejorar la educación financiera. La fundación independiente está separada de Charles Schwab and Co. Inc. La AP es la única responsable de su periodismo.