inoticia

China continúa invirtiendo enormes recursos en el desarrollo de inteligencia artificial que tendrá un mayor alcance en la vida cotidiana y las funciones del estado. Ahora, incluso los tribunales chinos están utilizando IA para ayudar a tomar decisiones legales.

Un tribunal de la ciudad de Hangzhou, ubicado al sur de Shanghái, comenzó a emplear IA en 2019. El programa asistente del juez llamado Xiao Zhi 3.0, o “Pequeña sabiduría”, ayudó por primera vez en un juicio de 10 personas que no habían pagado los préstamos bancarios.

Anteriormente, se habrían necesitado 10 juicios separados para resolver el problema, pero con Xiao Zhi 3.0, todos los casos se resolvieron en una audiencia con un juez y la decisión estuvo disponible en solo 30 minutos.

Al principio, Xiao Zhi 3.0 se hizo cargo de tareas repetitivas, como anunciar procedimientos judiciales durante las audiencias.

Ahora, la tecnología se utiliza para grabar testimonios con reconocimiento de voz, analizar materiales de casos y verificar información de bases de datos en tiempo real.

Xiao Zhi 3.0 se usa principalmente en casos que involucran disputas financieras simples. Sin embargo, un tribunal de Suzhou ha aplicado una tecnología similar para resolver disputas sobre accidentes de tráfico. AI examinó las pruebas y redactó los veredictos, ahorrando tiempo al juez.

El sistema inteligente de predicción de sentencias Xiao Baogong, otra plataforma legal de IA, también es utilizado por jueces y fiscales en derecho penal.

El sistema puede sugerir sanciones basadas en el análisis de datos masivos de información de casos y juicios previos de casos similares.

“Puedo ver la tentación de que los tribunales chinos adopten la IA incluso en casos penales. Uno de los desafíos para la justicia penal china es garantizar la uniformidad. Quieren asegurarse de que, en las diferentes regiones de China, las sanciones sean coherentes entre sí. “, dice a DW Shitong Qiao, profesor de derecho en la Duke Law School de Estados Unidos.

Sin embargo, Zhiyu Li, profesor asistente de derecho y política en la Universidad de Durham, dijo que existen problemas éticos que se presentan al usar IA para ayudar con decisiones legales más complicadas en los casos en que una decisión basada en cálculos de IA podría considerarse más creíble que una decisión. hecho por un humano.

“Si bien los jueces y fiscales tienen la libertad de ignorar o rechazar estas sugerencias de castigos penales, no sabemos si, no obstante, puede influir inconscientemente en su toma de decisiones debido a sesgos cognitivos”, dijo Li a DW.

¿Poner la ley en manos de las empresas tecnológicas?

En todo el mundo, las soluciones basadas en IA se utilizan principalmente para optimizar las bases de datos legales y hacerlas más accesibles tanto para los profesionales como para el público.

En Canadá, la aplicación de negociación Smartsettle ONE logró resolver una disputa de tres meses sobre tarifas impagas en menos de una hora.

Las partes debían mover banderas en una pantalla para indicar el posible espacio de compromiso. Luego, la aplicación utilizó tácticas de licitación para empujar a las partes interesadas a llegar a un acuerdo sin revelar sus ofertas secretas.

Sin embargo, solo unos pocos países están actualmente listos para ir más allá con el uso de IA en asuntos legales.

Francia prohibió cualquier desarrollo de litigio predictivo basado en IA en 2019. Una de las razones fue evitar la comercialización de datos de toma de decisiones judiciales, ya que los tribunales no tienen la capacidad de desarrollar IA por sí mismos.

El proceso se subcontrataría a empresas tecnológicas privadas. Por ejemplo, Alibaba, una corporación china de comercio electrónico y una de las empresas tecnológicas más grandes del mundo, participó en el desarrollo de IA para disputas de transacciones en línea.

“Las motivaciones de estas empresas deben ser diferentes a las de las instituciones públicas. El proceso debe rendir cuentas. Asegurarse de que los datos en sí no estén sesgados y los algoritmos sean justos es un desafío fundamental no solo para China sino para todo el mundo”, dijo. experto legal Shitong.

Los límites del derecho automatizado

En China, las personas pueden usar teléfonos inteligentes para presentar una denuncia, seguir el progreso de un caso y comunicarse con los jueces.

Las máquinas automatizadas basadas en IA que se encuentran en las llamadas estaciones de “ventanilla única” brindan consultas legales, registran casos y generan documentos legales las 24 horas del día. Incluso pueden calcular los costos legales.

Sin embargo, existe un debate sobre la confiabilidad de la información proporcionada por estos abogados automatizados. Se dice que las máquinas consideran los costos materiales, emocionales y de tiempo involucrados en los casos y brindan a los usuarios información calculada para predecir el resultado. La limitación es que la automatización puede pasar por alto los matices y llevar a las personas a tomar la decisión equivocada.

“Según los resultados de nuestras entrevistas, algunos de los participantes en la disputa se mostraron bastante escépticos sobre la confiabilidad y la utilidad de las predicciones generadas por la máquina porque las predicciones se basaron principalmente en respuestas a preguntas de opción múltiple en lugar de comunicaciones interactivas cara a cara”, dijo legal. experto Zhiyu.
Otro problema es que los sistemas de IA realizan evaluaciones basadas en un registro público incompleto, debido a la digitalización desigual de las regiones de China.

Algunos casos controvertidos se eliminaron de la base de datos del gobierno China Judgements Online después de la indignación pública por lo que se consideró castigos inadecuados para los presuntos perpetradores. Esto ha generado preocupaciones sobre si la IA basada en datos fragmentados puede tomar decisiones imparciales.

“Creo que es un problema chino especial y universal hacer el mejor uso de la IA y al mismo tiempo garantizar la responsabilidad. Incluso los jueces no entienden el mecanismo de toma de decisiones de la IA porque es una caja negra. Con la IA, será mucho más difícil para los ciudadanos individuales hacer que los jueces y los funcionarios del gobierno rindan cuentas”, dijo Qiao.