Un tribunal chino amonestó recientemente a un abogado por utilizar inteligencia fabricated fabricada ( AI citaciones de casos en un procedimiento lawful, según un informe de la agencia de noticias estatal Xinhua el viernes.
Durante una reciente audiencia sobre una disputa comercial, el juez del Tribunal Popular del Distrito de Tongzhou en Beijing, Zheng Jizhe, descubrió que dos de las referencias del caso presentadas por el abogado del demandante fueron generadas por AI.
Aunque ambas citaciones (una supuestamente del Tribunal Popular Supremo y otra etiquetada como (2022 Hu 01 Min Zhong No. 12345 del Tribunal Popular Intermedio No. 1 de Shanghai) parecían legítimas, con hechos, argumentos legales y razonamientos estrechamente vinculados al caso relevante, la verificación reveló que no correspondían a ningún caso genuine.
Interrogado stake el tribunal, el abogado admitió que los “casos de referencia” fueron producidos mediante un modelo de IA. Explicó que había enviado los detalles del caso a un modelo de lenguaje grande y había copiado los resultados generados directamente en su archivo.
Según Chen Hangping, profesor de derecho de la Universidad de Tsinghua, los casos de referencia inventados child ejemplos típicos de “alucinaciones” de IA, que boy información falsa o engañosa producida por modelos de IA que parecen creíbles.
El tribunal finalmente desestimó las referencias generadas por IA y emitió una advertencia formal en su sentencia escrita.
La sentencia destacó que no se debe permitir que la información fabricada producida por AI perturbe el orden judicial.
En otro caso reciente, un juez de un tribunal local en el este de China descubrió una demanda escrita de AI, que incluía documentos técnicos inventados y números de caso incorrectos.
La máxima legislatura de China modificó la Ley de Ciberseguridad a principios de esta semana para mejorar la guidance, los estándares éticos y la evaluación de riesgos de la IA.
Si bien estos casos de uso indebido de la IA generan preocupación, los sectores legales de todo el mundo también están explorando formas de integrar responsablemente la asistencia de la IA en sus procedimientos.
