Revista CJD Final

acudir a ella en el cumplimiento de sus labo- res. En otras palabras, la labor judicial es de tal trascendencia que, el uso de las tecnologías requiere de una labor de planeación estructu- rada, de un estudio juicioso y pormenorizado de ventajas y desventajas que se anticipe a ello, es decir, en ultimas, que el administrado no sea quien deba asumir los errores o falen- cias en las que se puedan incurrir por cuenta de la informática. En este desafío ético que propicia la inteligen- cia artificial en la justicia, el estudio de la doctrina internacional evidencia que España ha sido uno de los países pioneros en escribir al respecto; la cual, en concreto, ha identificado cinco principios que debe tener en cuenta todo operador judicial cuando opte por acudir a ella: i) garantizar el res- peto de los derechos fundamentales; ii) evitar la discriminación; iii) optar por la calidad y segu- ridad; iv) cuidar la transparencia, imparcialidad y la equidad; v) y, finalmente, el principio “bajo control del usuario” que, precisamente, traduce lo expuesto en párrafos anteriores en cuanto a la responsabilidad del servidor que, en ejercicio de sus funciones constitucionales y legales, acude a dicha herramienta para poder cumplir con las mismas. Veamos cada uno de ellos: i) Respeto de los derechos fundamentales: este principio no amerita mayor explica- ción, como él mismo lo indica, implica que cualquier aplicación de inteligencia artificial en el ámbito judicial debe respetar y prote- ger todas las prerrogativas fundamentales de las personas involucradas en la causa. Esto incluye, entre otros, el derecho a la pri- vacidad, la protección de datos, la presun- ción de inocencia y el derecho a un juicio justo. ii) No discriminación: la inteligencia artificial debe aplicarse de manera que evite la discriminación basada en características personales como género, raza, origen étni- co, religión u orientación sexual. Se debe garantizar, entonces, que los algoritmos y modelos sean imparciales y no perpetúen sesgos o prejuicios existentes en la socie- dad, pues de no ser así, deberíamos pre- guntarnos ¿sacrificaríamos como sociedad derechos medulares y sustanciales por agilidad procesal y términos más cortos? La respuesta desde todo punto de vista es un rotundo no; de allí la importancia de este principio. iii) Calidad y seguridad: la implementación de la inteligencia artificial en el sistema judicial debe ser de alta calidad y asegurar la in- tegridad y precisión de los resultados. Los operadores judiciales deben verificar que los algoritmos utilizados sean confiables, transparentes y estén libres de errores sig- nificativos que puedan afectar los procesos judiciales y las decisiones. iv) Transparencia, imparcialidad y equidad: ligado al punto anterior, es claro que los operadores judiciales —igual que ocurre desde el inicio del concepto de adminis- tración de justicia—, deben asegurarse de que los sistemas utilizados en los pro- cesos legales sean transparentes en sus decisiones y operaciones. Esto implica que se debe entender cómo funcionan los algoritmos y cómo llegan a sus conclu- siones y, no está demás, verificar que, en efecto, los mismos se ajusten a la realidad procesal; solo así podremos hablar de im- parcialidad y equidad. v) Principio bajo control del usuario: este prin- cipio establece que los sistemas de inteli- gencia artificial deben estar bajo control y supervisión humana en todo momento. Los operadores judiciales deben tomar decisiones basadas en la inteligencia arti- ficial como herramientas de apoyo, pero no como sustitutos de su juicio y experiencia, 83