INTELIGENCIA ARTIFICIAL: REGULACIÓN JURÍDICA. USO RESPONSABLE.

 

Ayudar al ser humano. Esta es la misión de la Inteligencia Artificial. 

Así desde la reciente  Sentencia del Tribunal de Justicia de la Unión Europea (TJUE) de fecha 7/12/2023 cualquier sistema que haga toma de decisiones manejando datos sin intervención humana será contraria a lo establecido en el art. 22 del Reglamanto de Protección de datos (...) en el sentido que siempre se necesita una supervisión humana en el uso de un sistema artificial. 

Debemos tener en cuenta  que desde la Sentencia del "derecho al olvido" en Internet se fjó el principio  de respeto a los  Derechos Fundamentales, que  deben prevalecer sobre la tecnología.. 

Gracias a  la firma Aranzadi hemos tenido la oportunidad de conectarnos hoy a una formación sobre el uso de la Inteligencia Artificial aplicada al sector público. Sin duda un  tema actual y sugerente  por sus desafíos y oportunidades.   

Las ideas principales extraídas de las ponencias  acerca de la "IA" las puedo resumir en los siguientes puntos para encuadrar la temática:  

1.-Se trata de una materia compleja, con unos modelos de lenguaje específico y muy avanzados  (encriptación, sistemas algoritmos (reglas), código fuente (código informático de ejecución de las reglas del algoritmo), blockchain, metaverso, chat GPT, robótica, Biogén..) y aún está en una fase embrionaria.   Es un Software que puede dar respuesta al ser humano de manera que no se puede diferenciar si se trata de una persona o de un programa informático (integrado con datos subministrados desde las redes o con datos que les subministramos).     

2.- En la Unión Europea  la regulación jurídica  actual se encuentra en el Reglamento de la Inteligencia Artificial  emanado por la Unión Europea que se puede trasponer directamente a los estados miembros sin necesidad de otra regulación expresa de cada estado, sin embargo aprobación definitiva parece que será en febrero 2024 y su entrada en vigor efectiva se hará más adelante y no será hasta 2026 aproximadamente, dado que la norma tendrá un período muy extenso de ´vacatio legis´, siendo pues en el año 2026 que el Reglamento surja plena eficacia.  

Esta norma   distingue  entre  los sistemas de alto riesgo (los que entran en  temas con impacto en la seguridad de las personas o puedan causarle daños y donde debe existir obviamente una supervisión humana: en materia de salud por ejemplo, o en materia de circulación/automovilística) y los otros sistemas.  Entre los sistemas de alto riesgo pensemos en una intervención  quirúrgica que sea realizada gracias a la tecnología.  Y entre los otros sistemas, un sistema para abrir la puerta de mi garaje.   

Las compañías eléctricas utilizan un sistema algorítmico llamado sistema bosco o, pienso, en   un programa específico para despachos de abogados expecializados en Seguros.           

Esta normativa entrará  en conexión la de nuestro derecho positivo paralelo sí aplicable como el Reglamento General de Protección de Datos (destacar su art. 22), la Constitución Española (art. 24 Derecho de las personas a la Tutela Judicial Efectiva: un ciudadano debe tener la posibilidad de tener todos los datos a su disposición para poderse defender).  Extremadura por ejemplo ya tiene regulada una normativa de ´softlaw´.

El Reglamento europeo no es la primera normativa legal en la materia, dado que otros países como Canadá ya tiene su propia norma desde 2021, o China que acualmente este año 2023 está haciendo efectiva su normativa.   

 El Reglamento europeo utiliza el término de "usuario" para referirse  a que no son las personas ciudadanas sino que quiere regular el mercado de la IA para que sea regulado y respete los Derechos Fundamentales de los Tratados Internacionales y normativa europea. 

La finalidad del Reglamento es, principalmente, hacer un uso responsable de la IA.  En otro artículo analizaremos las enmiendas o modificaciones que se han realizado en el mismo.       

3.- La IA  no debe funcionar como el buscador de internet Google,  sino como un sistema para ayudar a los humanos a desempeñar mejor su trabajo como herramienta que nos sugiera datos. Imaginemos su utilización por ejemplo en la redacción en un pliego de cláusulas técnicas en una materia dentro de la  contratación pública, o su aplicación en derecho de datos, derechos de la propiedad intelectual. 

 En la IA aplicada al sector público se debe distinguir entre la automatización de la actividad administrativa y en la implantacion de sistemas de IA.     

4.- Debe existir mucha  mucha cautela en la utilización de este sistema artificial para que no vulnere los Derechos Fundamentales de la persona.   Se ha dado un caso extremo como el de una mujer asesinada por su maltratador en el cual se había utilizado un sistema de IA (Biogén) para valorar el nivel de riesgo de protección que debía darse a  dicha mujer. 

ES INDISCUTIBLE QUE DEBEN PREVALECER Y RESPETARSE  SIEMPRE LOS DERECHOS FUNDAMENTALES, ES NECESARIA UNA POLÍTICA DE GOBERNANZA DE LOS DATOS Y EN EL ÁMBITO DE LA ADMINISTRACIÓN PÚBLICA:  ÉSTA DEBE RESPONSABILIZARSE DE GARANTIZAR LA PARIDAD DE GÉNERO Y NO GENERAR NINGUNA DISCRIMINACIÓN, ASI COMO ATENDER AL DERECHO A LA INTIMIDAD Y AL DERECHO DE LA PROTECCIÓN DE DATOS  TANTO EN PERSONAS FÍSICAS COMO PERSONAS JURÍDICAS.   

 5.- Por ello es absolutamente indispensable que haya una supervisión humana en todo el proceso de utilización de este sistema desde desde el diseño en el tratamiento de datos como su uso posterior  debemos conocer bien y con rigor el alcance de estos sistemas y se hace prioritaria la prevención de cualquier riesgo siendo necesaria siempre la transparencia de datos (en esta última materia se requiere transparencia de datos a los sistemas de IA tanto  a nivel autonómico como nacional).           

6.- Hay que tener en cuenta, desde un punto de vista ético, que  los sistemas de IA (Chat GPT, algoritmos,..) pueden mentir para conseguir la finalidad que desean, es  un sistema que está etrenado para conseguir información. ¿Tiene conciencia?        

7.-Será necesario según los expertos que exista una figura muy especializada tanto en las Administraciones Públicas como    en las empresas, junto al delegado de protección de datos, para el control de los datos. En todo caso sí se hará  imprescindible en nuestras vidas conocer bien estas  herramientas para que no nos sustituya un algoritmo u otro sistema de Inteligencia Artificial.    

8.- Los máximos expertos en la materia han divulgado sus publicaciones científicas en las que tratan las cuestiones jurídicas. 

9.-En el ámbito jurídico esta tecnología no está, en definitiva, exenta de riegos: existen muchas utilizaciones y aplicaciones que aportan valor pero requieren supervisión en este ámbito jurídico-legal.   La normativa sobre protección de datos y la jurisprudencia son señal de calidad para la confianza en el sistema.  

10.- Ante todo,  prudencia y rigor jurídico (en las fuentes de los datos, con datos de retorno contrastados,.. )  y a la espera de la entrada en vigor del Reglamento europeo que quiere minimizar riesgos y aportar transparencia.

Y por último, tres  factores clave:   

i) los Derechos Fundamentales deben prevalecer siempre sobre la Tecnología (en su diseño y su posterior resultado) 

ii) Analicemos de qué datos se nutre una una máquina (atender siempre a la calidad)

 iii) atender a la titularidad de la propiedad intelectual del sistema para determinar de quién va a ser la responsabilidad.  

Article dedicat al nostre fill que cursa Estudis Universitaris en Enginyeria de Dades, agraïnt-li el seu esforç diari que li proporciona uns bons resultats i per la seva capacitat i ajuda en resoldre els temes.     

Gemma Torra Vilajosana 

Advocada/ Abogada