El pasado 15 de octubre tuve la oportunidad de participar en el V Congreso de ParlaTIC, celebrado en el Senado bajo el título «Los retos de la aplicación de la Inteligencia Artificial en los Parlamentos».
Antes de mi intervención, dedicada a la inteligencia legislativa, pude escuchar a Pablo García Mexía, letrado de las Cortes Generales, que inauguró la jornada presentando las directrices de uso de inteligencia artificial en el Senado y sus principales orientaciones.
Mientras le escuchaba, pensé en una cuestión que llevaba algún tiempo rondándome la cabeza y que aquel contexto institucional me ayudó a formular con mayor claridad. Estamos dedicando enormes esfuerzos a establecer las condiciones bajo las cuales la inteligencia artificial puede incorporarse a nuestras organizaciones, pero quizá no estamos prestando suficiente atención a cómo está cambiando la propia naturaleza de aquello que pretendemos gobernar.
Porque una cosa es regular un sistema que produce resultados y otra, bastante distinta, regular un sistema que desarrolla actuaciones.
Y esa diferencia, aparentemente sencilla, puede tener consecuencias extraordinarias.
El Reglamento europeo de Inteligencia Artificial (RIA) constituye un esfuerzo regulatorio de enorme trascendencia. Su arquitectura se construye fundamentalmente alrededor de los sistemas de IA, sus finalidades previstas, los riesgos asociados a determinados usos y las obligaciones de los distintos operadores que intervienen en su desarrollo y utilización.
Conviene ser precisos. El RIA no regula exclusivamente productos, ni mucho menos ignora las actividades realizadas mediante inteligencia artificial. Contempla obligaciones para quienes despliegan sistemas, exige supervisión humana en determinados supuestos y establece responsabilidades vinculadas a su funcionamiento.
Sin embargo, buena parte de su lógica regulatoria parte de una premisa reconocible: podemos identificar un sistema, determinar para qué está previsto utilizarlo, evaluar sus riesgos y establecer obligaciones proporcionadas a sus características y contexto de uso.
Es una aproximación razonable. El problema aparece cuando la evolución tecnológica comienza a modificar algunas de esas premisas.
Durante los últimos años nos hemos acostumbrado a relacionarnos con herramientas que responden preguntas, generan documentos, clasifican expedientes, elaboran predicciones o proporcionan recomendaciones. Herramientas sofisticadas, sin duda, pero cuyo papel fundamental consiste en producir un resultado que posteriormente alguien interpreta, valida o utiliza.
La inteligencia artificial agéntica introduce una diferencia cualitativa: ya no se limita necesariamente a producir respuestas, sino que puede encadenar decisiones operativas y ejecutar acciones para alcanzar determinados objetivos.
Imaginemos una Administración pública que incorpora un agente de inteligencia artificial para colaborar en la gestión de una convocatoria de subvenciones.
El sistema podría consultar diferentes fuentes de información, comprobar documentación, solicitar subsanaciones, interactuar con aplicaciones corporativas, preparar propuestas y ejecutar determinadas tareas dentro de un procedimiento administrativo.
Cada una de esas actuaciones podría parecer relativamente sencilla. Lo verdaderamente interesante aparece cuando las conectamos.
Un agente puede decidir qué herramienta utilizar, en qué orden realizar determinadas comprobaciones, qué información necesita obtener o cómo reorganizar su actividad cuando encuentra un obstáculo. Todo ello dentro de los permisos, instrucciones y límites que se le hayan establecido.
No estamos hablando de que adquiera personalidad jurídica ni de que sustituya automáticamente al órgano administrativo competente. Tampoco de una autonomía ilimitada. Estamos hablando de algo más concreto: sistemas con capacidad de intervención operativa sobre procesos reales.
Y entonces surgen preguntas que no podemos despachar simplemente comprobando si el sistema ha sido correctamente diseñado.
- ¿Quién responde cuando una secuencia de actuaciones individualmente legítimas produce un resultado incorrecto?
- ¿Cómo supervisamos procesos que pueden desarrollarse dinámicamente?
- ¿Qué sucede cuando varios agentes interactúan entre sí?
- ¿Cómo reconstruimos las razones operativas que llevaron a ejecutar una acción determinada?
El problema deja de estar exclusivamente en las características del sistema y se desplaza también hacia lo que hace, cómo lo hace y qué consecuencias produce.
Aquí aparece, a mi juicio, uno de los grandes desafíos de la próxima etapa regulatoria.
No creo que necesitemos abandonar el enfoque basado en riesgos que inspira el RIA. Sería precipitado y probablemente equivocado. Lo que sí deberíamos preguntarnos es si necesitamos complementarlo con una atención mucho más intensa a las actividades desarrolladas mediante sistemas autónomos.
La cuestión no consiste únicamente en saber si un agente es de alto riesgo, sino en comprender qué capacidad efectiva de actuación tiene, sobre qué recursos puede operar, qué decisiones puede ejecutar sin intervención humana y qué mecanismos existen para detenerlo, corregirlo o revertir sus actuaciones.
Esto obliga a pensar en una supervisión humana que vaya más allá de su mera presencia formal, en registros que permitan reconstruir las acciones realizadas, en permisos proporcionados a cada tarea y en mecanismos efectivos de control durante la ejecución.
También obliga a reconsiderar cómo distribuimos responsabilidades entre desarrolladores, proveedores, responsables del despliegue y organizaciones que integran estos sistemas en sus procedimientos.
No partimos de cero. El propio RIA contiene instrumentos útiles para afrontar algunos de estos problemas. Pero reconocerlo no impide preguntarse si serán suficientes cuando la autonomía operativa deje de ser excepcional y empiece a incorporarse de manera generalizada a nuestras organizaciones.
Pero la pelota ya está en el otro campo.
Todo esto me devuelve a aquella reflexión surgida en el Senado.
Mientras seguimos debatiendo cómo ajustar el marco regulatorio europeo, la inteligencia artificial está evolucionando desde herramientas que generan información hacia sistemas capaces de intervenir directamente sobre la realidad.
No significa que el Reglamento haya quedado obsoleto. Tampoco que debamos legislar apresuradamente cada innovación tecnológica. Significa que debemos observar con atención si nuestras categorías regulatorias siguen describiendo adecuadamente aquello que queremos controlar.
Porque quizá la próxima gran discusión no consista en determinar únicamente qué es un sistema de inteligencia artificial, sino en establecer bajo qué condiciones puede actuar, hasta dónde puede llegar y quién debe responder por sus actuaciones.
Estamos todavía discutiendo las reglas del partido y la pelota ya está en el otro campo.
La cuestión es si seremos capaces de adaptar nuestra forma de gobernar antes de que el juego vuelva a cambiar.
Un saludo y nos vamos leyendo.
No hay comentarios:
Publicar un comentario