Siempre llegaremos tarde: gobernar la inteligencia artificial cuando el cambio ocurre en tiempo real

Esta mañana, en la segunda página de La Vanguardia, una frase al final de un artículo de su director, Jordi Juan, nos llamó más la atención que el resto del texto.

Después de describir el aumento de capacidad de la inteligencia artificial, los riesgos de sistemas con mayor autonomía y la dificultad de mantener control humano, el artículo termina con una observación aparentemente menor: «parece que siempre vamos tarde».

La frase merece tomarse en serio.

No porque las instituciones estén reaccionando mal o porque el Derecho sea simplemente demasiado lento. La cuestión puede ser bastante más incómoda: quizá hayamos entrado en un régimen en el que reaccionar significa llegar tarde por construcción.

El problema no es solo la inteligencia artificial

La inteligencia artificial es hoy el acelerador más visible, pero el fenómeno es más amplio.

Cambian simultáneamente tecnologías, capacidades, modelos de negocio, proveedores, formas de trabajar, riesgos, mercados, regulación y expectativas sociales. Una organización puede empezar a implantar una solución mientras cambia el modelo que la sostiene; adaptar un contrato mientras aparece una arquitectura nueva; o terminar un procedimiento interno cuando la capacidad técnica que intentaba gobernar ya es distinta.

En Paraíso lo formulamos de otra manera: ya no podemos contar con que el entorno permanezca estable mientras comprendemos qué ocurre, decidimos y actuamos. La cuestión ya no es prepararse para un cambio futuro, sino conservar capacidad mientras el cambio está ocurriendo.

La IA ocupa, sin embargo, una posición singular dentro de ese régimen. No es únicamente una tecnología que cambia. Es una capacidad transversal que modifica a la vez la investigación, el trabajo profesional, el software, la comunicación, la organización, la producción de contenidos, la seguridad, la decisión y el propio ritmo al que pueden aparecer nuevas configuraciones.

Por eso el problema jurídico de la IA no puede reducirse a seguir una sucesión de novedades tecnológicas.

El ciclo reactivo ya no cierra

La respuesta clásica funciona aproximadamente así:

1. aparece una capacidad nueva;
2. observamos sus efectos;
3. identificamos riesgos y posiciones jurídicas;
4. interpretamos o producimos regulación;
5. la organización adapta contratos, procedimientos y controles;
6. verificamos si la adaptación funciona.

Ese ciclo sigue siendo necesario. Lo que ha cambiado es una condición silenciosa: antes podía asumirse que el objeto seguiría siendo suficientemente parecido al final del proceso.

Con sistemas de IA, esa premisa empieza a fallar.

El modelo puede cambiar. El proveedor puede sustituir componentes. La memoria puede incorporarse después. Una herramienta que primero recomienda puede pasar a ejecutar. Un asistente puede convertirse en agente. Un proceso inicialmente interno puede empezar a producir actos frente a terceros. Una actualización puede ampliar el radio de consecuencias sin que cambie el nombre comercial del producto.

Cuando terminamos de responder a la configuración A, la organización puede estar operando ya con B.

Eso no significa que la regulación específica deje de importar

Sería un error extraer la conclusión contraria: que, como la tecnología cambia, solo necesitamos principios generales.

El AI Act y el resto del Derecho aplicable a sistemas de IA contienen reglas específicas que deben identificarse, fecharse y aplicarse. Protección de datos, trabajo, contratación, propiedad intelectual, responsabilidad o Derecho procesal continúan actuando según el sistema y el efecto concreto.

La cuestión es otra.

Entre una modificación tecnológica y la siguiente necesitamos una arquitectura que siga siendo gobernable aunque cambien sus componentes.

La norma específica responde qué obligación existe. La gobernanza debe conseguir que esa obligación pueda seguir encontrando un lugar dentro de un sistema que se mueve.

La alternativa a reaccionar más deprisa es mantener coherencia bajo variación

Nuestro trabajo sobre coherencia parte de una distinción importante: coherencia no significa estabilidad.

Una forma coherente no es la que permanece idéntica. Es la que puede reorganizarse conservando continuidad de sentido, dirección y capacidad de actuación. El problema aparece precisamente cuando el entorno cambia más rápido que la forma que intenta operar dentro de él.

Esta diferencia permite reformular la cuestión jurídica.

No necesitamos una arquitectura que adivine qué modelo, agente o tecnología existirá dentro de seis meses. Necesitamos una arquitectura capaz de absorber el cambio sin perder aquello que hace posible gobernar.

En términos jurídicos y organizativos, podríamos hablar de una configuración mínima de gobernabilidad.

Qué debería sobrevivir aunque cambie la tecnología

Los componentes técnicos pueden cambiar. Estas preguntas no deberían desaparecer con ellos:

• Finalidad. ¿Para qué existe el sistema y qué usos quedan fuera?
• Autoridad. ¿Quién puede decidir, delegar, modificar, ampliar permisos y detener?
• Información. ¿Qué datos, fuentes, memoria y conocimiento utiliza y bajo qué condiciones?
• Supervisión. ¿Quién puede comprender, discrepar, corregir o impedir el resultado antes de que el efecto quede consolidado?
• Responsabilidad. ¿Quién controla materialmente cada función y responde por las decisiones que le corresponden?
• Trazabilidad. ¿Puede reconstruirse qué versión, dato, instrucción, herramienta y decisión produjeron el efecto?
• Reversibilidad y corte. ¿Qué puede detenerse, revocarse, corregirse o retirarse cuando cambia el riesgo?
• Continuidad. ¿Qué conocimiento, documentación y capacidad permanecen si cambia el proveedor, el modelo o la arquitectura?

No son respuestas universales. Son relaciones que deben concretarse en cada sistema.

Su ventaja es que siguen siendo pertinentes cuando la tecnología cambia.

Los agentes de IA muestran con claridad el problema

Un agente de IA puede hoy preparar una acción y mañana ejecutarla porque se le conecta una herramienta nueva. Desde el punto de vista técnico, el salto puede consistir en un permiso o una API.

Jurídicamente, el cambio es mucho mayor.

La pregunta ya no es solo si la respuesta del modelo es correcta. Hay que saber qué mandato existe, qué credencial utiliza, qué acto puede realizar, cuándo necesita confirmación, qué información puede revelar, qué evidencia deja y quién puede detenerlo.

Ninguna de esas preguntas depende de una marca concreta de modelo.

Por eso hemos insistido en una regla que seguirá siendo válida aunque cambie el estado del arte: capacidad técnica no equivale a autoridad jurídica.

Lo mismo ocurre con la supervisión. Decir que «hay un humano en el circuito» no resuelve nada si ese humano no tiene información, tiempo, competencia o capacidad efectiva para apartarse del sistema. La gobernanza de sistemas de IA tiene que conservar funciones reales de control aunque el mecanismo técnico que las rodea cambie.

Gobernar en tiempo real no significa convertir el Derecho en un feed

La tentación ante este escenario es vigilar más: más noticias, más alertas, más documentos, más actualizaciones.

Eso también puede fracasar. Un sistema saturado de novedades no necesariamente detecta antes lo que importa.

Por eso el Observatorio Jurídico de IA de H&C no está diseñado como un feed de actualidad. Una novedad solo se promueve cuando introduce una diferencia material: cambia una obligación, una posición, una fecha, una arquitectura, un criterio, un instrumento o una actuación profesional.

Después la diferencia se estructura en el Código vivo, se proyecta temporalmente en el Calendario de obligaciones e implantación y, si corresponde, modifica un pilar, un instrumento o un proyecto.

La secuencia es deliberada:

cambio → diferencia material → criterio → arquitectura → actuación → evidencia.

No intenta eliminar el retraso temporal. Intenta impedir que cada novedad obligue a reconstruir el sistema desde cero.

La configuración mínima no puede ser una configuración fija

Aquí aparece la conexión más importante con la idea de capacidad ampliada y con la investigación de Inteligencia simbiótica.

Si el entorno cambia continuamente, la configuración mínima para no quedarse fuera no puede consistir en poseer las herramientas actuales. Tampoco puede consistir en tener un protocolo definitivo.

Tiene que ser una forma capaz de cambiar sin perder coherencia.

Eso significa conservar dirección aunque cambie el plan; memoria aunque cambie la herramienta; criterio aunque aumente la automatización; autoridad aunque se distribuya la ejecución; verificación aunque cambie el modelo; y capacidad de corte cuando la continuidad deja de ser segura.

Esta es probablemente la diferencia entre adaptación y gobernabilidad.

La adaptación intenta alcanzar el cambio.

La gobernabilidad conserva capacidad para decidir mientras el cambio continúa.

Entonces, ¿siempre llegaremos tarde?

Si «llegar» significa disponer de una regla específica para cada nueva capacidad antes de que aparezca, probablemente sí.

Pero quizá esa no sea ya la medida correcta.

No necesitamos ganar una carrera de velocidad contra la tecnología. Necesitamos que cada nueva capacidad entre en una arquitectura donde pueda identificarse su finalidad, delimitarse su autoridad, verificarse su funcionamiento, reconstruirse su actuación y detenerse cuando sea necesario.

El objetivo no es congelar el cambio.

Es evolucionar sin perder gobierno.

Y esa puede ser una tarea mucho más realista —y mucho más exigente— para el Derecho de la Inteligencia Artificial que intentar llegar siempre antes que lo que viene.