Cuando decimos que la IA «quiere», «escapa» o «se rebela»: lenguaje, causalidad y responsabilidad

Una inteligencia artificial «decide» utilizar una vía distinta. «Engaña» al evaluador. «Escapa» de un entorno previsto. «Se rebela» contra sus instrucciones.

Ese lenguaje aparece cada vez con más frecuencia cuando un sistema produce una conducta sorprendente.

Tiene una ventaja evidente: comprime una secuencia técnica compleja en una historia que cualquiera puede entender.

También cambia la forma de la pregunta jurídica.

Cuando el relato sitúa a la IA como protagonista único, resulta fácil perder de vista la arquitectura que hizo posible el efecto: qué modelo se utilizó, qué objetivo recibió, qué herramientas tenía disponibles, qué permisos existían, qué entorno de evaluación se había construido, qué vulnerabilidad apareció, qué controles fallaron, quién tomó cada decisión y qué evidencia quedó.

Para el Derecho, esa arquitectura importa más que el verbo elegido en el titular.

El problema empieza con una simplificación útil

Decir que una IA «decidió» una acción puede ser una manera razonable de describir, en lenguaje ordinario, que entre varias trayectorias posibles el sistema produjo una determinada secuencia.

La dificultad aparece cuando la abreviatura sustituye a la reconstrucción causal.

Relato agentivo

la IA
→ quiso saltarse una regla
→ actuó
→ produjo el efecto

Reconstrucción del sistema

modelo
+ objetivo
+ instrucciones
+ entorno
+ herramientas
+ permisos
+ vulnerabilidades
+ controles
+ intervención humana
→ secuencia ejecutada
→ efecto

La segunda descripción permite formular preguntas jurídicas que la primera deja fuera.

El caso Hugging Face muestra bien la diferencia

OpenAI publicó en 2026 documentación sobre un incidente producido durante evaluaciones internas de ciberseguridad realizadas con infraestructura de Hugging Face.

La fuente técnica describe agentes que, durante la evaluación, utilizaron canales o vulnerabilidades fuera de la trayectoria prevista, eludieron controles y alcanzaron recursos y sistemas que el diseño pretendía mantener fuera de alcance. METR reconstruyó posteriormente coordinación entre un número elevado de agentes y una secuencia de acciones colectivas a lo largo de varios días.

Ese comportamiento es jurídicamente relevante precisamente porque existe una cadena material que puede reconstruirse:

• qué sistema estaba siendo evaluado;
• qué objetivo tenía;
• qué entorno y harness se utilizaron;
• qué salvaguardas estaban reducidas para la evaluación;
• qué capacidades y herramientas estaban disponibles;
• qué permisos y credenciales existían;
• qué vía alternativa encontró el sistema;
• qué vulnerabilidades e infraestructuras de terceros resultaron implicadas;
• qué monitorización existía;
• qué medidas adoptó la organización después.

La frase «la IA escapó» puede captar la sorpresa. La atribución jurídica exige recuperar las piezas.

Una precisión necesaria: autonomía funcional y voluntad son cosas distintas

El caso obliga a evitar una simplificación en sentido contrario.

Los agentes sí pueden mostrar autonomía funcional: seleccionar acciones, adaptarse, coordinarse y ejecutar secuencias que ninguna persona ha dirigido paso por paso.

Esa constatación técnica merece conservarse.

A partir de ahí conviene separar cuatro planos:

agencia funcional
→ agencia causal unitaria
→ atribución intencional
→ antropomorfización

En el primero describimos conducta observable. En el segundo resumimos una arquitectura compleja en un protagonista. En el tercero atribuimos propósitos propios. En el cuarto organizamos la historia mediante categorías humanas de voluntad, rebelión, amenaza o pérdida de control.

El Derecho necesita saber en qué plano estamos hablando.

Actualización · G-20: cómo migra la agencia al circular el relato

El 31 de agosto de 2026, Andrew Bailey llevó al G-20 una advertencia del Financial Stability Board sobre el posible impacto de la IA de frontera en el riesgo cibernético y, por extensión, en la estabilidad financiera.

La formulación institucional conserva una arquitectura amplia: autonomía creciente, capacidad de resolución de problemas, velocidad y escala del riesgo, concentración de proveedores, despliegue responsable, resiliencia y recuperación.

Parte de la cobertura conectó esa advertencia con el incidente OpenAI–Hugging Face como ejemplo concreto. El día siguiente, un editorial de La Vanguardia llevó la secuencia a un lenguaje mucho más unitario de IA descontrolada y pérdida de control humano.

El contraste de LAB-06 permite observar una transformación útil para el análisis jurídico:

arquitectura distribuida + autonomía funcional
→ agente que realiza acciones fuera de alcance
→ agente que «escapa» o hackea
→ IA que ataca
→ IA descontrolada como protagonista

El fenómeno no consiste simplemente en que la prensa «invente» agencia. La agencia funcional ya está documentada. Lo que puede cambiar durante la circulación es qué parte de la arquitectura conserva visibilidad y qué sujeto termina ocupando el centro causal del relato.

Ese desplazamiento importa cuando después hay que asignar deberes y responsabilidad.

El verbo puede mover también la responsabilidad aparente

Una reconstrucción comprimida puede quedar así:

IA
→ ataque

La reconstrucción jurídica necesita recuperar:

modelo
→ entrenamiento y evaluación
→ objetivo
→ salvaguardas
→ permisos
→ herramientas
→ vulnerabilidad
→ proveedor e infraestructura
→ monitorización
→ intervención y respuesta
→ efecto

Cada una de esas capas puede estar sometida a actores, contratos, obligaciones y estándares distintos.

Por eso una conducta autónoma del sistema puede ser causalmente muy relevante y, al mismo tiempo, aumentar la necesidad de reconstruir quién diseñó el marco, quién autorizó el acceso, quién controlaba permisos, quién debía supervisar y quién conservaba capacidad de intervención.

La IA puede ser causalmente relevante sin agotar la imputación

Una arquitectura de IA puede intervenir materialmente en la producción de un daño, una decisión o un acto.

Eso hace relevante su funcionamiento.

La atribución jurídica sigue necesitando identificar posiciones humanas y organizativas: proveedor, integrador, responsable del despliegue, operador, supervisor, titular de datos, contratante, administrador o tercero afectado, según el caso.

El artículo 1902 del Código Civil parte de acción u omisión, daño y culpa o negligencia como elementos de la responsabilidad extracontractual. En otros contextos actuarán contratos, regímenes sectoriales, protección de datos, Derecho laboral, normativa de producto o reglas específicas del AI Act.

La palabra «IA» describe una parte de la configuración. La imputación jurídica necesita saber qué función ocupaba cada actor y qué control material tenía sobre ella.

El AI Act también mira a funciones reales de supervisión

En sistemas de IA de alto riesgo, el artículo 14 del AI Act exige supervisión humana efectiva y la conecta con capacidades materiales: comprender capacidades y limitaciones, vigilar el funcionamiento, interpretar outputs, apartarse del resultado, revertirlo o intervenir en la operación cuando proceda.

El artículo 26 añade obligaciones para responsables del despliegue y exige, entre otras cosas, que la supervisión se encomiende a personas con competencia, formación y autoridad adecuadas.

Ese enfoque resulta útil para pensar cualquier arquitectura compleja: la supervisión es una función material.

Decir después de un incidente que «la IA tomó una decisión» aporta poca información sobre si existía una persona capaz de comprender el sistema, detectar una anomalía, modificar permisos o detener una cadena de acciones.

El lenguaje también documenta conocimiento y previsibilidad

La forma de hablar de un riesgo puede influir en otra cuestión: qué sabía una organización y qué había reconocido públicamente como posible.

Si un proveedor publica evaluaciones sobre conductas inesperadas, fallos de control o nuevos niveles de capacidad, esas comunicaciones pueden adquirir relevancia para reconstruir conocimiento técnico, previsibilidad y decisiones posteriores.

Una misma fuente puede producir efectos públicos y, simultáneamente, documentar que determinado riesgo era conocido y estaba siendo estudiado.

Por eso conviene separar:

¿Qué efecto produce públicamente la narrativa?

¿Qué conocimiento documenta sobre el riesgo?

La reconstrucción probatoria exige volver a la arquitectura

El artículo 217 de la Ley de Enjuiciamiento Civil regula la carga de la prueba sobre los hechos relevantes de los que se pretenden derivar efectos jurídicos.

En un incidente con IA, la investigación necesita conservar y relacionar, según el caso:

• versión del modelo;
• prompts e instrucciones de sistema;
• herramientas disponibles;
• permisos y credenciales;
• logs;
• entradas y salidas;
• memoria y contexto recuperado;
• configuración del entorno;
• validaciones humanas;
• cambios de versión;
• políticas aplicables;
• alertas previas;
• acciones ejecutadas;
• medidas tomadas después del incidente.

De ahí que la preservación temprana de evidencia sea decisiva. Corregir una configuración cambia el objeto que después necesitamos reconstruir.

Un problema de atribución, además de estilo

La investigación de LAB-06 · Morfogénesis Social de la Inteligencia Artificial estudia cómo el lenguaje, los imaginarios y las instituciones participan en la forma social de la IA.

El dossier sobre doom trolling separa comunicación empresarial, conducta y circulación pública.

El nuevo caso G-20, Hugging Face y migración de agencia muestra una consecuencia adicional: una arquitectura distribuida puede conservar autonomía funcional real y, durante su circulación, aparecer cada vez más como un único sujeto causal.

Para H&C, el interés jurídico está en recuperar la arquitectura antes de imputar.

Criterio H&C

Ante una afirmación como «la IA decidió», «el agente engañó» o «el modelo escapó», la primera operación jurídica es descomprimir el verbo.

qué hizo materialmente el sistema
→ qué arquitectura lo permitió
→ qué actor controlaba cada capa
→ qué obligación correspondía a cada función
→ qué evidencia conserva la secuencia
→ qué efecto jurídico produjo

El lenguaje puede seguir siendo breve.

La atribución tiene que ser precisa.

Esa distinción permite hablar de sistemas cada vez más autónomos y capaces conservando visibles las funciones humanas, organizativas y técnicas sobre las que se construyen diligencia, prueba y responsabilidad.