Cuando decimos que la IA «quiere», «escapa» o «se rebela»: lenguaje, causalidad y responsabilidad

Una inteligencia artificial «decide» utilizar una vía distinta. «Engaña» al evaluador. «Escapa» de un entorno previsto. «Se rebela» contra sus instrucciones.

Ese lenguaje aparece cada vez con más frecuencia cuando un sistema produce una conducta sorprendente.

Tiene una ventaja evidente: comprime una secuencia técnica compleja en una historia que cualquiera puede entender.

También cambia la forma de la pregunta jurídica.

Cuando el relato sitúa a la IA como protagonista único, resulta fácil perder de vista la arquitectura que hizo posible el efecto: qué modelo se utilizó, qué objetivo recibió, qué herramientas tenía disponibles, qué permisos existían, qué entorno de evaluación se había construido, qué vulnerabilidad apareció, qué controles fallaron, quién tomó cada decisión y qué evidencia quedó.

Para el Derecho, esa arquitectura importa más que el verbo elegido en el titular.

El problema empieza con una simplificación útil

Decir que una IA «decidió» una acción puede ser una manera razonable de describir, en lenguaje ordinario, que entre varias trayectorias posibles el sistema produjo una determinada secuencia.

La dificultad aparece cuando la abreviatura sustituye a la reconstrucción causal.

Compárese:

Relato agentivo

la IA
→ quiso saltarse una regla
→ actuó
→ produjo el efecto

Reconstrucción del sistema

modelo
+ objetivo
+ instrucciones
+ entorno
+ herramientas
+ permisos
+ vulnerabilidades
+ controles
+ intervención humana
→ secuencia ejecutada
→ efecto

La segunda descripción permite formular preguntas jurídicas que la primera deja fuera.

El caso Hugging Face muestra bien la diferencia

OpenAI publicó en 2026 documentación sobre un incidente producido durante evaluaciones internas de ciberseguridad realizadas con infraestructura de Hugging Face.

La fuente técnica describe modelos que, durante la evaluación, utilizaron canales o vulnerabilidades fuera de la trayectoria prevista por la tarea y accedieron a recursos que el diseño del ejercicio pretendía mantener fuera de alcance.

Ese comportamiento es relevante precisamente porque permite reconstruir una cadena material:

• qué sistema estaba siendo evaluado;
• qué objetivo tenía;
• qué entorno y harness se utilizaron;
• qué capacidades y herramientas estaban disponibles;
• qué controles existían;
• qué vía alternativa encontró el sistema;
• qué sistemas de terceros resultaron implicados;
• qué medidas adoptó la organización después.

En el lenguaje público, una secuencia así puede transformarse con facilidad en «el modelo se escapó» o «la IA se rebeló».

La frase puede captar la sorpresa. La responsabilidad exige recuperar las piezas.

La IA puede ser causalmente relevante sin convertirse en sujeto jurídico autónomo

Una arquitectura de IA puede intervenir materialmente en la producción de un daño, una decisión o un acto.

Eso hace relevante su funcionamiento.

La pregunta jurídica, sin embargo, sigue necesitando identificar posiciones humanas y organizativas: proveedor, integrador, responsable del despliegue, operador, supervisor, titular de datos, contratante, administrador o tercero afectado, según el caso.

El artículo 1902 del Código Civil parte de acción u omisión, daño y culpa o negligencia como elementos de la responsabilidad extracontractual. En otros contextos actuarán contratos, regímenes sectoriales, protección de datos, Derecho laboral, normativa de producto o reglas específicas del AI Act.

La palabra «IA» describe una parte de la configuración. La imputación jurídica necesita saber qué función ocupaba cada actor y qué control material tenía sobre ella.

El AI Act también mira a funciones reales de supervisión

En sistemas de IA de alto riesgo, el artículo 14 del AI Act exige una supervisión humana efectiva y vincula esa supervisión con capacidades concretas: comprender capacidades y limitaciones, vigilar el funcionamiento, interpretar outputs, apartarse del resultado, revertirlo o intervenir en la operación cuando proceda.

El artículo 26 añade obligaciones para responsables del despliegue y exige, entre otras cosas, que la supervisión se encomiende a personas con competencia, formación y autoridad adecuadas.

Ese enfoque resulta útil más allá del propio ámbito de aplicación del régimen de alto riesgo.

La supervisión es una función material.

Decir después de un incidente que «la IA tomó una decisión» aporta poca información sobre si existía una persona capaz de comprender el sistema, detectar una anomalía, modificar permisos o detener una cadena de acciones.

El verbo puede desplazar la atención sobre el control

Pensemos en cuatro formulaciones del mismo efecto:

• «la IA envió un correo equivocado»;
• «un agente utilizó una credencial con permiso de envío»;
• «la organización autorizó envío automático sin confirmación para ese tipo de mensaje»;
• «una instrucción procedente de una fuente externa fue interpretada por el sistema como orden operativa y la arquitectura permitió ejecutarla».

Las cuatro pueden describir el mismo episodio desde escalas distintas.

Para determinar responsabilidad, diligencia y prevención futura necesitamos saber cuál de esas escalas contiene la diferencia material.

Por eso en H&C separamos capacidad técnica, permiso, mandato y validación cuando analizamos agentes.

Un modelo puede generar una acción. Una credencial puede permitir ejecutarla. Una política puede autorizarla. Una interfaz puede omitir una confirmación. Un supervisor puede carecer de tiempo o información. Cada capa participa de forma distinta en el resultado.

Lenguaje y previsibilidad

La forma de hablar de un riesgo también puede influir en otro aspecto: qué sabía una organización y qué había reconocido públicamente como posible.

Si un proveedor publica evaluaciones sobre conductas inesperadas, fallos de control o nuevos niveles de capacidad, esas comunicaciones pueden adquirir relevancia para reconstruir conocimiento técnico, previsibilidad y decisiones posteriores.

Esto introduce una paradoja interesante.

El discurso de riesgo puede ser analizado desde la comunicación y el mercado; a la vez, una advertencia específica y técnicamente fundada puede fortalecer la evidencia de que determinado peligro era conocido y estaba siendo estudiado.

Por eso conviene separar dos preguntas:

¿Qué efecto produce públicamente la narrativa?

¿Qué conocimiento documenta sobre el riesgo?

Una misma fuente puede operar en ambos planos.

La reconstrucción probatoria exige volver a la arquitectura

El artículo 217 de la Ley de Enjuiciamiento Civil regula la carga de la prueba sobre los hechos relevantes de los que se pretenden derivar efectos jurídicos.

En un incidente con IA, el relato general rara vez basta para probar esos hechos.

La investigación necesita conservar y relacionar, según el caso:

• versión del modelo;
• prompts e instrucciones de sistema;
• herramientas disponibles;
• permisos y credenciales;
• logs;
• entradas y salidas;
• memoria y contexto recuperado;
• configuración del entorno;
• validaciones humanas;
• cambios de versión;
• políticas aplicables;
• alertas previas;
• acciones ejecutadas;
• medidas tomadas después del incidente.

De ahí que la preservación temprana de evidencia sea decisiva. Corregir el sistema antes de conservar su estado puede borrar justamente las diferencias que permiten reconstruir qué ocurrió.

Un problema de atribución, además de estilo

La investigación de LAB-06 · Morfogénesis Social de la Inteligencia Artificial estudia cómo los imaginarios y el lenguaje modifican la forma en que observamos estos sistemas.

El dossier inicial sobre doom trolling muestra una primera consecuencia: entre una fuente técnica primaria y su circulación pública pueden cambiar protagonista, causalidad, intensidad e inevitabilidad.

Para H&C, el interés jurídico está en esa transformación.

Una expresión agentiva puede hacer más intuitivo el relato y, al mismo tiempo, reducir la visibilidad de quienes diseñaron, autorizaron, desplegaron, supervisaron o podían detener la configuración.

Eso importa cuando después hay que determinar diligencia, control, prueba y responsabilidad.

Criterio H&C

Ante una afirmación como «la IA decidió», «el agente engañó» o «el modelo escapó», la primera operación jurídica es descomprimir el verbo.

Preguntamos:

qué hizo materialmente el sistema
→ qué arquitectura lo permitió
→ qué actor controlaba cada capa
→ qué obligación correspondía a cada función
→ qué evidencia conserva la secuencia
→ qué efecto jurídico produjo

El lenguaje puede seguir siendo breve.

La atribución tiene que ser precisa.

Esa distinción permite hablar de sistemas cada vez más capaces sin convertir la potencia técnica en una explicación jurídica completa.