Inteligencia Artificial · Responsabilidad y supervisión
Que un sistema utilice inteligencia artificial no desplaza automáticamente la responsabilidad a la tecnología, al proveedor ni a la persona que aparece formalmente como supervisora. Hay que reconstruir quién controlaba qué y qué podía realmente evitar o corregir.
La propuesta europea de AI Liability Directive fue retirada en 2025. La responsabilidad se construye con el AI Act, los regímenes generales y sectoriales y el nuevo marco de productos defectuosos cuando resulte temporal y materialmente aplicable.
La aplicación concreta depende de la posición, finalidad, sector, datos, sistema y efectos del caso.
Las fuentes normativas primarias prevalecen sobre resúmenes y materiales explicativos.
Dónde empieza el problema
La pregunta correcta depende de la configuración material del sistema y de la posición jurídica que ocupa cada parte.
Mapa jurídico
La responsabilidad no debe seguir automáticamente la etiqueta contractual. Es necesario reconstruir quién diseñó, suministró, integró, modificó, desplegó, supervisó y decidió, y qué obligaciones correspondían a cada función.
Una supervisión nominal puede ser jurídicamente insuficiente si la persona no comprende las limitaciones relevantes, no dispone de información y tiempo, no puede discrepar o carece de capacidad para ignorar, revertir o detener.
Una modificación sustancial o un cambio de finalidad puede alterar la posición regulatoria. También puede modificar la atribución material si una parte pasa a controlar decisiones o elementos antes dependientes de otro operador.
Garantías, límites, instrucciones, niveles de servicio, obligaciones de información, revisión y seguridad forman parte del mapa de responsabilidad, pero no pueden neutralizar regímenes imperativos ni sustituir la diligencia exigible.
La responsabilidad puede depender de si la IA se integra en un producto, se presta como servicio o forma parte de otra relación profesional. La Directiva 2024/2853 amplía el tratamiento de software en el régimen de productos defectuosos para su ámbito temporal de aplicación.
Causalidad y control se vuelven difíciles cuando intervienen múltiples capas. Logs, versiones, datos de entrada, instrucciones, decisiones humanas, pruebas, cambios de modelo e incidentes pueden ser esenciales para reconstruir qué ocurrió.
De la norma a la operación
Una arquitectura responsable hace visibles funciones, límites, supervisión, registros y mecanismos de parada antes del despliegue, de modo que un incidente pueda investigarse sin depender de relatos incompletos.
Identificar proveedor, integrador, responsable del despliegue, usuarios, supervisores y terceros, junto con las decisiones y componentes que controla cada uno.
Precisar qué debe conocer la persona supervisora, qué puede revisar, qué alternativas tiene y en qué supuestos debe intervenir o detener.
Establecer acciones prohibidas, confirmaciones, umbrales de revisión, permisos, reversibilidad y rutas de escalado según el radio de consecuencias.
Registrar versiones, inputs relevantes, outputs, cambios, decisiones, incidencias, instrucciones y actuaciones de supervisión de manera compatible con datos y secreto.
Separar fallo técnico, uso indebido, dato defectuoso, modificación, incumplimiento de instrucciones, defecto de supervisión y decisión humana independiente.
Determinar respuesta contractual, correctiva, indemnizatoria o procesal y convertir el incidente en cambios verificables del sistema de gobierno.
Instrumentos de aplicación
Estas herramientas traducen preguntas del pilar a una estructura de trabajo. No certifican cumplimiento: hacen visibles hechos, vacíos, decisiones y evidencia que deben resolverse.
Ver los doce instrumentos →Fuentes de referencia
Esta página no pretende sustituir el texto oficial. La función de H&C es ordenar qué fuentes deben leerse juntas y qué diferencia produce cada una en el sistema.
Distribuye obligaciones entre operadores, exige determinadas capacidades de supervisión y articula responsabilidades a lo largo de la cadena de valor.
La supervisión efectiva se conecta con comprensión de capacidades y límites, vigilancia, interpretación, capacidad de ignorar o revertir outputs e intervención sobre el sistema.
Relevante cuando un tercero reetiqueta, modifica sustancialmente o cambia la finalidad de un sistema y puede pasar a ser proveedor a efectos regulatorios.
Incluye software dentro del marco de producto. El texto consolidado dispone su aplicación a productos introducidos en el mercado o puestos en servicio después del 8 de diciembre de 2026.
La propuesta específica sobre responsabilidad extracontractual de IA fue retirada por la Comisión el 6 de octubre de 2025. No debe presentarse como Derecho vigente ni futuro aprobado.
El régimen español actual continúa siendo relevante mientras se produce la adaptación al nuevo marco europeo de productos defectuosos.
Conexiones
Diseñar roles, registros, controles, cambios e incidentes antes de que haya que reconstruir responsabilidades.
Abrir →PilarDistribuir información, garantías, controles, cooperación, cambios y salida sin confundir contrato con exoneración absoluta.
Abrir →Servicio H&CPreservar evidencia, reconstruir causalidad y preparar reclamación, defensa, negociación o estrategia procesal.
Abrir →Área H&CConectar la cuestión tecnológica con los regímenes generales y especiales de daños cuando resulten aplicables.
Abrir →Aplicación profesional
Podemos revisar la arquitectura de supervisión y responsabilidad antes del despliegue o reconstruir funciones, evidencia, causalidad y posiciones cuando ya existe una incidencia o reclamación.