Responsabilidad · 2026-08-18
Agentes de IA que ejecutan: quién responde cuando el agente se equivoca
Hay una diferencia práctica entre una IA que redacta y una IA que ejecuta. La primera propone un texto y alguien decide qué hacer con él. La segunda manda el correo, emite el documento, actualiza el registro, responde al cliente. El salto entre las dos parece técnico y en realidad es jurídico: en el momento en que la herramienta actúa hacia afuera, sus actos empiezan a producir efectos que la empresa tiene que sostener.
La mayoría de las empresas chilenas que están montando agentes hoy discuten el prompt, el modelo y la integración. Casi ninguna define antes lo que un agente puede hacer sin permiso, qué requiere autorización previa y qué queda prohibido. Ese vacío no se nota mientras todo sale bien. Se nota el día en que el agente responde algo que compromete a la empresa frente a un tercero.
La responsabilidad se queda en la empresa
Un agente de IA no tiene personalidad jurídica ni patrimonio. No firma, no se obliga, no responde. Cuando actúa dentro de la operación de una empresa lo hace como una herramienta que esa empresa decidió usar, configurar y conectar a sus sistemas. El resultado se le imputa a quien la puso a operar, igual que se le imputa el trabajo de un sistema automatizado cualquiera.
Eso descarta de entrada dos consuelos frecuentes. El primero: fue un error del modelo. Un error del modelo es un error de la empresa que lo desplegó sin control. El segundo: el proveedor responde. Los términos de servicio de los proveedores de IA excluyen responsabilidad por el uso, y los contratos comerciales rara vez trasladan el riesgo frente a terceros. La contraparte que sufrió el daño reclama contra quien contrató con ella, no contra el proveedor del modelo.
El punto práctico: la pregunta útil deja de ser si el agente se equivoca y pasa a ser cuánto puede costar el error que sí va a ocurrir. Un agente que clasifica correos internos y uno que responde consultas de clientes tienen exposiciones distintas en órdenes de magnitud, aunque la tecnología detrás sea idéntica.
El alcance se define antes de conectar el agente
El diseño que funciona parte al revés de como suele hacerse. Primero se escribe qué acciones puede ejecutar el agente por su cuenta, cuáles requieren aprobación humana antes de salir y cuáles no puede tocar bajo ninguna circunstancia. Recién después se elige la herramienta. Un agente sin ese perímetro escrito hereda, por defecto, todos los permisos de la cuenta con la que corre, que suele ser la de alguien con acceso amplio.
El criterio de corte más simple es el efecto sobre terceros. Todo lo que queda dentro de la empresa y es reversible admite ejecución autónoma: ordenar archivos, preparar borradores, extraer datos, generar resúmenes internos. Todo lo que sale hacia afuera o es difícil de revertir pasa por revisión humana: comunicaciones a clientes, documentos con firma, compromisos de precio o plazo, actuaciones ante autoridad, cualquier cosa que toque datos personales de terceros.
Ese perímetro tiene que estar escrito en algún lado que no sea la cabeza de quien montó el agente. Un documento corto, con la lista de acciones permitidas y el nombre de la persona responsable del agente, resuelve el 80% del problema. Sirve además cuando esa persona se va de la empresa, que es cuando estos montajes suelen quedar huérfanos y siguen corriendo igual.
Sin trazabilidad no hay defensa posible
Cuando un agente produce un daño, la posición de la empresa depende de lo que pueda demostrar. Qué instrucción recibió, con qué datos operó, quién lo configuró, si hubo revisión humana y quién la hizo. Una empresa que puede reconstruir eso discute sobre hechos. Una empresa que no puede queda discutiendo sobre su propia negligencia en el diseño, que es una posición bastante peor.
El registro mínimo no requiere infraestructura sofisticada: log de las acciones ejecutadas con fecha y hora, versión de las instrucciones vigentes en ese momento, y constancia de las aprobaciones humanas cuando el flujo las exige. La mayoría de las plataformas ya deja algo de esto. El trabajo consiste en verificar que exista, que se conserve y que alguien sepa dónde buscarlo antes de necesitarlo.
Cuando el agente trata datos personales, la trazabilidad además deja de ser prudencia y pasa a ser obligación. La Ley 21.719, que entra en plena vigencia el 1 de diciembre de 2026, exige poder acreditar bajo qué base de licitud se trataron los datos y responder los derechos que la ley reconoce a los titulares. Un agente que consulta y modifica registros de clientes sin dejar rastro convierte esa respuesta en imposible.
Los sectores regulados tienen menos margen y más ganancia
En actividades sujetas a fiscalización, la exigencia sube. El regulador pregunta por el procedimiento, por quién decidió y con qué antecedentes, y no acepta que la respuesta se agote en el output de un sistema. Eso limita dónde puede operar un agente de forma autónoma y hace obligatoria la firma humana en toda actuación que la normativa sectorial atribuye a una persona determinada.
La lectura habitual es que esos sectores deberían automatizar menos. La lectura correcta es la contraria: automatizan mejor. Como ya tienen procedimientos escritos, responsables definidos y registros obligatorios, tienen la mitad del trabajo hecho. Lo que falta es mapear el proceso existente y decidir en qué tramos el agente prepara y en cuáles la persona resuelve.
Ahí aparece el beneficio menos obvio: montar un agente con criterio obliga a escribir el proceso real, no el declarado. Varias empresas descubren en ese ejercicio que el cuello de botella nunca fue la falta de tecnología y que dos o tres pasos del flujo no los estaba controlando nadie.
Un agente bien acotado hace más trabajo del que la mayoría cree y expone mucho menos de lo que la mayoría teme. El orden de las decisiones es lo que separa un caso del otro.