IA que decide sobre trabajadores: el terreno donde el error sale más caro

El Código del Trabajo ya pone los límites

El artículo 154 ter obliga al empleador a mantener reserva de toda la información y datos privados del trabajador a los que acceda con ocasión de la relación laboral. Esa obligación cubre igual una carpeta de papel que una plataforma de IA: subir fichas del personal, evaluaciones, licencias médicas o antecedentes de un proceso disciplinario a una herramienta externa es un tratamiento que cae dentro de ese deber.

El artículo 5 fija el límite general: las facultades del empleador tienen como frontera las garantías constitucionales de los trabajadores, en especial cuando pueden afectar su intimidad, su vida privada o su honra. El inciso final del artículo 154 lo aplica a los mecanismos de control: toda medida de control debe hacerse por medios idóneos y concordantes con la naturaleza de la relación laboral, con aplicación general y garantizando la impersonalidad de la medida, para respetar la dignidad del trabajador. Un sistema que mide la productividad de cada persona en tiempo real, clasifica sus conversaciones o arma perfiles individuales tiene que pasar ese examen antes de instalarse.

Si la herramienta cruza esos límites, el trabajador tiene la tutela laboral del artículo 485, el procedimiento para las vulneraciones de derechos fundamentales en la relación de trabajo, entre ellos la vida privada y la protección de los datos personales del artículo 19 N° 4 de la Constitución, y para los actos discriminatorios del artículo 2 del Código del Trabajo, salvo las ofertas de trabajo discriminatorias (inciso sexto). Si la vulneración ocurrió con el despido, el juez agrega una indemnización de entre seis y once remuneraciones mensuales (artículo 489).

La ley de datos agrega obligaciones concretas

Los datos de los trabajadores son datos personales, y varios de los que circulan en recursos humanos son sensibles para la ley: los de salud, la afiliación sindical y la situación socioeconómica, entre otros (artículo 2, letra g). Los datos sensibles solo pueden tratarse con consentimiento expreso del titular, salvo excepciones acotadas (artículo 16), y en una relación laboral cuesta sostener que el consentimiento sea libre, como exige el artículo 12. Esos datos no deberían entrar a una herramienta de IA sin una razón legal clara.

La ley define la elaboración de perfiles como el tratamiento automatizado que evalúa o predice aspectos de una persona, y nombra expresamente su rendimiento profesional (artículo 2, letra w). Un puntaje de desempeño o un ranking de postulantes armado por IA es, en el lenguaje de la ley, elaboración de perfiles. Eso activa dos reglas.

La primera es el derecho a oponerse a decisiones basadas en tratamiento automatizado que produzcan efectos jurídicos en el titular o lo afecten significativamente (artículo 8° bis). Ese derecho tiene excepciones, y la que va a invocar un empleador es la de la decisión necesaria para celebrar o ejecutar un contrato. Lo que rige siempre es el inciso final del mismo artículo: en todos los casos, el responsable debe asegurar el derecho del titular a la información y transparencia, a obtener una explicación, a la intervención humana, a expresar su punto de vista y a pedir la revisión de la decisión.

La segunda es la evaluación de impacto, que debe hacerse antes de empezar el tratamiento (artículo 15 ter). Es obligatoria siempre que haya una evaluación sistemática y exhaustiva de aspectos personales basada en tratamiento o decisiones automatizadas, como la elaboración de perfiles, que produzca efectos jurídicos significativos. Un puntaje que pesa en promociones, sanciones o despidos queda dentro. El filtro de postulantes es más discutible bajo esa letra, pero el inciso primero del mismo artículo exige la evaluación ante cualquier tratamiento que probablemente genere un alto riesgo para los titulares, y descartar personas de un empleo con un modelo difícilmente queda fuera. La Agencia publicará una lista orientativa de los tratamientos que la requieren o no, y orientaciones mínimas para hacerla.

El caso que ya ocurrió

En 2022 la agencia de igualdad en el empleo de Estados Unidos (EEOC) demandó a iTutorGroup, una empresa de tutorías en línea. Según la demanda, su software de postulación estaba programado para rechazar automáticamente a mujeres de 55 años o más y a hombres de 60 o más, y así descartó a más de 200 postulantes calificados. En 2023 la empresa aceptó pagar 365.000 dólares para cerrar el caso, a repartir entre los postulantes rechazados.

En Chile, ese filtro sería un acto de discriminación por edad y por sexo, dos motivos que el artículo 2 del Código del Trabajo nombra expresamente. Y la empresa tendría tres problemas que no se arreglan hacia atrás: no podría explicar el criterio si nadie documentó qué pesaba el sistema, no podría acreditar revisión humana si el filtro corría solo, y quedaría un patrón estadístico que cualquier abogado laboralista usa como punto de partida.

Qué instalar antes de encender la herramienta

Primero, la finalidad por escrito: para qué se usa el sistema, sobre qué decisiones influye y qué datos necesita. Todo dato que no sirva a esa finalidad queda fuera, empezando por los sensibles.

Segundo, la evaluación de impacto del artículo 15 ter, hecha antes de partir, como exige la ley.

Tercero, la información a los trabajadores. Las obligaciones y medidas de control van en el reglamento interno (artículo 154), que se pone en conocimiento de los trabajadores treinta días antes de que empiece a regir (artículo 156). Informar qué mide el sistema y quién decide con esa información cambia la posición de la empresa frente a una fiscalización de la Dirección del Trabajo o a un reclamo ante la Agencia de Protección de Datos Personales.

Cuarto, revisión humana con constancia: una persona con competencia para revertir el resultado lo revisa con los antecedentes a la vista, y queda registro de esa revisión y de qué versión del sistema produjo qué resultado. Ese es el contenido práctico del derecho a la intervención humana del artículo 8° bis, y es también la forma de detectar a tiempo que la herramienta descarta siempre al mismo tipo de persona.