Publicado originalmente el 20 de abril de 2021 en La Segunda

Cuando se trata de tomar decisiones, solemos asociar a las personas con vicios relacionados a la arbitrariedad, subjetividad y capricho. Los sistemas automatizados, por otro lado, gozan de un aura de objetividad por basarse en el análisis de datos. Después de todo, los datos no tienen color político, inclinaciones ni agendas propias.

Paradójicamente, la evidencia muestra que los sistemas algorítmicos son susceptibles de reproducir e incluso profundizar los sesgos de sus programadores. Este sesgo puede producirse por la ponderación asignada a cada factor, la elección de cierto tipo de datos por sobre otros o porque los datos mismos son sesgados. Por ejemplo, un análisis de los abogados más exitosos de Santiago mostrará una clara tendencia a favor de hombres, de más de 50 años y que egresaron de ciertos colegios. 

Para evitar que estas decisiones devengan en arbitrarias y poco transparentes, la legislación europea estableció el derecho a no ser sujeto a decisiones basadas exclusivamente en un tratamiento automatizado de datos. De esta forma, se permite al afectado solicitar la intervención de un humano, expresar su punto de vista y objetar la decisión.

Así, esta semana una corte holandesa obligó a Uber a reincorporar e indemnizar a seis conductores cuyo despido fue realizado en función de una decisión tomada por medios algorítmicos. 

Sin embargo, esta figura ha producido un alto nivel de incertidumbre. Todavía queda pendiente clarificar qué nivel de intervención humana se requiere para que una decisión no se considere tomada por medios “exclusivamente automatizados”. Tampoco existe claridad respecto a qué antecedentes podrá acceder el afectado para poder oponerse a la decisión o, incluso, si esto involucra que se le explique (y con qué detalle) cómo el sistema tomó la decisión en el caso concreto.

El proyecto de ley de datos personales que se tramita en el congreso incluye una norma inspirada fuertemente en la legislación europea. Esto representa una oportunidad para precisar estos cabos sueltos y alcanzar dos objetivos: otorgar certeza jurídica a este tipo de operaciones y alcanzar un equilibrio entre la protección de los titulares y los beneficios que estos sistemas automatizados aportan a la industria y la sociedad en su conjunto.