Author: Pablo Viollier

Abogado y consultor especializado en derecho y tecnología

Derecho a la intervención humana

~ Pablo Viollier ~ Leave a comment

Publicado originalmente el 20 de abril de 2021 en La Segunda

Cuando se trata de tomar decisiones, solemos asociar a las personas con vicios relacionados a la arbitrariedad, subjetividad y capricho. Los sistemas automatizados, por otro lado, gozan de un aura de objetividad por basarse en el análisis de datos. Después de todo, los datos no tienen color político, inclinaciones ni agendas propias.

Paradójicamente, la evidencia muestra que los sistemas algorítmicos son susceptibles de reproducir e incluso profundizar los sesgos de sus programadores. Este sesgo puede producirse por la ponderación asignada a cada factor, la elección de cierto tipo de datos por sobre otros o porque los datos mismos son sesgados. Por ejemplo, un análisis de los abogados más exitosos de Santiago mostrará una clara tendencia a favor de hombres, de más de 50 años y que egresaron de ciertos colegios. 

Para evitar que estas decisiones devengan en arbitrarias y poco transparentes, la legislación europea estableció el derecho a no ser sujeto a decisiones basadas exclusivamente en un tratamiento automatizado de datos. De esta forma, se permite al afectado solicitar la intervención de un humano, expresar su punto de vista y objetar la decisión.

Así, esta semana una corte holandesa obligó a Uber a reincorporar e indemnizar a seis conductores cuyo despido fue realizado en función de una decisión tomada por medios algorítmicos. 

Sin embargo, esta figura ha producido un alto nivel de incertidumbre. Todavía queda pendiente clarificar qué nivel de intervención humana se requiere para que una decisión no se considere tomada por medios “exclusivamente automatizados”. Tampoco existe claridad respecto a qué antecedentes podrá acceder el afectado para poder oponerse a la decisión o, incluso, si esto involucra que se le explique (y con qué detalle) cómo el sistema tomó la decisión en el caso concreto.

El proyecto de ley de datos personales que se tramita en el congreso incluye una norma inspirada fuertemente en la legislación europea. Esto representa una oportunidad para precisar estos cabos sueltos y alcanzar dos objetivos: otorgar certeza jurídica a este tipo de operaciones y alcanzar un equilibrio entre la protección de los titulares y los beneficios que estos sistemas automatizados aportan a la industria y la sociedad en su conjunto.   

Política sin políticos

~ Pablo Viollier ~ Leave a comment

Publicada originalmente en La Segunda el 30 de diciembre de 2020

En los últimos 20 años, han surgido innumerables proyectos para “deshacernos de los políticos’”. La promesa es abandonar estos vestigios del pasado y usar la tecnología como mecanismo para incidir directamente en la toma de decisiones.

Para los proponentes de esta tecnocracia, la idea misma de tener representantes es vista como una vulnerabilidad del sistema. Y así como Montesquieu creía (equivocadamente) que los jueces sólo debían ser autómatas que pronuncian las palabras de la ley, esta utopía lograría -a través de mecanismos procedimentales- que se exprese, de forma directa, la voluntad popular.

A comienzos de los 2000, sonó fuerte la idea de utilizar internet para implementar una democracia líquida, una forma delegativa de participación que mezcla elementos de la democracia directa y representativa. Los ciudadanos podrían votar directamente en la toma de decisiones o delegar su voto en alguien de confianza. Más recientemente, la emergencia de la toma de decisiones automatizada basada en el análisis de datos le ha dado nueva fuerza a esta narrativa, al punto que un científico nacional propuso reemplazar a los políticos por un algoritmo de inteligencia artificial. Sin embargo, estos proyectos han chocado una y otra vez contra una pared.

Uno podría decir que han fracasado porque la tecnología no ha alcanzado cierto nivel necesario. Personalmente, creo que la tecnología está ahí y que el problema es una concepción ingenua de la política. La premisa implícita en la idea que es deseable eliminar a quienes median entre los ciudadanos y el poder político, es que la labor de estos delegados se remite a reproducir la voluntad de sus mandantes. Esta concepción es ingenua, porque las fuerzas políticas no sólo se limitan un ejercicio mecánico de recolección de voluntades, sino que también proponen y disputan -a través del diálogo, la acción colectiva y la construcción de comunidad- distintas concepciones de la sociedad con el objetivo de conducirla políticamente.  

Buscar la automatización de una anomia en donde no existe nada entre el ciudadano y el estado no sólo es implausible, sino que fomenta una visión individualista, mezquina y ensimismada de cómo se debe desenvolver nuestra vida en común.

Monopolio de la violencia

~ Pablo Viollier ~ Leave a comment

Publicada originalmente el 23 de octubre de 2020 en La Segunda

El pacto social se basa en una serie de balances y contrapesos que tienen como principal objetivo poner límites al poder político, evitar su abuso y distribuir su ejercicio de forma transversal en la sociedad.

Es por eso que el monopolio estatal de la violencia constituye uno de los pilares del estado de derecho; para que el uso de la fuerza por parte del poder político sea aceptable, esta debe sujetarse a estrictas restricciones y limitaciones, no sólo para evitar el atropellamiento estatal, sino que para gozar de legitimidad a los ojos de la población. Después de todo, Venezuela nos ha demostrado que no es suficiente realizar elecciones para vivir en democracia. 

Los hechos muestran que abusos, montajes y la actitud deliberante de Carabineros han superado todo límite. A un punto tal, que un porcentaje importante de la población ha dejado de considerar legítimo el accionar de la institución, declarándose en abierto desacato. Esto es extremadamente preocupante, porque implica un horadamiento del estado de derecho. Los ciudadanos deberían ver a la policía como los encargados de resguardar su legítimo derecho a manifestarse, no como su principal obstáculo.

La respuesta del mundo político ha sido, por decir poco, superficial y miope. Pretender reducir el escalamiento de la violencia política a un fenómeno meramente delictual no sólo es errado, sino que busca eludir el hecho que nuestra democracia ha sido incapaz de canalizar institucionalmente el sentir de millones de chilenos. Mientras tanto, de lado y lado, se repiten hasta el absurdo emplazamientos para denunciar en abstracto la violencia “venga de donde venga”, como si el mero pronunciamiento de ese mantra solucionara algo.

A estas alturas, creo que el primer paso para recomponer el abismo que se ha producido entre la política institucional y la sociedad, es proponernos contar con una policía civil, profesional, no deliberante y que responda ante el poder democrático. Emprender este camino es esencial para desescalar el conflicto en las calles, pero también es una condición necesaria para recuperar la confianza en la democracia como mecanismo de resolución de los conflictos.

Neutralidad de la red como condición para asegurar internet como derecho humano

~ Pablo Viollier ~ Leave a comment

Publicada originalmente el 28 de octubre de 2020 en Revista Entorno

Internet es un sistema global de dispositivos interconectados, una especie de red de redes. Esta red ha forjado el rumbo de la sociedad del siglo XXI por su increíble potencial para facilitar las comunicaciones, la innovación, el acceso al conocimiento y la actividad económica. Que internet sea el fenómeno global que hoy conocemos se debe, en parte, a que -desde su concepción- su diseño técnico e institucional fue pensado para propender a la materialización de tres principios: (i) descentralización: su infraestructura poco jerarquizada evita la existencia de nodos centrales y, de esta forma, busca impedir que un actor en particular tenga control sobre toda la red, dotándola de mayor resiliencia ante cualquier ataque a la misma, (ii) neutralidad: los protocolos de internet están diseñados para tratar bajo un mismo parámetro a todos los dispositivos que se conecten a la red y todos los paquetes de información que viajen por la misma y (iii) apertura: cualquier dispositivo, sin distinciones, puede conectarse a esta red de redes, en la medida que se comunique a través del protocolo común (TCP/IP).

Como se puede ver, la arquitectura de internet está diseñada para ser abierta, descentralizada y gobernada a través de distintos organismos independientes con roles particulares, de forma tal que ningún gobierno o institución tenga un “botón rojo” o control total sobre su funcionamiento.

Sin embargo, en los últimos años, uno de estos principios rectores de internet se ha visto en peligro. No por un cambio en el diseño o infraestructura de internet, sino por las prácticas comerciales de las empresas proveedoras de servicios de internet (ISPs). La neutralidad de la red busca evitar que proveedores de internet operen como guardianes o censores (gatekeepers) de la red, decidiendo qué contenido puede o no puede viajar por sus redes, o priorizando cierto tráfico por sobre otro. Lo que ha sucedido en los últimos años, es que las ISP han llegado a acuerdos para priorizar cierto tipo de tráfico por sobre otro en base a criterios comerciales. Así, en EEUU Netflix llegó a un acuerdo con la ISP Comcast para que el tráfico de Netflix gozara de prioridad en la red y por tanto viajará más rápido y con menos obstáculos. Esto es problemático porque significa entregarle el poder a las ISP respecto de qué puede estar disponible o no en internet (bloqueando contenido) o qué contenido debe tener prioridad. Imaginemos, por ejemplo, que un ISP decide ralentizar el tráfico de todos los sitios web de organizaciones sindicales del país. La arquitectura de internet está pensada para que los operadores sean neutros y sean los usuarios quienes tomen esa decisión.

Como respuesta a esta amenaza a una internet libre, abierta y democrática, muchos países han decidido consagrar el principio de neutralidad de la red a nivel legal. De hecho, Chile tiene el galardón de ser el primer país en el mundo en haber legislado en la materia, con la publicación de la Ley 20453 el año 2010, la que prohíbe a los ISP bloquear, interferir, discriminar, entorpecer ni restringir el derecho de cualquier usuario de Internet para utilizar, enviar, recibir u ofrecer cualquier contenido, aplicación o servicio legal a través de Internet.

A pesar de esta consagración legal, todavía enfrentamos desafíos en el respeto a la neutralidad de la red. Así, por ejemplo, los llamados planes de redes sociales gratis o zero-rating implican que un operador permite que algún servicio (Facebook, WhatsApp, Twitter, etc.) no consuma datos de navegación del plan del usuario. Esto parece algo positivo, después de todo, algo de internet es mejor que nada de internet ¿cierto? El problema es que la evidencia muestra que los usuarios (especialmente los segmentos más pobres) hacen un uso estratégico de estos planes, cargando una suma nominal a través de prepago, para luego sólo utilizar los servicios que no consumen datos. Por otro lado, la evidencia muestra que este tipo de arreglos comerciales impide mayor competencia de los ISP, encareciendo los planes y evitando el aumento del máximo de navegación de los mismos, finalmente generando un impacto negativo en los usuarios.

Y hay que decirlo con todas sus letras: tener acceso a Facebook, WhatsApp y Twitter no es tener un acceso significativo a internet. Es una versión cerrada, corporativa y limitada de una red que debe servir a las personas para emprender, aprender, comunicarse, hacer trámites de gobierno, postular a puestos de trabajo y, en general, gozar de todo el patrimonio cultural de la humanidad y los beneficios del avance de la ciencia.

El proceso constitucional que ha emprendido Chile representa una excelente oportunidad para consagrar a nivel constitucional este principio que ha permitido a internet nacer, crecer y evolucionar como una red abierta, libre y democrática. Asimismo, en sociedades donde la gran mayoría del flujo de información pasa ineludiblemente por internet, una ciudadanía informada y participativa requiere de garantías –derechos fundamentales- que protejan el uso y acceso equitativo a la infraestructura que hace esto posible. Esto necesariamente debe ir acompañado de otras conversaciones, como consagrar el acceso a internet como derecho humano, prohibir la vigilancia masiva e indiscriminada y consagrar la libertad de expresión en entornos digitales.

¿De quién son mis datos?

~ Pablo Viollier ~ Leave a comment

Publicada originalmente el 14 de septiembre de 2020 en Infoxidados

Cuando discutimos sobre protección de datos personales existe una inclinación muy natural e intuitiva a exclamar ¡Estos son mis datos! ¡Son míos, y como son míos, yo hago lo que quiero con ellos; yo los controlo y no dejo que otra persona decida por mí qué hacer con ellos! Especialmente en EE. UU, incluso los activistas de la privacidad recurren a esta narrativa para defender los derechos de los ciudadanos, abogando por el data ownership. En otras palabras, que los datos personales no sean algo que se pueda recolectar, procesar y comunicar libremente, sino que un activo sobre el cual sus “dueños” tienen el control.

Por supuesto que estas iniciativas son bienintencionadas y buscan empoderar a las personas, pero creo que incurren en un error conceptual que puede tener implicancias profundamente negativas. La propiedad es un derecho que facultad el uso, goce y disposición arbitraria sobre una cosa. Si yo soy dueño de una pelota de tenis, entonces si yo quiero la puedo quemar, la puedo regalar, la puedo vender o la puedo entregar en préstamo perpetuo. Pero ¿una vez que vendo la pelota, puedo volver a reclamar propiedad sobre ella? No, la vendí y ya no es mía.

¿Es posible aplicar esta misma lógica a la protección de datos personales? No, porque el vínculo entre un individuo y sus datos personales no es de propiedad, sino que de titularidad. Y no es de propiedad porque no puedo vender mi nombre, no puedo ceder mi RUT, ni puedo regalar mi huella digital.

Los datos personales son parte íntegra de la identidad de una persona. Por lo mismo, su protección no proviene del ejercicio del derecho a la propiedad, sino del ejercicio de un derecho fundamental autónomo denominado autodeterminación informativa. Y la autodeterminación informativa es un derecho humano realmente hermoso: es la facultad que tenemos todas las personas para decidir y controlar qué parte de nosotros mismos proyectamos frente a nuestros pares. Y, en la medida que somos capaces de proyectarnos frente a otros de la forma que autónomamente hemos decidido, somos capaces de construir nuestra propia identidad. Es, en otras palabras, un ejercicio de la libertad y la autonomía. Es la capacidad de todo ser humano de pararse frente al mundo y decir: este soy yo, soy quien yo quiero ser.

Construirse a uno mismo y tener una identidad pasa por decidir qué es lo que quiero que otros sepan de mí. Yo puedo ser un académico muy serio de día y un carretero de noche. Puedo proyectar una orientación sexual en mi trabajo y otra en mi vida privada. Puedo ser mujer de día y hombre de noche.

Este desenvolvimiento esencial de la identidad no es posible bajo el paradigma de la propiedad. Si yo le vendiera mis datos a Facebook, entonces nunca recuperaría el control sobre ellos. Pero nuestro ordenamiento jurídico no funciona así, garantiza al titular (la persona) la capacidad de siempre retractar su consentimiento y recuperar el control sobre sus datos. El ejercicio del derecho a acceso, rectificación, cancelación y oposición puede siempre ser ejercido por el titular, independiente de quien esté administrando los datos y bajo qué compromiso. Porque los datos personales nunca pueden desligarse del titular, siempre harán referencia a su identidad.

Por eso, entender este vínculo como uno de titularidad y no de propiedad no sólo nos permite empoderar y proteger mejor a las personas del tratamiento que terceros quieran hacer de sus datos. También nos permite aproximarnos al fenómeno desde una perspectiva distinta y garantizar este derecho como lo que es: un derecho humano.

¿Quiénes podrán votar en el plebiscito?

~ Pablo Viollier ~ Leave a comment

Publicada originalmente el 31 de agosto de 2020 en La Segunda

Como suele sucedernos, nos acordamos a última hora de las dificultades para votar que tendrán las personas infectadas con COVID-19. No sólo porque su concurrencia al lugar de votación constituye un riesgo sanitario, sino que muchos de ellos no se encuentran en condiciones de salir de sus casas.

Este tema parece nuevo, pero en realidad por décadas hemos olvidado a aquellas personas que, gozando de derechos políticos y capacidad de votar, no pueden concurrir presencialmente a las mesas. Las personas hospitalizadas y aquellas privadas de libertad son algunas; de los chilenos en el extranjero nos acordamos recién en 2014. 

Para salir del paso, se han realizado una serie de propuestas a la ligera que no cumplen con los requisitos mínimos de una elección democrática y transparente (voto a distancia, electrónico, por correo, etc.). Estas propuestas deben ser descartadas de plano, por una razón muy sencilla: la Constitución y los tratados internacionales ratificados por Chile garantizan que el voto sea emitido de forma personal y secreta. En la medida que el votante pueda emitir su voto en presencia de otra persona, no se cumple este requisito intransable de nuestro proceso democrático. 

Hacer la vista gorda implica abrir la puerta a flagelos que hace décadas tenemos bajo control: la extorsión, el cohecho y el acarreo electoral. Porque nuestro sistema está diseñado no sólo para que el ciudadano vote sin presiones externas, sino que para evitar que pueda producir prueba de cómo votó. Para que no pueda vender su voto, aunque quiera rematarlo al mejor postor.

¿Significa esto que no se pueden explorar alternativas para ampliar las modalidades del voto? Para nada. Es completamente deseable y posible implementar medidas que permitan a más personas participar de las elecciones. Por ejemplo, el voto adelantado ante un ministro de fe, la constitución de mesas electorales en cárceles y hospitales, y la posibilidad que las personas puedan votar en cualquier local de votación.

Lamentablemente, este tipo de reformas deben ser ponderadas y estudiadas rigurosamente, no despachadas a la carrera cuando quedan menos de 60 días para la realización del plebiscito y nos encontramos en pleno período de campaña.

Me divorciaron por Zoom

~ Pablo Viollier ~ 1 Comment

Publicada el 6 de agosto de 2020 en La Segunda

Imagínense la sorpresa que sufrió la mujer que esta semana se enteró que habían tramitado su divorcio sin su consentimiento. Su cónyuge tenía acceso a las credenciales de su ClaveÚnica y fue capaz de tramitar todo el procedimiento sin que ella se enterara.

En el contexto de la pandemia, muchos servicios públicos y privados han optado, entendiblemente, por flexibilizar sus requisitos de presencialidad. Sin embargo, este episodio da cuenta de cómo este relajamiento de las medidas de autenticación puede abrir la puerta a una proliferación de fraudes, estafas y distintas formas de suplantación de identidad.  

Y es que, aunque parezca sencillo, es todo un desafío demostrar que alguien detrás de una pantalla es realmente quien dice ser. En algunos casos, como la Comisaría Virtual o la consulta electrónica del Parque Padre Hurtado, se ha optado por exigir el RUT y número de serie del carnet. Esta es una forma sumamente deficiente de verificar la identidad a distancia, ya que ambos datos no son reservados, de hecho, figuran en el anverso del documento de identidad. La utilización de reconocimiento facial, por su parte, requiere que el usuario cuente con equipamiento que hace difícil su masificación y ha demostrado ser susceptible de ser burlado.

Otra alternativa, es la utilización de un servicio de identidad digital centralizado, como la ClaveÚnica. En este caso, se verifica la identidad de la personas presencialmente una vez y luego puede ser utilizada a través de las credenciales entregadas. Sin embargo, a medida que más trámites críticos pueden realizarse a través de este servicio (renunciar a un contrato de trabajo, constituir una sociedad, etc.) más relevante se vuelve que se cuenten con las medidas de seguridad necesarias. Así, por ejemplo, la ClaveÚnica todavía no exige un segundo factor de autenticación adicional a la contraseña (mensaje de texto o código pinpass) que hace años se exige para realizar transferencias bancarias.

Tomarse en serio la ciberseguridad será la única manera de equilibrar el cuidado de la fe pública con los beneficios de la digitalización. De lo contrario, corremos el riesgo de que nos divorcien sin consultarnos.

Incivilidad en las redes sociales

~ Pablo Viollier ~ 1 Comment

Publicada originalmente el 24 de julio de 2020 en La Segunda

En una falta atronadora de rigor, varios intelectuales conservadores y libertarios han denunciado una supuesta cultura de la censura en redes sociales, donde “no se puede decir nada” sin ser acallado por el flagelo de la corrección política.

Esto es, por supuesto, absurdo. La libertad de expresión consiste en el derecho a emitir opiniones y recibir información por los medios que se estimen convenientes, no en el derecho a no ser refutado, increpado o eludir hacerse cargo de las consecuencias de los dichos propios.

Otros, más ponderados, han lamentado la supuesta degradación del debate público que se produce en estos servicios, a los que califican como espacios carentes de racionalidad y asediados por los linchamientos.

Estos reclamos pueden, en parte, estar basados en la realidad. Sin embargo, es importante notar que la emergencia de las plataformas digitales ha significado un cambio cualitativo en la capacidad de los individuos para expresarse, así como una democratización en la posibilidad de participar en el debate público. Es una fantasía esperar que esta apertura no conlleve ninguna consecuencia negativa. Por ello, lamentarse que la conversación en las redes sociales no se conduzca en los términos del debate epistolar de las cartas al director parece ser, más bien, una nostalgia elitista. 

La saña, la ironía e incluso la mala educación (en la medida que no constituyan acoso o amenazas) son todas conductas desagradables e indeseables, pero que están amparadas por la libertad de expresión. Por el contrario, conductas como el racismo, el sexismo y la xenofobia (que afectan desproporcionadamente a sectores vulnerables y excluidos de la población) no son discurso protegido y deben ser activamente combatidas. Paradójicamente, se denuncia censura al ser víctima de lo primero, pero se invoca la libertad de expresión para justificar lo segundo. 

Por último, es importante recordar que las figuras públicas, autoridades y ciertos funcionarios (respecto al ejercicio de su cargo), por el lugar que ocupan en el debate público, están obligados a resistir un mayor nivel de escrutinio y crítica por parte de la sociedad. Eso no siempre será agradable, pero es necesario para el sano funcionamiento de nuestra democracia. 

El gran hermano en el bolsillo

~ Pablo Viollier ~ Leave a comment

Publicada originalmente el 01 de julio de 2020 en La Segunda

El anuncio del Ministerio de Salud respecto a implementar un seguimiento del flujo de población a través de las antenas celulares, generó una sana suspicacia en la población. Después de todo, en una democracia no le corresponde al gobierno conocer la ubicación, rutina y patrones de comportamiento de sus ciudadanos. 

En este caso, la iniciativa no busca obtener la localización de cada individuo específico, sino de conocer cómo se comporta el flujo de población en su conjunto. En otras palabras, se pretende saber, por ejemplo, cuántas personas han circulado por la ciudad, cuántos kilómetros en promedio y si ha disminuido la movilidad durante la cuarentena, no contar con información sobre cada persona en particular.  

¿Significa que esta información es inocua? Para nada. Para que esta política pública no vulnere los derechos de la población, se debe asegurar que estos datos no sólo se entregarán de forma anonimizada (que la ubicación de cada individuo no vaya ligada a su identidad), sino que también de forma agregada (relativa a la población en su conjunto). Es decir, al gobierno no se le debe entregar información específica de cada usuario, aunque sea anonimizada, sino que se le debe entregar ya procesada y en la forma de promedios: “tantas personas se movieron entre tal y tal sector” o “en promedio, la movilidad bajo tanto”. 

De lo contrario, existe el peligro que la información desagregada pueda cruzarse con otras bases de datos y desanonimizarse. En otras palabras, sería posible reconstruir el vínculo entre la información y el individuo al cual refiere. Esta información es altamente sensible y en manos del estado se corre el riesgo que sea filtrada, mal utilizada o abusada.  

Por último, para justificar esta medida, el gobierno debe demostrar que esta forma de calcular la movilidad de la población es sustantivamente mejor que la utilizada actualmente, y que es necesaria para una mejor toma de decisiones relacionadas a la pandemia. Si ya estamos midiendo el nivel de movilidad de forma satisfactoria, entonces simplemente no vale la pena echar mano a esta información sensible en manos de las empresas telefónicas.