La inconstitucionalidad del Big Brother porteño

 “El aparato disciplinario perfecto permitiría a

 una sola mirada verlo todo permanentemente.”

Foucault, Michel

En el caso “Observatorio de Derecho Informático Argentino O.D.I.A. y otros contra GCBA sobre amparo – otros”, el actor cuestionó el  Sistema de Reconocimiento Facial de Prófugos por provocar la lesión de derechos de incidencia colectiva referidos a intereses individuales homogéneos.

En fecha 25 de abril de 2019, fue puesto en funcionamiento el Sistema de Reconocimiento Facial de Prófugos (SRFP). Como explicó el actor, estos mecanismos “funcionan mediante la comparación de características biométricas de dos rostros. Para poder llevar a cabo esta tarea, deben aprender cuándo se trata de la misma persona y cuándo no. Esto lo logran a partir de una base de datos de distintas caras y mediante una ʽCargaʼ de información constante, sin tener en cuenta la base de datos biométricos a la cual contrastar; por el contrario, esa base es la ʽmemoriaʼ para mejorar el funcionamiento de la Inteligencia Artificial y no hace diferencias entre la base de datos de la CONARC sino que toma la totalidad de rostros que pasen por la cámara”.

El Juzgado de Primera Instancia en lo Contencioso Administrativo y Tributario Nº 4 de la Ciudad de Buenos Aires, a cargo de Elena Liberatori, declaró la inconstitucionalidad del art. 1 de la resolución 398/MJYSGC/19 que implementó el SRFP por no encontrarse cumplidos los mecanismos normativos necesarios para garantizar un adecuado uso del sistema. Dicha circunstancia dio lugar a la afectación de los derechos constitucionales, tales como el derecho a la privacidad, intimidad, autodeterminación informativa y el régimen protectorio de datos personales.

Ello, debido a que, entre otras cosas: No se constituyó la Comisión Especial en la Legislatura de la CABA; la falta de informes por parte de la Defensoría del Pueblo CABA; la inexistencia de estudios de impacto sobre los derechos de los ciudadanos previa implementación del SRFP; las fallas en las bases de datos de las que se nutre el SRFP; y la exclusión de la participación ciudadana. Esto quiere decir que el argumento no se centra en la esencia del SRFP, sino en las consecuencias que llevó su prematura implementación y su utilización en condiciones precarias de respeto por los derechos y garantías de las personas.

Para la Magistrada, “estos sistemas de video vigilancia implican para las autoridades, el cumplimiento de obligaciones específicas tanto en relación a los requerimientos judiciales penales o de seguridad del espacio público como, y no menor, hacia quienes cada día, a cada momento, están siendo invadidos en su esfera de derechos privados”.

A su vez, destacó el Informe efectuado por la Defensoría del Pueblo CABA, ya que detectó múltiples casos de detenciones erróneas por alertas del SRFP. Situación que configura una detención arbitraria y atenta contra el principio de inocencia (artículo 18 de la Constitución Nacional).

«Resulta de prístina claridad que el SRPF posee inconsistencias y errores en los procesos administrativos de alta/baja/modificación, observando también vestigios del entorno de desarrollo que deberían encontrarse solucionados al momento de implementarse en modelo de producción», agregó.

También, supeditó la puesta en funcionamiento del SRFP a la constitución y debido funcionamiento de los órganos de control.

Resulta interesante recordar que diversas investigaciones a nivel mundial ya han advertido que el uso de algoritmos para puntuar y predecir conlleva el riesgo de que ciertos sesgos y desigualdades que existen en una determinada sociedad se exacerben y se afiancen, afectando al principio de igualdad efectiva que debe imperar en cualquier democracia.

Frente al avance del uso de la Inteligencia Artificial en las Administraciones Públicas, es fundamental la implementación de organismos de control (entre otras herramientas) para terminar con la opacidad que caracteriza a los algoritmos que la componen.

(*) Abogada y Docente UBA