Se publicó la Resolución 710/2024 del Ministerio de Seguridad, mediante la cual se crea la Unidad de Inteligencia Artificial Aplicada a la Seguridad, con la excusa de aumentar la “prevención, detección, investigación y persecución del delito y sus conexiones”.
Apelando a la necesidad de aumentar “la eficiencia y eficacia” de la llamada “ciberseguridad”, la ministra Patricia Bullrich le asigna a la nueva Unidad (que funcionará bajo su mando) tareas como “patrullar las redes sociales abiertas, aplicaciones y sitios de Internet”; “analizar imágenes de cámaras de seguridad en tiempo real a fin de detectar actividades sospechosas o identificar personas buscadas”; y “utilizar algoritmos” para “analizar datos históricos de crímenes” y “predecir futuros delitos”
Los “ciberdetectives” de Bullrich también podrán procesar “grandes volúmenes de datos de diversas fuentes para extraer información útil y crear perfiles de sospechosos”; patrullar “áreas extensas” mediante drones para “proporcionar vigilancia aérea”; y “analizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”, entre otras tareas.
Martín Becerra, doctor en Ciencias de la Información e investigador principal del CONICET analizó la medida y advirtió que «hay tres o cuatro puntos principales de esta resolución que son muy preocupantes. En primer lugar, anula la presunción de inocencia, porque con Inteligencia Artificial la resolución dota a esta unidad gubernamental que crea Bullrich del poder de patrullar todo internet. El segundo punto es que también es un ataque a la privacidad por las desproporcionadas facultades que esta unidad va a tener en el alcance de su poder de patrullaje. En tercer lugar, lo hace sin orden judicial, está vulnerando principios constitucionales que tienen que ver con la inviolabilidad de las comunicaciones personales a menos que haya una orden judicial porque forme parte de algún proceso de investigación criminal pero eso es una excepción, no la norma».
En primer lugar, anula la presunción de inocencia porque con Inteligencia Artificial la resolución dota a esta unidad gubernamental que crea Bullrich del poder de patrullar todo internet.
Martín Becerra
Por estos cuestionamientos es que Becerra señala que «esta resolución de Bullrich que, por ser resolución ministerial es una medida de carácter inferior en términos jerárquicos en relación a la Constitución y a las leyes, pretende cargarse estos principios que estoy mencionando». Además, el investigador del CONICET destacó que » por otro lado, las tecnologías de Inteligencia Artificial son en general muy opacas, inauditables, es decir, hay una lógica preocupación en términos de lo turbio que constituye esta promesa de patrullaje en base a criterios y programación algorítmica. Las tecnologías de Inteligencia Artificial lo que hacen es funcionar en base al entrenamiento de bases de datos, entonce, como esas bases de datos son inauditables, inaccesibles genera otra preocupación añadida por el sesgo que pueden llegar a tener estos patrullajes o esta vigilancia«.
Las tecnologías de Inteligencia Artificial lo que hacen es funcionar en base al entrenamiento de bases de datos, entonce, como esas bases de datos son inauditables, inaccesibles genera otra preocupación añadida por el sesgo que pueden llegar a tener estos patrullajes o esta vigilancia«
Martín Becerra
Para el especialista en Ciencias de la Información, en términos políticos esta resolución entraña «una lógica preocupación de que los movimientos sociales, partidos políticos opositores, organismos de Derechos Humanos, puedan ser efectivamente blanco fácil de esta unidad de patrullaje. Recordemos que la propia Bullrich cuando fue ministra del gobierno de Mauricio Macri, denunció penalmente a gente que twitteaba que luego fue absuelta por procesos judiciales. Y esto lo hizo sin invocar herramientas de inteligencia artificial que ahora usa como pretexto».
Por último, Martín Becerra afirmó que «el gobierno tiene este problema y como sociedad ahora lo tenemos por esta resolución, pero es típico de las herramientas de inteligencia artificial, y es la probabilística. Nadie puede prever comportamientos futuros con un 100% de eficacia. Hay intuiciones, pero la criminalística no puede basarse solo intuiciones, tiene que basarse en hechos. Entonces, una herramienta de Inteligencia Artificial con una base de entrenamiento sesgada, inaccesible, inauditable, etc, lo que puede dar es, por ejemplo que, en este barrio es más probable que ocurran este tipo de delitos. Eso es una probabilidad pero la redacción de esta resolución de Bullrich dice prevenir futuros delitos, eso es algo propio de una obra de ciencia ficción que se llama «Minority report» o «Sentencia previa». Vos podes cometer un delito porque la Inteligencia Artificial de Bullrich dice que sos susceptible de cometer un delito, entonces vas a ser objeto del monitoreo y del seguimiento estatal del que otras personas no son objeto. De nuevo, eso anula el principio de inocencia.
Producción: Pasadas por alto
Foto: Martin Becerra