La idea de que vivimos adentro de un "gran hermano" ya queda corta para describir el plan que la ministra Patricia Bullrich piensa implementar con la creación de una Unidad de Inteligencia Artificial aplicada a la Seguridad (UIAAS). Una resolución publicada este lunes anuncia que patrullará "redes sociales abiertas, aplicaciones y sitios de internet, así como la llamada 'internet profunda' o 'dark web" con la finalidad --señala-- de "investigar delitos, identificar a sus autores", pero también anticipar "situaciones de riesgo grave para la seguridad", "detectar actividades sospechosas" incluso con cámaras y drones en tiempo real, y "crear perfiles de sospechosos o identificar vínculos entre diferentes casos". Aunque nadie puede ser investigado sin una orden judicial, varios especialistas alertan que está todo dado para una mega excursión de pesca contraria a la Constitución Nacional, que pone en riesgo la libertad de todas las personas, su privacidad, su libre expresión y circulación entre otros tantos derechos.
La publicación de esta nueva disposición coincide con dos hechos recientes. Uno es la creación de la Secretaría de Inteligencia de Estado (SIDE) y la aprobación de una partida de 100.000 millones de pesos para gastos reservados, que representarán más del 70 por ciento de su presupuesto, y que incluye entre sus áreas pilares una Agencia de Ciberseguridad. El otro, del mes de mayo, es la publicación de un protocolo específico que habilitó el ciberpatrullaje en redes y sitios web de acceso público, también con la justificación de la persecución del delito.
"Lo que se crea es una Unidad de Inteligencia, no artificial, de ilegal. Es la maximización de una excursión de pesca", advierte Beatriz Busaniche, presidenta de la Fundación Vía Libre. "De la resolución surge que se pueden realizar perfiles de sospechosos de delitos a partir de las múltiples interacciones que realizamos en línea. Esto está reñido con el estado de derecho y el debido proceso judicial que indica que nadie puede ser investigado por fuera de una investigación judicial en curso, con orden judicial y con todas las garantías", explica a Página/12 la especialista en derechos y tecnologías digitales. "La idea puede sonar prometedora cuando uno desconoce el funcionamiento. Pero son sistemas estadísticos que infieren resultados a partir de grandes volúmenes de información --detalla Busaniche--. Esos procesos son opacos y es muy difícil explicar por qué razón un sistema dispone que alguien esté en determinado lugar. La opacidad del sistema es incompatible con cualquier investigación criminal. Los peligros son tantos que no hay manera de saber si el sistema no te puso en una base de datos de potenciales criminales por tus opiniones en línea o porque hiciste un chiste, que la IA no identifica, o porque publicaste una foto jugando con una pistola de paintball".
La exministra de Seguridad, Sabina Frederic, señala que la nueva resolución 710/2024 amplía aquella y marca otra coincidencia. "Hay un golpe de efecto ya que en los últimos días todos los usuarios de whatsapp vieron aparecer en su aplicación una Inteligencia Artificial (IA), nadie sabe cómo sacarla ni qué capacidad tiene de rastrear sus propios datos. No se conocen los límites de la IA y se convierte en una amenaza". Ella es partidaria de su uso en seguridad "sin violar las normas de protección de datos personales para cruzar información disponibles de hechos delictivos, personas condenadas, análisis de causas judiciales cerradas". El problema, agrega, es que la resolución deja pocas cosas en claro. "¿Qué aparatos van a usar? ¿Sobre qué datos? ¿Cómo se van a guardar esos datos? Amerita un pedido de acceso a la información", dice. Si llegaran a utilizar, ilustra, un sistema conocido como Pegasus "sería muy peligroso". "Es considerado el spyware o software espía más sofisticado del mundo. Es un programa de vigilancia de dispositivos móviles diseñado para infiltrase sin ser detectado en teléfonos con sistemas operativos iOS y Android".
Puntos polémicos
Como tantas resoluciones y decretos del gobierno esta dice que está inspirada en "la preservación de la libertad, la vida y el patrimonio de los habitantes, sus derechos y garantías" y todo en un contexto de "vigencia de las instituciones del sistema democrático". En el caso del Ministerio de Seguridad, se refiere a sus competencias en "seguridad interior". Cuando la analizan expertos ven rasgos alejados de la libertad y los derechos constitucionales. La UIAAS, anuncia la publicación en el Boletín Oficial, estará integrada por las fuerzas policiales y de seguridad federales (Policía Federal, Gendarmería, Prefectura y Policía de Seguridad Aeroportuaria). Entre estas últimas el gobierno incluye también al Servicio Penitenciario Federal (SPF). El coordinador será el Director de Ciberdelito y Asuntos Cibernéticos, Santiago González Bellengeri. Se inspira en la experiencia, según el texto, de "Estados Unidos, China, Reino Unido, Israel, Francia, Singapur, India, entre otros".
Las claves de su futura acción están en las funciones establecidas en el artículo 4.
* "Patrullar las redes sociales abiertas, aplicaciones y sitios de Internet, así como la llamada 'internet profunda' o 'Dark-Web'". Dice que es para investigar delitos e identificar autores, no aclara si es en investigaciones judiciales en curso. También apunta a detectar, agrega, "situaciones de riesgo grave para la seguridad".
* "Identificar y comparar imágenes en soporte físico o virtual". Los expertos/as dicen que esto podría estar reñido con el derecho a la privacidad y la protección de datos personales, ya que no se puede usar de las personas sin causa.
*"Analizar imágenes de cámaras de seguridad en tiempo real a fin de detectar actividades sospechosas o identificar personas buscadas utilizando reconocimiento facial". Un dato que la resolución no contempla: en la Ciudad de Buenos Aires el sistema de identificación biométrica de prófugos está frenado por un fallo judicial, a partir de un amparo que cuestionó la su uso poco transparente, la filtración de datos en forma masiva e incluso el criterio de construcción de perfiles supuestamente sospechosos discriminatorios por rasgos, lugar de residencia, entre otros. Busaniche cuenta que en Boston y San Francisco está prohibido el reconocimiento facial en el espacio público.
* "Utilizar algoritmos de aprendizaje automático a fin de analizar datos históricos de crímenes y de ese modo predecir futuros delitos y ayudar a prevenirlos". En la red social X, el investigador del Conicet Martín Becerra señaló sobre ese punto que "es algo en lo que explícitamente el uso de Inteligencia Artifiical ha fallado y que, por tanto, hay que evitar". "El órgano gubernamental creado para patrullar las redes sociales aplicaciones y sitios de Internet" "contradice varios artículos de la Constitución Nacional".
*"Identificar patrones inusuales en las redes informáticas y detectar amenazas cibernéticas antes de que se produzcan ataques. Esto incluye la identificación de malware, phishing y otras formas de ciberataque".
*"Procesar grandes volúmenes de datos de diversas fuentes para extraer información útil y crear perfiles de sospechosos o identificar vínculos entre diferentes casos". Busaniche advierte que el "profiling o perfilamento de personas es uno de los campos de más alto riesgo de las IAs porque no hay manera certera de saber en base a qué se construye un perfil determinado. Evaluar el riesgo de que un individuo cometa un delito está expresamente prohibido en las normas de IA de la Unión Europea, se considera una implementación de IA de riesgo inaceptable, un ataque directo a la libertad de expresión, la violación del estado de derecho ya que se va a hacer perfilamiento de las personas por su opiníón y preferencias en redes sociales".
*"Patrullar mediante drones áreas extensas, proporcionar vigilancia aérea y responder a emergencias". Así dicho, pareciera que puede haber seguimientos indiscriminados.
*"Realización de tareas peligrosas, como la desactivación de explosivos" con "robots".
*"Mejorar la comunicación y coordinación entre diferentes fuerzas policiales y de seguridad" para compartir la "información crítica" en forma "rápida y eficiente". Es decir: es factible que datos privados, que el gobierno mete en su bolsa de sospechosos o cuestiones a investigar" circulen fácilmente.
*"Analizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios". Todos los especialistas ven en este punto una nueva amenaza a la protesta social, ya castigada por el gobierno de Javier Milei y las políticas del ministerio de seguridad a traves de sus protocolos: tanto contra la protesta como los que habilitan a agentes de seguridad a usar armas de fuego.
*"Detectar transacciones financieras sospechosas o comportamientos anómalos que podrían indicar actividades ilegales". No está claro cómo se aplicará este punto sin violar, por ejemplo, el secreto bancario. El órgano que concentra esa actividad es la Unidad de Información Financiera.
Más miradas
"Ni en la resolución anterior sobre ciberpatrullaje ni la nueva ofrecen claridad sobre los supuestos en los que podría desarrollarse la actividad, qué pautas, con qué sistemas automatizados, bajo qué controles, cómo cumplirían la ley de protección de datos personales", dice Victoria Darraoidou, Coordinadora de Seguridad Democrática del Centro de Estudios Legales y Sociales. "Nosotros --agregó-- habíamos hecho un pedido de información al Ministerio de Seguridad en conjunto con otro grupo de organizaciones y el Ministerio de Seguridad todavía no respondió. Ahora no explican cómo van a utilizar la inteligencia Artificial, con qué controles, cuáles son las tareas de prevención, de qué se tratan, si los casos en los que se van a usar son casos que están bajo investigación judicial o no. No está claro cuáles son las coordenadas que le van a indicar a la IA y en ese sentido cuáles son las hipótesis criminales en concreto sobre las que tendría que intervenir la IA, cuáles son los sistemas de protección de la información y cómo se van a evitar las posibles filtraciones de datos que podrían incurrir con el uso de estas tecnologías".
"Todo lo que se plantea es contrario al debido proceso, la intimidad de las personas, no pide autorización judicial para intervenir en las posibles comunicaciones de abogados con sus clientes, o periodistas y fuentes", alerta Rodrigo Iglesias, especialista en derecho informático. "Las redes sociales --sigue-- no son fuentes abiertas para hacer inteligencia. Se habla de aplicacione así que estamos ante la posibilidad de que puedan leer los correos electrónicos, no sabemos donde se van a guardar o bajo que situaciones, así mismo los diferentes programas de mensajería (telegram, signal, face, WhatsApp, instagram) además la potencial interceptación a ciudadanos comunes y corrientes sin saber sobre la finalidad de la investigación o el motivo que la funda".
