Un sistema dotado de inteligencia artificial, que simula ser una joven de 19 años y chatea a través de Facebook Messenger, es la nueva iniciativa de Unicef para que los adolescentes conozcan los riesgos de compartir imágenes íntimas en las redes sociales.

La joven bot lleva el nombre de Nati Luetto y los adolescentes pueden chatear desde ayer con ella. Nati, además de usar expresiones coloquiales como “joya” o “bancame” establece diálogos fluidos sobre situaciones incómodas o violentas que se suelen vivir en Internet.

“Mi ex mandó un video nuestro para algunas personas, un video íntimo, ¿entendés? yo confiaba en él. Imaginate si alguien de mi familia lo ve”, lanza Nati en una frase, mientras comparte fotografías casuales y mensajes de audio con su interlocutor humano, para conseguir mayor realismo y empatía.

La iniciativa de Unicef y Facebook, en alianza con las empresas Sherpas y Chat-tonic, se denomina Proyecto Intimos, y busca emular el exitoso “proyecto Caretas” que esos mismos actores desarrollaron en Brasil y con el que alcanzaron a un millón de jóvenes con información sobre la misma problemática.

La creación de este sistema se basa en una serie de estudios que revelan que ante ese tipo de situaciones violentas en la red, la mitad de los adolescentes hablan con un amigo y sólo el 30 por ciento lo hace con alguno de sus padres.

“Internet abre un mundo de posibilidades, es un canal que facilita el intercambio y la comunicación. Pero también expone a los chicos y a las chicas a riesgos, a contenidos inapropiados. Es importante que los adultos podamos acompañarlos para que puedan usar estas herramientas digitales de manera segura”, afirmó la responsable de Comunicación y Medios de Unicef Argentina, Natalia Calisti.

Según una encuesta del organismo, el 40 por ciento de los adolescentes argentinos (de los cuales, 8 de cada 10 usan Internet) alguna vez se sintieron “perturbados” al verse expuestos a contenidos obscenos indeseados.

Además, el 24 por ciento de los chicos dijo sentirse incómodo frente a contenidos de violencia o que incitan a la violencia y casi la misma proporción dijo estar “preocupado” por el bullying, es decir, el maltrato físico o psicológico reiterado contra una persona.

La gerente de Programas de Seguridad de Facebook para América latina, Daniele Kleiner, sostuvo que Proyecto Intimos es una “iniciativa única” que combina tecnología con un componente educativo e interactivo que permite a los adolescentes informarse “sobre seguridad en Internet de una forma que tiene sentido para ellos”.

Por su parte, Gastón Gertner, cofundador de la empresa Sherpas, explicó que la bot Nati Luetto es una “inteligencia artificial evolutiva” que en la medida en que interactúe con más personas aprenderá más sobre cómo generar conversaciones masivas, continuas y simultáneas” de una manera más humana.

Esta capacidad de aprender permite al proyecto romper con “la rigidez habitual de los chatbots”, que están muy asociados a la atención de reclamos por parte de empresas de servicios, precisó.

En el desarrollo de Nati trabajaron especialistas en la problemática de la violencia juvenil para determinar las maneras correctas de abordar cada situación.

Además, grupos de adolescentes colaboraron para conseguir que la inteligencia artificial emule los modos de comunicación que ellos utilizan cotidianamente.

“La narrativa es construida mediante el envío de mensajes de texto, fotos, videos y mensajes de audio durante al menos 48 horas, transformando el diálogo en una experiencia entre la ficción y la realidad”, explicaron los responsables del proyecto.

“Es una herramienta digital que permite conversar individualmente en el contexto en el que se desenvuelve y en el lenguaje que suele usar”, agregaron.

Según Gertner, el “guión” que sigue la inteligencia artificial está a la búsqueda de las señales del adolescente que “necesita decir algo” para poder guiarlo hacia canales de contención oficial, como las líneas 0800 o el sitio web del programa “Las víctimas contra las violencias” del Ministerio de Justicia.