El debate sobre la Inteligencia Artificial (IA) llegó al sistema educativo. Y es que cada vez con mayor frecuencia, niñas, niños y adolescentes acuden al ChatGPT para sus tareas escolares y hasta para resolver exámenes ¿Qué pueden hacer les docentes ante este nuevo desafío? ¿Siguen siendo efectivas las metodologías de enseñanza y evaluación tradicionales? ¿Cómo afecta la IA a la vida cotidiana? ¿Representa algún riesgo para la convivencia democrática? ¿Puede la escuela ayudar a prevenir ese riesgo? ¿Y las familias?

Roxana Morduchowicz, doctora en Comunicación y experta en Ciudadanía Digital, reflexiona sobre esta problemática en su nuevo libro La inteligencia artificial ¿Necesitamos una nueva educación?, publicado por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco), que puede descargarse de forma gratuita y que tendrá su presentación formal el próximo 19 de septiembre a las 18.30 en el Fondo de Cultura Económica Argentina (Costa Rica 4568).

¿Qué es la inteligencia artificial?

El libro de la Unesco define a la inteligencia artificial como “el diseño de máquinas o sistemas que imitan funciones cognitivas propias de las personas, tales como percibir, procesar, analizar, organizar, anticipar, interactuar, resolver problemas y, más recientemente, crear”. Para poder encarar esas tareas, la IA es alimentada y entrenada con datos: el sistema identifica patrones y probabilidades en esos datos, los codifica, los procesa, los organiza y genera un modelo, que está preparado para tomar decisiones y ofrecer respuestas a consignas específicas.

El problema, advierte Morduchowicz en diálogo con Página/12, es que no existe transparencia e inteligibilidad respecto al funcionamiento de los algoritmos y los datos con los que han sido entrenados, que pueden ser erróneos o incompletos y ayudar, por lo tanto, a "reproducir desigualdades y perpetuar la inequidad”. Para la académica, este es un inconveniente central, ya que la IA está cada vez más presente en la vida cotidiana: “Define la aprobación de una visa para entrar a un determinado país, la aceptación o el rechazo de un crédito bancario, la selección de un candidato para un empleo, el otorgamiento de una beca estudiantil y hasta la asignación de un subsidio social a personas de bajos recursos”, ejemplifica en su texto.

“La educación es, sin duda, la mejor oportunidad para pensar la IA, analizarla y reclamar por una mayor transparencia”

El gran desafío que enfrenta esta época, entonces, es lograr una IA "más justa e igualitaria”, que no potencie con sus sesgos los sistemas de discriminación que existen en la actualidad. Y es la escuela, según la tesis principal del libro, la institución que puede y debe hacerse cargo de este cambio: “La educación es, sin duda, la mejor oportunidad para pensar la IA, analizarla y reclamar por una mayor transparencia”, propone Morduchowicz, que actualmente asesora a la Unesco en temas de Ciudadanía Digital.

Pedirle la tarea al ChatGPT, el atajo que utilizan cada vez más estudiantes

La llegada del ChatGPT a las aulas,  y de otros sistemas de lenguajes con IA, es un problema que preocupa a trabajadores de la educación de todo el mundo. “Lo que comenzó a ocurrir en estos últimos tiempos es que cuando un docente da una tarea a sus alumnos, por ejemplo cuando pide un resumen a partir de un texto tratado en clase, es que los trabajos que entregan los chicos son casi idénticos entre sí, porque le piden al ChatGPT que haga ese resumen por ellos. Y es ahí cuando uno se empieza a preguntar: ¿Qué puede hacer la educación con la IA?, ya que si bien es un sistema que tiene enormes beneficios y un gran potencial, obviamente hay usos que a la escuela no solo no le sirven sino que le son contraproducentes", plantea Morduchowicz.

Lo cierto es que muchos de los obstáculos que la IA está generando en las aulas no surgen con esta tecnología "sino que tal vez ya estaban desde antes”, reconoce la autora, al señalar que lo que hace la IA, en todo caso, es apresurar la evidencia del problema, que es que “la escuela sigue dando consignas que priorizan la memoria, la copia, el comentario lineal o el resumen”.

Cuando un docente da una tarea, los trabajos que entregan los chicos son casi idénticos entre sí, porque le piden al ChatGPT que haga ese resumen por ellos.

Por eso, lo primero que hay que hacer —dice la especialista— “es repensar las consignas que da el docente". En lugar de exigir un resumen o la copia de una pregunta puntual, por ejemplo, se les podría pedir a los chicos y chicas que evalúen el desempeño de la IA. “Yo, como docente, les puedo decir que usen el ChatGPT para pedir argumentos a favor de la instalación de una fábrica en un barrio y que ellos luego evalúen esos argumentos: que vean si son eficaces, si pueden convencer a los vecinos y, en caso contrario, qué otros darían ellos”, sostiene la comunicadora.

Otro posible ejercicio que menciona Morduchowicz consiste en proponer a las y los estudiantes que le pregunten al ChatGPT por un hecho específico para ver si coincide con lo visto en clase. “Un docente estadounidense, por ejemplo, les pidió a sus alumnos que recurrieran a la IA para escribir un informe sobre la historia de la imprenta y los estudiantes descubrieron que el sistema inteligente no incluía información sobre los orígenes en Europa o China. Esa clase, entonces, le sirvió al profesor para hablar de los datos incompletos, o incluso falsos, que con frecuencia arroja un sistema de IA”, destaca la investigadora.

¿Puede desaparecer la escuela?

El modelo de escuela más extendido en todo el mundo, recuerda Morduchowicz, nació con Johannes Gutenberg, el inventor de la imprenta. “Cuando se creó esta herramienta, se hizo necesaria una institución que enseñara a leer. Entonces, durante siglos, el objetivo de la escuela fue difundir información", repone la académica. 

Hoy, con los datos a un click de distancia, ese objetivo pierde fuerza. "Lo que se necesita es una escuela que priorice enseñar a leer, a analizar, a interpretar, y a evaluar esa información, a seleccionar solamente aquella que uno tiene certeza que es confiable. Una escuela que entienda que la información por la información misma no sirve: que puede ser el punto de partida, pero no el punto de llegada”, subraya Morduchowicz.

Y contesta, a quienes creen que el rol docente y la institución escolar tienen riesgos de desaparecer por el avance de la IA: "Mi respuesta, claro, es que esto no va a ocurrir, siempre y cuando la escuela deje de promover actividades y modos de evaluar parados exclusivamente en la memoria y promueva, en cambio, capacidades vinculadas al pensamiento crítico y creativo, a saber preguntar y a repreguntar, a saber argumentar, a resolver problemas, a ser empáticos y a trabajar en equipo".

Ciudadanía digital

En este contexto de explosión tecnológica, la propuesta de Unesco y de Naciones Unidas consiste en capacitar a las y los docentes para que puedan enseñar a sus alumnes a hacer un uso seguro, reflexivo y ético de las tecnologías, más allá del uso instrumental. “La escuela debe formar ciudadanos digitales, que son aquellas personas que saben identificar, comprender y responder a los grandes dilemas que genera la utilización de internet”, señala Morduchowicz.

“Tenemos que enseñar a los docentes cómo diferenciar una información confiable de una falsa; a pensar qué es el discurso del odio, por qué se genera y qué hacer si lo recibo; a reflexionar sobre la huella digital que dejamos cada vez que hacemos click en la web", enumera la asesora de Unesco. Además, "le tengo que enseñar a un docente cómo funcionan los algoritmos, cómo operan con sesgos y discriminaciones, y también a analizar qué decisiones están tomando los algoritmos por nosotros. Porque yo no tengo ningún problema que una plataforma de música me recomiende a partir de mi selección un artista que no conozco, pero sí tengo problema si usan mi información personal para venderme publicidad”, agrega.

Todos estas complejidades que genera el uso de internet, plantea la autora, deben abordarse desde una formación en ciudadanía digital que enseñe a reconocer el problema y a saber qué hacer con él. “Hoy en el mundo se dice que no existe ciudadanía plena sin una ciudadanía digital, porque si no sé distinguir entre informaciones falsas que circulan en la web e informaciones confiables, ahí lo que peligra incluso es la democracia, porque las decisiones personales, sociales, cívicas que la gente tome estarán basadas en informaciones dudosas”, advierte con preocupación.

“La escuela debe formar ciudadanos digitales, que son aquellas personas que saben identificar, comprender y responder a los grandes dilemas que genera la utilización de internet.”

En los últimos tres años, varios países comenzaron a incorporar este tema en sus agendas. “Creo que lo que ayudó a concientizar, aunque parezca una contradicción, fue la llegada de la pandemia, cuando la vida de todos se trasladó a la pantalla y muchos de los problemas que existían se agravaron y profundizaron, como el bullying o las noticias falsas”, analiza la investigadora, quien destaca en ese sentido el trabajo del Ministerio de Educación de Argentina, que a través del Instituto de Formación Docente está tomando este desafío como política pública.

La Unesco, en tanto, sigue de cerca el avance de la inteligencia artificial en todo el mundo. "La organización se compromete a apoyar a los Estados Miembros para que saquen provecho del potencial de las tecnologías de la IA con miras a la consecución la Agenda de Educación 2030, al tiempo que vela por que su aplicación en contextos educativos responda a los principios básicos de inclusión y equidad", asegura en diálogo con Página/12 Ernesto Fernández Polcuch, Director de la Oficina Regional de la Unesco en Montevideo. El objetivo de este compromiso, puntualiza el funcionario, es "incluir el papel desempeñado por la IA en la solución de las desigualdades actuales en materia de acceso al conocimiento, la investigación y la diversidad de las expresiones culturales, y garantizar que la IA no amplíe la brecha tecnológica dentro de los países y entre ellos".

¿Cuál es el rol de las familias?

Respecto al momento indicado para empezar a formar a niños y niñas en ciudadanía digital, Morduchowicz considera que es "ideal comenzar durante los últimos años de primaria, que es cuando los chicos, que hasta entonces usaban la tecnología para jugar o comunicarse, empiezan a usar internet para la tarea, algo que por supuesto se intensifica en la secundaria".

En ese crecimiento, las familias tienen un rol fundamental. “Uno de los desafíos más importantes es estar al tanto del uso que hacen sus hijos e hijas de las pantallas. Hoy está muy instalado en los hogares preguntarles a los chicos '¿Cómo te fue en el examen de lengua o de matemática?', pero está mucho menos instalado preguntarles '¿Qué hiciste hoy en internet?'. Y esta es una pregunta fundamental: '¿Qué te enojó, qué te angustió, qué no entendiste, qué te divirtió? ¿Lo usaste para responder la tarea de la escuela? ¿De qué manera?'”, remarca la autora del libro de Unesco.

No sirve, dice Morduchowicz sobre la metodología restrictiva que se aplica en escuelas y muchos hogares, prohibir el uso de la tecnología. “Yo prefiero siempre antes de prohibir enseñar a pensar. Yo no necesito prohibir ninguna tecnología si les muestro a mis estudiantes cómo funciona, para qué sirve, cuáles son sus riesgos, cuáles son los usos no éticos”, insiste.

“Por supuesto que si una madre o un padre ve que su hijo no sale de la habitación y está todo el día usando las pantallas, ahí voy a poner algunas limitaciones. Pero no me voy a oponer como filosofía. Es preferible enseñar a reflexionar, a analizar, hablar con el niño o adolescente sobre los usos: cuál es el momento de conectarse, cuál es el momento de desconectarse, qué podemos hacer sin pantallas. Priorizar el diálogo y el pensamiento crítico siempre sobre cualquier prohibición”, concluye Morduchowicz.