Inteligencia Artificial y Educación: Más preguntas que respuestas [Actualizado]

Actualización: Al final del artículo agregamos lecturas útiles publicadas recientemente que respaldan y amplían esta publicación.

[Publicado originalmente el 04/07/2023]

A comienzos del siglo XX y poco después de su descubrimiento, el elemento químico radio, carísimo de extraer, era incluido hasta en la lana de la ropita para bebés. Gracias a los avances de la ciencia y la investigación, hoy lo usamos exclusivamente para lo que sí es útil y nos cuidamos de sus efectos radiactivos. Desde que herramientas como ChatGPT fueron puestas a disposición de todas las personas con acceso a internet, está pasando con la Inteligencia Artificial lo mismo que sucedió cuando se descubrió el radio: parecería que debemos ponerle Inteligencia Artificial a todo.

Estamos en medio de un ruidoso bombo publicitario de esta tecnología para normalizar su uso en nuestras sociedades con el fin de que quienes la producen capitalicen grandes ganancias lo más rápido posible. Aunque lo del bombo mediático sea una práctica común y más vieja que el radio, su impacto sobre la Educación es un tema que nos interpela y compromete a posicionarnos de forma constructiva y responsable, con mirada local y respetando nuestros valores.

En esta publicación compartimos muchas preguntas que recomendamos hacerte cuando veas batir el parche de la Inteligencia Artificial aplicada a la Educación. En esta otra publicación, compartimos algunas reflexiones críticas y parte del potencial que la Inteligencia Artificial podría tener en Educación.

❓ Tenemos más preguntas que respuestas

Cuando nos preguntan sobre la intersección entre Inteligencia Artificial y Educación, antes de dar nuestra opinión experta, hacemos todas estas preguntas:

• ¿Para qué tipo de tarea educativa se propone usar Inteligencia Artificial? ¿La herramienta de Inteligencia Artificial asistirá al personal docente en una tarea que le quita tiempo para fortalecer la relación con sus estudiantes? ¿Se va a usar Inteligencia Artificial en una tarea cuyo foco es la relación docente-estudiante? Como ampliamos en esta otra publicación, aunque aún hay que investigarlo, la Inteligencia Artificial podría ayudar en tareas repetitivas que no implican al estudiantado, mientras que la relación docente-estudiante es terreno de las personas y no de los algoritmos.
• ¿Cuál es el objetivo de usar Inteligencia Artificial? ¿Abaratar costos? ¿El personal docente verá sus condiciones de trabajo mejoradas, permanecerán igual, o empeorarán? ¿Quiénes pagarán y quiénes cobrarán por el trabajo que hará el sistema de Inteligencia Artificial? Es crucial evaluar que el impacto en las condiciones laborales de los roles educativos sea positivo o, como mínimo, neutro, pero en ningún caso deberá ser negativo.
• ¿Usar Inteligencia Artificial mejora el proceso de enseñanza-aprendizaje? ¿Fue medido con un buen diseño experimental (por ejemplo, aleatorizado, enmascarado) y con consentimiento de quienes participaron del experimento? ¿Fueron los resultados reproducidos por otras personas sin conflictos de interés sobre la herramienta? Es común que estas herramientas educativas sean presentadas comercialmente como productos difíciles de resistir. Sin embargo, la evidencia que las avala tiende a nula. Es común descubrir tiempo después que su uso era dañino y las promesas de mejora, vanas.
• ¿Cuál es el desempeño del sistema de Inteligencia Artificial propuesto? ¿Cómo se mide ese desempeño? ¿Para qué estudiantes fue diseñado? Sabemos que los sistemas de Inteligencia Artificial muchas veces cometen errores sistemáticos contra las personas que no fueron tenidas en cuenta al momento del diseño. Es decir, suelen discriminar a las personas para las que no fueron diseñados.
• ¿Qué recaudos tomaron las personas que producen estas herramientas de Inteligencia Artificial para no automatizar y amplificar sesgos dañinos presentes en nuestras sociedades? No hay una solución única ni sencilla para este problema. Documentar exhaustivamente las limitaciones y problemas de estas herramientas es un mínimo útil. Esta es una práctica común en otras disciplinas con alto poder de impacto en nuestras sociedades como la farmacéutica o el transporte pero aún está en discusión y lejos de ser un estándar para la Inteligencia Artificial.
• ¿En qué lugares del mundo y bajo qué condiciones laborales se crean estas herramientas? Es común que herramientas como ChatGPT sean desarrolladas por grandes empresas tecnológicas con márgenes de ganancia extraordinarios, instaladas en países de altos ingresos que tercerizan tareas como la limpieza y el etiquetado de datos a empresas en países de bajos a medianos ingresos. Estas últimas emplean personas en condiciones precarias, muchas veces insalubres, y salarios muy por debajo de los estándares internacionales para Inteligencia Artificial. Esto es problemático porque sin el trabajo de estas personas la Inteligencia Artificial no estaría en boga por estos días.
• ¿Con qué datos fue entrenada la herramienta? Hay juicios en marcha porque algunas de las herramientas de Inteligencia Artificial disponibles habrían usado datos para su entrenamiento sin respetar los derechos de autoría.
• ¿Qué costos ambientales (por ejemplo, de uso de energía eléctrica) tiene la herramienta de Inteligencia Artificial usada? El impacto ambiental de entrenar herramientas como ChatGPT es muy alto. Hay voces expertas advirtiendo que, en medio del cambio climático en el que vivimos, es necesario restringir los recursos energéticos que usa la Inteligencia Artificial.
• ¿Es necesario cambiarlo todo en Educación? ¿Qué procesos funcionan bien como los conocemos? ¿Los cambios en Educación deberían seguir la misma velocidad que la del desarrollo de la Inteligencia Artificial por estos días? ¿Qué sucede si esperamos a que estas herramientas alcancen un estándar mínimo de calidad (por ejemplo, minimicen la discriminación de personas, no violen leyes de propiedad intelectual) y estén reguladas por nuestros Estados antes de implementarlas en Educación? Idealmente, no deberíamos permitir que intereses ajenos a nuestras comunidades y regiones nos implanten como inevitables necesidades tecnológicas a velocidades que son funcionales sólo a la ampliación de la desigualdad ya reinante en nuestras regiones.
• ¿Qué consecuencias podrían tener adopciones inmediatas de herramientas de Inteligencia Artificial simplemente porque existen y fueron puestas a disposición por algunas empresas cuyo conocimiento se limita al propio campo de la Inteligencia Artificial? No olvidemos que son tecnologías con serios problemas de funcionamiento. Por ejemplo, todo lo que ChatGPT imprime en pantalla es inventado y es difícil detectar que muchas de sus salidas no tienen ningún sustento fáctico.
• ¿Cuáles son las consecuencias del uso masivo de estas tecnologías en Educación en el mediano y largo plazo? ¿Cómo nos relacionamos las personas de distintas edades con estas herramientas de Inteligencia Artificial que imitan bien nuestro uso del lenguaje? No tenemos respuestas certeras a estas preguntas porque no ha habido tiempo de pensarlo ni de estudiarlo en forma controlada aún.
• ¿Si las nuevas generaciones aprenden con Inteligencia Artificial, de quién están aprendiendo? ¿Quiénes diseñaron la herramienta de Inteligencia Artificial? ¿Con qué valores? ¿A quién va a beneficiar realmente su implementación? En el caso de las herramientas gratuitas, ¿nos están regalando algo para en realidad extraernos algo mucho más valioso, como nuestros datos o inteligencia?

🥁 Cerramos declarando

Como enseñamos en MetaDocencia, la Educación es en parte un proceso social. Por ende, no cambia mágicamente para bien de la noche a la mañana, con la irrupción de una tecnología. Tampoco existe una solución universal para todos los contextos. Seguramente la Inteligencia Artificial, como el radio, tiene potencial para aportar valor a nuestras vidas. Dilucidar cuáles y cómo hacerlo bien en el campo de la Educación son tareas pendientes durante las cuales necesitamos honrar los tiempos humanos y de nuestra región. También para que decanten en forma democrática y no porque unos cuantos empresarios con ánimo de lucro acelerado quieren imponernos necesidades y soluciones.

Siempre resulta mejor priorizar a las personas por sobre las herramientas tecnológicas. Las nuevas herramientas de Inteligencia Artificial son generadoras de enorme riqueza para pocas personas y de mayor desigualdad para el resto de la humanidad. Todo esto está mucho mejor explicado en la “ Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina", donde más de 400 personas expertas en Inteligencia Artificial, mayormente de América Latina, comenzamos a advertir sobre esto en marzo de 2023. Te invitamos a firmar la declaración pero, sobre todo, a seguir reflexionando en forma crítica y a hacerte las preguntas que importan.

📖 Otras lecturas útiles

• Miao, F y Holmes, W. Guidance for generative AI in education and research. Publicado por UNESCO. Septiembre, 2023.
• UNESCO: Governments must quickly regulate Generative AI in schools. Septiembre, 2023.
• Higher education’s essential role in preparing humanity for the artificial intelligence revolution. A statement to be issued by a diverse group of educators and scholars at the 18th annual United Nations lnternet Governance Forum, October 2023, Kyoto, Japan.

¿Te gustó esta publicación? Puedes reutilizarla libremente bajo licencia CC by 4.0, solo tienes que citarla.

Esta es la cita que te recomendamos usar para referenciarla:

Laura Ación, Luciana Benotti, Melissa Black, Laura Ascenzi, & Paola Andrea Lefer. (2023). Inteligencia Artificial y Educación: Más preguntas que respuestas. Zenodo. https://doi.org/10.5281/zenodo.8120673.