2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Inteligencia artificial y escuela: dilemas, debates y
uso crítico en las aulas bonaerenses
Módulo 3 - IA generativa: entre sesgos, errores y el análisis
crítico de la información
Introducción 2
Objetivos 2
Contenidos 2
La inteligencia artificial puede fallar 3
Conociendo el Chat GPT 4
Ejemplos de usos del Chat GPT y análisis de los sesgos de los algoritmos 5
Información no es igual a conocimiento 6
Un caso concreto de alucinación 7
Inteligencia Artificial Generativa e imágenes 9
A modo de cierre 12
Licencia Creative Commons 14
Este documento fue construido teniendo en cuenta recomendaciones para la
accesibilidad. Es un camino que comenzamos a transitar y que esperamos se vaya
nutriendo cada día para democratizar el acceso a los materiales.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 1
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Introducción
¡Bienvenidos y bienvenidas al módulo 3!
Estamos transitando la tercera semana del curso y en esta oportunidad queremos
proponerles avanzar en la experimentación con aplicaciones de IA generativa y
analizar críticamente la información que nos brindan. Para ello les ofreceremos
algunos ejemplos de prácticas realizadas con docentes de distintos niveles educativos,
a partir de preguntas específicas desde los diseños curriculares. Ofreceremos ejemplos
transversales a los niveles Inicial, Primario y Secundario con el objetivo de orientar el
análisis de los sesgos que abordamos en el módulo 2. Por otro lado, analizaremos la
intervención de la IA en las imágenes y los problemas éticos que plantea.
Objetivos
● Problematizar los modos en que las aplicaciones de IA generativa resuelven los
interrogantes que les planteamos, poniendo especial atención en los sesgos
que reproducen.
● Construir criterios para la confirmación de las respuestas que ofrecen las
aplicaciones de IA generativa en comparación con otras fuentes de
información.
● Poner en tensión la información que disponen las aplicaciones de IA generativa
con los marcos interpretativos del currículum escolar plasmados en los DC de
cada nivel.
Contenidos
El “diálogo” con las aplicaciones de IA generativa: lectura crítica y problematización. El
valor de las imágenes intervenidas por IA en la sociedad contemporánea. Sesgos que
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 2
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
reproducen los algoritmos: género, problemática ambiental, educación, historia. El
concepto de alucinación.
La inteligencia artificial puede fallar
El Chat GPT -Generative Pre-trained Transformer o Transformador Generativo
Preentrenado- es un chatbot de inteligencia artificial lanzado en 2022, que como
mencionamos en el módulo 1, es capaz de dar respuestas coherentes a preguntas que
formulamos. Es un modelo “entrenado” con grandes cantidades de texto para realizar
tareas relacionadas con el lenguaje: generar un texto, traducir otro. Como tecnología
no es neutral, y como veremos en este módulo, falla muchas veces: presenta
información errónea, sesgos o datos desactualizados, dado que, la versión de
lanzamiento, fue entrenada con datos en inglés hasta 2021. Asimismo no nos
mostraba las fuentes de información con las cuales se nutrió. En versiones
posteriores, como por ejemplo Chat GPT 3.5, la base de datos se ha actualizado hasta
enero de 2022. De todos modos y más allá de de la actualización de los datos con los
que opera, nos parece valioso acercarles aquí lo que sostiene María del Mar Sanchez
Vera, pedagoga y especialista en tecnología educativa: “es importante que
entendamos cómo trabajan estas herramientas, qué son las redes neuronales, con qué
tipo de datos se les entrena, qué sesgos tienen, de tal modo que cuando los
estudiantes las usen sean capaces de desarrollar la capacidad crítica de gestionar la
información y saber cómo consultar las fuentes de datos fiables” (Sanchez Vera 2023:
15).
Como veremos en este módulo, es necesario problematizar la información que nos
devuelve el Chat GPT y entender cómo funciona, con qué sentido/s utilizamos esta
herramienta y con qué objetivos de enseñanza y de aprendizaje. Queda aquí también
hecha la invitación a explorar otras IA generativas que sí muestran las fuentes
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 3
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
utilizadas para responder y que se nutren con datos más actualizados, por ejemplo
Microsoft Copilot, You y Perplexity, entre otros.
En el siguiente apartado veremos algunos ejemplos de prácticas realizadas con Chat
GPT en el ámbito educativo. Las y los invitamos a sumergirnos en el conocimiento y la
problematización de esta herramienta de IA generativa.
Conociendo el Chat GPT
¿Alguna vez usaron esta aplicación? ¿Conocen cómo funciona? ¿Alguien se las
mencionó o leyeron sobre ella?
A Chat GPT se accede desde el Link: ChatGPT (openai.com) con cualquier dispositivo y
se puede instalar o usar on-line. Para utilizar esta herramienta es necesario crear un
usuario o ingresar desde una cuenta de Gmail personal de Google. La aplicación
funciona como cualquier otro programa de chat, donde el usuario debe escribir una
pregunta (que en términos técnicos se denomina Prompt) y el chat responde en el
mismo idioma. Es una forma de decirle a la IA qué queremos y de qué forma.
Pertenece a la compañía OpenIA que según el propio sitio, “es una empresa de
investigación e implementación de IA. Nuestra misión es garantizar que la Inteligencia
Artificial general beneficie a toda la humanidad”: Acerca de (openai.com)
El sitio se autoproclama como “constructor de una inteligencia artificial benéfica y con
una inteligencia superior a la humana”. Afirmaciones que empezamos a discutir en
este curso. De hecho, una primera limitante que se observa al ingresar, es que la
empresa ofrece una versión “gratuita” y una “paga”. Por supuesto, la versión paga es
la que devuelve información más actualizada.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 4
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Para ver
Las y los invitamos a ver el video “Tendencias y tensiones en el marco de la cultura
digital” de la fundación Ceibal, donde la escritora y productora de contenidos
digitales para el portal Educ.ar, Carina Maguregui, explica brevemente qué es el chat
GPT.
Tendencias y Tensiones en el marco de la Cultura Digital - Carina Maguregui -
YouTube Recuperado el 13 de abril de 2023. (Desde el minuto 54.40 hasta el 1.04)
Por otro lado, las y los invitamos a retomar la segunda parte del video del módulo 1,
donde el especialista en tecnología educativa, Cristóbal Cobo nos introduce en las
características de la IA, para analizar de manera crítica el uso de chat GPT junto a
otras aplicaciones de IA generativa. ¿Para qué usar Chat GPT? ¿se habilita o se
prohíbe? ¿reemplaza al pensamiento? ¿qué riesgos existen si todo lo hace la
máquina? Estos y otros interrogantes son abordados por Cobo. Les proponemos
retomar desde el minuto 19.46 hasta el 27.47.
Fuente: Foro Internacional AcademIA (VirtualEduca, Medellín, 2023)
https://virtualeduca.org/
https://youtu.be/Va0rLnbHaK0?si=K4sKHdqL8IH6FGkq
Ejemplos de usos del Chat GPT y análisis de los sesgos de los
algoritmos
Siguiendo a Cobo, consideramos que para poder comprender cómo funcionan las
tecnologías generativas, es necesario usarlas, ejercitar con ellas, aprender a realizar
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 5
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
buenas preguntas que las pongan a prueba y poder identificar los sesgos ideológicos,
de género, geopolíticos, entre otros.
Para explorar
Les compartimos algunos ejemplos de experiencias realizadas con docentes de
diferentes materias y niveles educativos en las que se ponen en evidencia los
distintos sesgos en la información que organiza el chat GPT.
Disponible aquí
Información no es igual a conocimiento
Analizando las respuestas en los ejemplos propuestos, podemos afirmar, entre otras
cosas, que para buscar una información en el chat, debemos conocer de antemano
sobre la temática. Precisamos contextualizar las respuestas e interpelarlas desde los
saberes previos, comparándolas con otras fuentes de información. Como vimos en los
módulos anteriores, la IA generativa tiene sesgos en la información y es un buen
ejercicio poder advertirlos junto a las/los estudiantes y contrastar con otras fuentes.
Además, el chat en muchos casos comete “errores” que se denominan
“alucinaciones”. En el entorno de la IA se le llama así a información arrojada por el
sistema que, aunque esté escrita de manera coherente, presenta datos incorrectos,
sesgados o plenamente erróneos.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 6
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Para leer de manera optativa
Si les interesa profundizar sobre el concepto de “alucinación” las y los invitamos a
leer el siguiente artículo Qué es la "alucinación" de la inteligencia artificial y por qué
es una de las fallas potencialmente más peligrosas de esta tecnología - BBC News
Mundo que desarrolla el concepto.
Un caso concreto de alucinación
En el marco de la realización de un trabajo práctico para la materia Comunicación y
Educación por estudiantes del Profesorado en Ciencias de la Comunicación de la
Universidad de Buenos Aires, las autoras Mariana Belén Bermejo, Malena Rodríguez
Segal y Verónica Tobeña produjeron la escritura de un dossier que incluye dos
géneros periodìsticos: una entrevista y una nota de opinión1.
Reconociendo a la IA generativa como un objeto nuevo y disruptivo de la cultura
contemporánea crearon personajes ficticios que pudieran evocar los conceptos
trabajados en la materia. Así realizaron una entrevista a un artista estadounidense
apócrifo que llamaron Zach Lieberman y lo caracterizaron como formado en la
programación y comprometido comercialmente con Google. Le adjudicaron un
programa de intervención en escuelas (que denominaron PotenciArte) financiado por
esta empresa. Para la entrevista usaron como eje disparador la exposición de las obras
generadas con la IA de este artista en el MACBA. Ellas mismas desarrollaron las
imágenes de esa muestra ficticia con dos herramientas de IA: aichatting.net y el
creador de imágenes de Bing (con tecnología de Dall-E). Denominaron a la muestra
1
DOSSIER: Inteligencia Artificial: La creatividad artística y la formación educativa interpeladas.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 7
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
del artista “Cyborg”, lo hicieron hablar sobre muestras pasadas e hicieron un planteo
verosímil en cuanto a las posibilidades que ofrece la IA. Problematizaron el proceso de
producción de las obras, la función intelectual del artista y del docente, su rol y el de
las instituciones escolares. También reflexionaron sobre la tecnología, su devenir e
impacto en la definición de humanidades cyborg y su dimensión mercantil, los sesgos
y el solucionismo tecnológico, las nuevas utopías en una defensa desde el arte.
El artista inventado por las autoras fue buscado luego, desde una computadora que
tenía abierto el trabajo para la lectura, en chat GPT:
Prompt: ¿qué muestra la obra de Zach Lieberman?
Chat GPT: Zach Lieberman es un reconocido artista y programador creativo conocido
por su trabajo en el campo del arte interactivo y la tecnología. Sus obras exploran la
intersección entre el arte, la ciencia y la tecnología, y a menudo se centran en la
relación entre los seres humanos y las máquinas.
Una de las principales características de las obras de Zach Lieberman es su enfoque en
la interactividad y la participación del espectador. A menudo utiliza sensores y
algoritmos para crear instalaciones y experiencias en las que el público puede
interactuar directamente con la obra de arte. Esto puede implicar gestos corporales,
movimiento, voz u otras formas de entrada que activan y modifican la obra.
El artista ficticio apareció con una entidad real en el chat, a partir del uso de los datos
que realizaron los algoritmos, que seleccionó la información disponible en la
computadora de la persona que tenía abierto el trabajo en su PC, de un artista
apócrifo, cuya obra no existe.
Es un caso de alucinación porque la información se presenta de manera coherente, se
le da una entidad real al escritor, pero la información es falsa y errónea.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 8
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
La intervención de la IA en la sociedad contemporánea nos plantea, como veremos en
el módulo 4, dilemas y desafíos.
Inteligencia Artificial Generativa e imágenes
Para trabajar con imágenes, la aplicación más difundida es Dall-E (DALL· E 2
(openai.com)) que se define como “Un sistema de IA que puede crear imágenes
realistas y arte a partir de un lenguaje natural”. Crea efectos de “realidad” aunque
cuando la analizamos en detalle pueden advertirse las huellas de la IA.
A diferencia de Chat Gpt, DALL-E no cuenta con una versión gratuita de uso.
Estas imágenes intervenidas con IA que han circulado recientemente en los medios de
comunicación muestran al papa Francisco con camperón y a Donald Trump detenido.
Si miramos las imágenes de cerca, pueden advertirse los efectos de sentido generados
por la IA. Pero no son pocas las veces que noticias falsas (fake news) pueden pasar
inadvertidas gracias a la intervención de la IA. En la primera imagen, la inteligencia
artificial se encargó de recrear un supuesto arresto del ex presidente de EE. UU.
Donald Trump.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 9
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Una imagen para polemizar.
Los/las invitamos a leer una nota sobre un concurso de fotografía en el que el
fotógrafo alemán Boris Eldagsen ganó el prestigioso premio Sony World
Photography Awards con una imagen que había sido generada con la ayuda de
inteligencia artificial y lo rechazó.
La invitación es a reflexionar sobre los dilemas filosóficos y éticos que enfrentan las
imágenes contemporáneas intervenidas por IA y el estatuto de veracidad de la
fotografía en la sociedad contemporánea.
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 10
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Quién es Boris Eldagsen, el fotógrafo que ganó un premio con una imagen hecha
con IA y despertó polémica mundial - Infobae
Un último concepto: los “deep fake”
¿A qué se llama “deep fake”?
Es una tecnología de suplantación o falsificación de contenidos, que puede utilizarse
para la industria del entretenimiento pero también para generar noticias falsas muy
creíbles.
Desde el minuto 2,14 del siguiente audiovisual pueden acceder a una sencilla
explicación, con ejemplos concretos:
Capítulo 3: Inteligencia Artificial creativa y "deep fake" - YouTube
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 11
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
A modo de cierre
Tal como planteamos en este módulo, la forma de comprender y analizar la
información que brindan las tecnologías generativas es interactuando con ellas. Es
importante detenerse a leer críticamente la información que brindan,
contextualizando y comparando con otras fuentes de información. Tanto en la
generación de textos como de imágenes o videos pueden advertirse los sesgos
ideológicos de la IA y que ningún discurso es neutral. Por eso, necesitamos
problematizar el uso de estas herramientas en nuestras escuelas e ir un poco más allá,
como plantea Sánchez Vera: “Tenemos que saber el uso que hacen de nuestros datos.
Tenemos que exigir algoritmos inclusivos y justos. La IA es una oportunidad, pero
también supone un riesgo que incremente la brecha digital en la sociedad, y el mundo
educativo no es ajeno a esta circunstancia” (Sánchez Vera 2023: 9)
Sin duda, la IA nos plantea desafíos como educadoras y educadores. Luego de
experimentar con esta herramienta específica, las/os invitamos a seguir
profundizando en esos desafíos a lo largo del módulo 4.
Referencias
DGCyE. Dirección provincial de Educación Inicial (2022): Diseño curricular de Nivel
Inicial. Págs. 232-233 y Orientaciones para la enseñanza en el área de Ambiente
Social y Natural (251-258)
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 12
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Mariana Belén Bermejo, Malena Rodríguez Segal y Verónica Tobeña (2023) UBA,
Facultad de Ciencias sociales: Dossier “Inteligencia artificial: la creatividad artística y
la formación educativa interpeladas”.
Enlaces
Artículo periodístico de Infobae (20/4/23):
Quién es Boris Eldagsen, el fotógrafo que ganó un premio con una imagen
hecha con IA y despertó polémica mundial - Infobae
Vídeo: “Inteligencia artificial creativa y deep fake”
Capítulo 3: Inteligencia Artificial creativa y "deep fake" - YouTube
Sitio Continuemos estudiando: “Mariposas bonaerenses: Construyendo
ambientalismo popular”
Mariposas bonaerenses. Construyendo ambientalismo popular –
Continuemos estudiando (abc.gob.ar)
OpenIA Chat GPT
ChatGPT (openai.com)
OpenIA DALL-E2
(DALL· E 2 (openai.com)
Concepto de alucinación. Artículo periodístico de la BBC, sección Mundo
(15/5/23):
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 13
2024 • Año del 75° Aniversario de la gratuidad universitaria en la República Argentina
Qué es la "alucinación" de la inteligencia artificial y por qué es una de las fallas
potencialmente más peligrosas de esta tecnología - BBC News Mundo
Sánchez Vera, M. del M. (2023). Los desafíos de la Tecnología Educativa.
RiiTE Revista Interuniversitaria de Investigación en Tecnología
Educativa, (14), 1–5. Disponible en: https://doi.org/10.6018/riite.572131
Licencia Creative Commons
Autor(es): Equipo de la Dirección de Formación Docente Permanente. Dirección
Provincial de Educación Superior, DGCyE. Provincia de Buenos Aires (2023).
Esta obra está bajo una licencia Creative Commons
Atribución-NoComercial-CompartirIgual 3.0
Inteligencia artificial y escuela: dilemas, debates y uso crítico en las aulas bonaerenses | 14
