La investigadora Luciana Benotti, doctora en informática con especialidad en lingüística computacional, dice que la Inteligencia Artificial está ingresando a las aulas principalmente por los estudiantes, pero advierte un gran interés por parte de docentes preocupados porque la IA disminuya el pensamiento crítico del alumnado.
El año pasado, la Fundación Vía Libre y Famaf-UNC, en convenio con el Ministerio de Educación de Córdoba, dictaron un curso de formación de docentes de secundario de seis meses con práctica en el aula, cuya planificación fue evaluada por los profesores y tutores de la UNC. “Abrimos el llamado que fue difundido por los medios oficiales del Ministerio y en menos de 48 horas teníamos más de mil inscriptos. Esto muestra el gran interés de los docentes”, explica Luciana.
Más de la mitad de los docentes anotados declararon no haber usado ChatGPT o modelos de lenguaje similares y no tener conocimientos previos sobre IA. La mayoría dijo que necesitaba aprender porque sus estudiantes estaban usando IA. “La IA está ingresando a la escuela principalmente a través de los estudiantes”, apunta la investigadora.
Benotti tiene una amplia formación en universidades nacionales e internacionales; es investigadora del Conicet en el área de informática y profesora asociada en la licenciatura y el doctorado en Ciencias de la Computación de la UNC. Lidera el equipo de IA de la Fundación Vía Libre, una organización sin fines de lucro que defiende los derechos digitales y es miembro del comité directivo de Khipu, una comunidad de investigadores y desarrolladores de IA en Latinoamérica. Además, su equipo de investigación desarrolla una herramienta para detectar sesgos sociales en modelos de lenguaje en español.
En una conversación con Perfil Córdoba, Benotti dice que el ámbito tecnológico aún es mayoritariamente masculino y asegura que los investigadores en el país están en “una situación crítica”.
-¿Cómo se puede aprovechar la IA en las escuelas?
-Nuestro curso se llama “HESEIA: Herramientas para explorar sesgos y estereotipos de la IA en las aulas” y su objetivo es dar herramientas críticas a los docentes para poder identificar los riesgos y las potencialidades de usar modelos de lenguaje en general, y en particular en la escuela. Por ejemplo, nos enfocamos en cómo ciertas estrategias de prompting que se viralizan en las redes pueden producir respuestas sesgadas o manipuladoras y cuáles son las razones. Explicamos cuáles tienen un fundamento científico y cuáles no. Y para esto enseñamos cómo funcionan y de dónde vienen los datos de los modelos de lenguaje (…) Estamos trabajando en nuevos contenidos de una versión 2 de este curso para el 2026. En esta nueva versión hablaremos del valor de los datos, de qué datos generamos para la IA, por ejemplo con Instagram de Meta, LinkedIn de Microsoft y otras aplicaciones que son propiedad de las big tech que hoy desarrollan IA. En esta nueva versión hablaremos de la posibilidad de tener modelos de lenguaje más pequeños y más adaptados a las tareas para los que realmente los queremos usar.
Vacaciones de invierno: cómo implementar un «reseteo digital» familiar sin prohibir la tecnología
-¿Le tenemos miedo a la IA?
-Los docentes expresaron varios miedos. Los más recurrentes eran la dependencia continua en sus estudiantes de una herramienta comercial. Temen que la IA disminuya su pensamiento independiente, que los estudiantes no entiendan las respuestas y simplemente las repitan. Les asusta la disminución del análisis crítico en los jóvenes.
-¿Por qué los docentes están interesados en la IA?
-Quieren aprender a usar la IA para hacer mejor su tarea. Pero sobre todo quieren poder ayudar a los estudiantes a tener una visión crítica de la IA. A que no la vean como infalible y fuente de todo conocimiento. Muchos docentes ya sabían que la IA produce respuestas que son probables, pero posiblemente no factuales. Nosotros les enseñamos por qué esto no es un error sino parte intrínseca de su diseño. Además, les enseñamos que las IA exhiben dos características para las que fueron diseñadas: expresar con certeza sus respuestas aunque sean falsas, y adular a la persona que las usa para intentar generar un vínculo.
-¿La IA puede revolucionar definitivamente la manera de enseñar y aprender?
-No lo sabemos, falta mucha investigación en este tema. Aprender tiene que ver con construir herramientas para poder hacer cosas y tomar decisiones informadas de forma independiente. La IA puede ser usada para esto o puede ser usada para tomar decisiones por las personas y para generar dependencia. Depende de cómo se la venda.
-¿Cuánto tiempo nos puede llevar?
-Estas investigaciones van a llevar mucho tiempo porque no vamos a poder entender el efecto en los jóvenes y en el ámbito del trabajo hasta que pase el tiempo. Y más tiempo va a llevar si no hay gente investigando estos temas. Las redes sociales se masificaron hace décadas y aún no hay una buena comprensión de su impacto en la salud mental, por ejemplo. Contar con capacitaciones docentes independientes es clave para que los educadores puedan tomar decisiones informadas sobre la IA y su influencia en el sector. La formación impartida por las mismas grandes tecnológicas genera un conflicto de interés.
“La IA se entrena con nuestros datos, pero sin nosotros»
-Investigadores latinoamericanos están trabajando en la creación de un Chat GPT Latam, ¿Por qué la región necesita un modelo propio?
-La región necesita un modelo propio para generar conocimiento técnico necesario para entender esta tecnología a fondo. Y para entender cómo las decisiones de diseño técnico impactan sobre los comportamientos del modelo.
-En el caso de Chile y de Brasil, los gobiernos apoyan estas investigaciones. ¿Pasa lo mismo con Argentina?
-En Argentina los investigadores estamos en una situación crítica, no hay apoyo para este tipo de investigaciones y los salarios de becarios, investigadores y profesores están muy devaluados.
-¿Qué participación tiene la UNC en el proyecto del chat latinoamericano?
-Desde la UNC la colaboración consiste en diseñar mecanismos para comparar sesgos y estereotipos de diferentes modelos. También investigamos la capacidad de alineamiento de valores y su capacidad para expresar incertidumbre cuando la tienen, su capacidad de decir “no sé”.
Confirman el traslado del árbol en Luchesse y siguen adelante con la duplicación de la vía
-¿Cuál es la participación del mundo hispanoparlante y en particular del sur global en el desarrollo de la IA?
-El idioma español está por detrás del inglés y del chino, pero está mucho mejor representado que otras lenguas del mundo, en la IA hoy en día. En el mundo los hispanohablantes representamos un mercado bien grande y somos activos en internet, en redes sociales, usando IA y demás. Es decir, generamos muchos datos gratis que los creadores de IA aprovechan para mejorar sus productos. Un modelo entrenado en nuestros datos tendrá mucha información sobre nuestros países, nuestra cultura, nuestro idioma, quizás hasta de nuestro lunfardo y de algunas lenguas indígenas. Pero el mundo hispanohablante está participando muy poco del desarrollo de la tecnología de IA y no está disfrutando de las ganancias que la IA genera. Para empezar, porque no somos dueños de nuestros propios datos, ni siquiera sabemos dónde se almacenan y se procesan. ¿Alguna vez miraron en sus teléfonos la cantidad de horas que usan aplicaciones que registran datos comportamentales (como Instagram, Linkedin, Tiktok, etc)? Ese es tiempo en el que estamos trabajando gratis para los dueños de esas aplicaciones, generando datos para sus IAs. Es decir, de esa forma participamos, pero de esa forma, no tenemos esperanza de percibir ganancias de esta tecnología que genera tanta riqueza aprovechando el tiempo que le dedicamos. Los pocos investigadores que estamos en Latinoamérica tratando de desarrollar tecnología para grupos sociales que se beneficiarían de la IA como los discapacitados, los docentes, etcétera, tenemos muy poco soporte para hacerlo. Esta tecnología, si genera dependencia, debería ser un servicio público distribuido, como la energía. No debería ser propiedad de unos pocos, por el poder que concentra. Si les interesa este tema les recomiendo leer el libro de Karen Hao, “El imperio de la IA”.
-¿El desarrollo tecnológico sigue estando mayoritariamente en manos de varones?
-Desgraciadamente, sí. Más mujeres se han involucrado ahora en el área de IA en los sectores de ética, educación, política, leyes, economía u otras áreas similares, es decir vienen de áreas no computacionales. Si queremos evitar ser susceptibles a las promesas exageradas tan comunes en el ámbito de la IA, es imperativo desarrollar un conocimiento computacional profundo. Este entendimiento técnico es clave para evaluar de forma independiente la viabilidad y las implicaciones reales de las propuestas, en lugar de depender ciegamente de la palabra de quienes las promueven. Las mujeres que tenemos esa comprensión de estas tecnologías somos minoría a nivel mundial y en Latinoamérica, aún más.