--°C

Por ese motivo, una comisión de expertos en educación y uso de IA encontró necesario repetir el examen a más de 50.000 estudiantes, esta vez de manera presencial. Asimismo, la UNAM destituyó a su secretaria general y canceló anticipadamente el contrato de más de cuatro millones de dólares con la empresa Territorium Life, responsable de aplicar la prueba virtual.

La presidenta Claudia Sheinbaum dijo que por situaciones como esa se está “regresando a la escritura manual, a la lectura, a los libros de papel, porque puede haber un abuso de la inteligencia artificial por parte de los alumnos”, afirmó. De hecho, las autoridades educativas de México ahora mismo debaten si, para el próximo curso escolar, prohibirán a los niños emplear celulares y tabletas en todo el país, debido a que provocan un uso compulsivo. Actualmente, la mitad de los estados ya han regulado ese uso.

Aunque este caso abrió en México el debate sobre los riesgos de emplear IA y el uso indiscriminado de tecnologías en los salones de clase, el problema no es nuevo en el mundo. IPSOS, firma dedicada a la investigación de mercados, realizó un estudio en Francia con más de mil jóvenes de entre 18 y 25 años, y reveló que casi el 60% de ellos había usado IA para hacer trampa en sus evaluaciones.

La preocupación no solo se refiere al uso de la IA en las actividades académicas, sino a la omnipresencia de los dispositivos. Según la UNESCO, 58% de los países ya prohíben la telefonía móvil en escuelas. Esto “refleja la creciente preocupación por la disminución de la atención en las aulas, el ciberacoso y la influencia generalizada de los entornos digitales en los niños”, alerta en un comunicado. Recientemente, Noruega anunció que, a partir del próximo curso, prohibirá la IA generativa en las aulas para prevenir un impacto negativo en el aprendizaje de estudiantes de 6 a 13 años. 

Para Ismael Martínez, académico de la Facultad de Estudios Superiores Iztacala de la UNAM, los niños pasan demasiadas horas expuestos a tabletas y celulares que les dan información muy digerida. “Ya no tienen que imaginar, simplemente se quedan con lo que les dice la pantalla”, afirma. Cree que tenemos un gran problema si los niños ya no cuentan con espacios para pensar o ser creativos. “No se trata de privarlos de la pantalla, sino de reflexionar sobre qué tipo de herramientas podemos darles para que desarrollen esas habilidades y cuáles son adecuadas a su edad”.

Pero además, incorporar la IA en entornos educativos puede exponer a los alumnos a  algoritmos que responden a fines lucrativos. Las empresas que ofrecen servicios de  IA gratuitos, por ahora,  tienen un solo objetivo: obtener ganancias estratosféricas. De acuerdo con Forbes, a nivel global ya hay más de 80 multimillonarios de la IA, con una fortuna conjunta de 2,9 billones de dólares. “Y podrían aparecer muchos más”, advierte la publicación. 

Como expresa Stefania Giannini, subdirectora general de Educación de la UNESCO, en el libro AI and the Future of Education, “la educación es cada vez más un campo de batalla para los modelos comerciales de IA, que prometen rapidez, eficiencia y escalabilidad, pero amenazan el aprendizaje profundo, la reflexión y la conexión humana”. Escribe que, aunque estas tecnologías abren posibilidades para el aprendizaje, pueden inhibir el pensamiento crítico y reforzar las brechas de acceso, género e idioma. “Al generar datos a una escala sin precedentes, también plantean interrogantes aún sin respuesta sobre privacidad, ética, soberanía y confianza”.  Y no hay señales de que alguna de las empresas involucradas esté interesada en enfrentar esa problemática.

La IA también refuerza nuevas formas de poder, al tiempo que reproduce desigualdades históricas, donde América Latina “enfrenta una doble condición de vulnerabilidad: dependencia digital y debilidad institucional”. Quien esto escribe, Fabricio Cabrera Ortiz, investigador del Instituto de Estudios Urbanos de la Universidad Nacional de Colombia, en el texto “La inteligencia artificial como arma de dominación social”, también explica que hay una “narrativa tecnoptimista”, según la cual la IA es una herramienta benéfica al servicio del progreso social. Una narrativa controversial que llega a los estudiantes sin filtro alguno.

Por ejemplo, Microsoft sostiene que este es un año decisivo para el uso de la IA, debido a que “dejará de ser solo una herramienta para convertirse en un aliado, transformando la manera en que trabajamos y creamos”. Según su visión, los expertos ya no hablan de IA, sino de “agentes de IA”, porque “se consolidan como asistentes digitales capaces de asumir tareas especializadas, siempre bajo supervisión humana (…) Al mismo tiempo, la infraestructura tecnológica que sostiene estos progresos también está madurando y evolucionando hacia sistemas más inteligentes y eficientes”, señala el reporte de la compañía global.

No obstante, Cabrera alerta que estamos viendo una rápida expansión de sistemas algorítmicos sin controles democráticos ni transparencia en su funcionamiento ni marcos éticos adecuados, algo especialmente sensible en la educación. Recientemente Mark Zuckerberg, CEO de Meta, presentó el “manifiesto de 6,500 palabras” donde propone que exista una mayor apertura tecnológica en el uso de la IA y que esta tecnología pertenezca a unos pocos.

La centralización de datos, la opacidad de los algoritmos y la concentración de poder tecnológico en pocas manos corporativas han abierto una especie de “distopía algorítmica”, ahonda Cabrera. Se trata de “un modelo de gobernanza no deliberativa en el que las decisiones sobre seguridad, movilidad, salud o ciudadanía no son tomadas por personas, sino por modelos matemáticos con sesgos históricos”. Lo complejo es que estos responden a una lógica extractivista que solo busca amasar grandes fortunas.

Hoy los gobiernos de América Latina enfrentan “la necesidad imperiosa de establecer regulaciones robustas y culturalmente sensibles”, señala el Primer Reporte Diagnóstico del Consejo Latinoamericano de Ética en Tecnología (CLET). En el caso mexicano, el Tratado entre México, Estados Unidos y Canadá exige un trato no discriminatorio para productos digitales, “lo que podría limitar la capacidad del gobierno para proteger los sistemas de IA locales frente a la competencia estadounidense”, señala el documento. 

Aunque varios países buscan regular legalmente la IA, hasta ahora son solo “proyectos de ley o estrategias políticas en lugar de ‘Leyes de IA’ completamente vigentes y detalladas”, se lee en el reporte de CLET. Estas regulaciones son fundamentales, porque de acuerdo con el informe, en la región un 41% de los jóvenes entre 18 y 34 años de edad “sufre malestar psicosocial incapacitante, agravado por el uso excesivo de pantallas, ciberacoso y la fragmentación de lazos comunitarios”.

Por ello, para Cabrera la IA no es neutral, sino una “tecnología política” que está en vías de “consolidar un nuevo régimen de poder silencioso, tecnocrático y global, que trascienda incluso las capacidades de vigilancia de los Estados autoritarios del siglo XX”.

Todo lo anterior significa, en el ámbito educativo, grandes transformaciones en los modos tradicionales de enseñanza-aprendizaje. Las máquinas “están convirtiéndose rápidamente en actores y agentes interactivos que responden, dialogan e interactúan con nosotros como tutores personalizados, compañeros e incluso profesores, redefiniendo lo que significa aprender y enseñar”, afirma Cabrera,

En ese proceso, los profesores enfrentan la necesidad de encontrar su nuevo rol en los salones de clases. Como dice Martínez, “hay docentes que siguen trayendo la misma presentación de hace 20 años, cuando ahora los conceptos son totalmente diferentes”. Pero eso no significa que desaparezcan los profesores. Más bien, dice el académico,  su papel se está redefiniendo hacia convertirse en un revisor o curador de contenidos. 

Sin embargo, Martínez señala que algunas universidades han reemplazado docentes por herramientas de IA. Y él lo vivió en carne propia. “Me despidieron de una universidad y me sustituyeron por un robot. De un día para otro nos dijeron a todos: ‘bueno, ya no hay trabajo, ya no hay contrato’. Y los robots comenzaron a elaborar las planificaciones, el diseño instruccional y las plataformas”. Piensa que algunas universidades lo están haciendo por interés económico “y es algo que no podemos evitar”, aunque asegura que eso significa descuidar la formación ética y de valores, tanto de docentes como de estudiantes, no solo para que usen responsablemente la IA, sino para su vida en general.

Sin embargo, nada se puede hacer sin el concurso de quienes al controlar los datos y los algoritmos, de hecho definen los límites educativos. Porque, como señala Cabrera, esas empresas “vigilan las formas de ver, clasificar, predecir e intervenir el mundo”. En el caso de Latinoamérica, tiene el “riesgo de ser reducida a una región extractiva de datos –como lo fue de recursos naturales– y a un laboratorio de experimentación algorítmica”, apunta. Sin soberanía digital ni independencia tecnológica, estos países enfrentan “una colonización silenciosa”.

Dicha colonización se da en medio de lo que Susana Copertari, investigadora en la Universidad de Rosario, Argentina, y autora de varios libros sobre IA y educación, llama “la cuarta herida narcisista a la subjetividad humana”. En la primera, Copérnico demostró que la Tierra no es el centro del universo. En la segunda, Darwin nos definió como animales evolucionados. En la tercera, Freud nos advirtió que “no somos conciencia pura y que tenemos libido y deseo”. La cuarta llegó con la IA, porque “nos vino a hackear el sistema operativo fundamental, que es el lenguaje. Los bots de IA hablan como nosotros en un lenguaje natural. Vos no te das cuenta. Nos imitan la voz”, sostiene. Un panorama que, aplicado a la educación, resulta inquietante. 

En últimas, en ese campo enfrentamos un dilema complejo entre el analfabetismo digital y una educación virtualizada, pero carente de  políticas públicas que contribuyan a integrarla de forma equitativa y ética. Y el tiempo corre en contra de los propios docentes, porque, como dice Copertari, mientras los estudiantes ya viajan en ascensores supersónicos, la mayoría de sus profesores siguen corriendo por la escalera.