UN NIÑO debe tener al menos 13 años para empezar a utilizar en las aulas la inteligencia artificial (IA) generativa, los profesores deben ser capacitados y los gobiernos producir regulaciones. Así lo indicó una nueva directriz de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).
También plantea requisitos para los proveedores de inteligencia artificial generativa, de manera que sus herramientas puedan tener un uso ético y eficaz en la educación.
Audrey Azoulay, directora general de la Unesco, advirtió que la IA generativa puede ser una gran oportunidad para el desarrollo humano, pero también puede causar daños y perjuicios. “No puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos”, sostuvo.
Frente a estos riesgos, la UNESCO propone medidas para que las agencias gubernamentales regulen el uso de estas tecnologías, incluyendo que se exija la protección de la privacidad de los datos y que se considere un límite de edad para su uso.
Según el organismo, un niño debe tener como mínimo 13 años para empezar a utilizar herramientas de inteligencia artificial en las aulas y subraya la necesidad de formar a los profesores en esta materia.
Al respecto, EL NUEVO SIGLO habló con Rafael Méndez, decano de la Escuela de Ingeniería, Ciencia y Tecnología de la Universidad del Rosario, quien explicó que a la fecha no existe una regulación actualizada que tenga que ver con el uso de inteligencias artificiales en el aula.
“Si bien se han dado algunas recomendaciones desde la voz de ciertos expertos, ciertamente no hay una política pública que regule el uso de estas tecnologías emergentes para usos educativos. Ahora bien, dentro de las instituciones de educación, algunas de ellas sí que han explicitado cierto tipo de protocolos, de procedimientos e incluso hay ciertas alas de las instituciones y del profesorado que consideran que no es necesaria la regulación y que debería tener libertad completa para su uso”, señaló.
Sostuvo, además, como posición personal que la inteligencia artificial es un aliado de la educación y puede generar muchos aspectos positivos que impactan la enseñanza y el aprendizaje.
“En ese orden de ideas y considerándola como un elemento de aprendizaje y de enseñanza, y a la luz del poder que este tipo de tecnologías tienen, sí que es importante dar unas reglas de juego. Se requiere alfabetización por parte de las personas que la utilizan, tanto de estudiantes como de profesores y directivos. También una suerte de regulación y reglas que garanticen el orden y sobre todo el uso ético de este tipo de tecnologías. Hablar de ética en tecnología, ingeniería y ciencia es necesario y urgente”, enfatizó.
En lo que respecta a la regulación señaló que debe garantizar el buen uso y el uso ético. “De ninguna manera debe ser un obstáculo o una política que restrinja estrictamente el uso de la misma, todo lo contrario, la promueve, la fomenta y encuentra los mejores usos para que impacten positivamente la enseñanza”.
Medidas exageradas
El decano de la Escuela de Ingeniería, Ciencia y Tecnología de la Universidad del Rosario aseveró que las recomendaciones y conclusiones de la Unesco podrían considerarse exageradas.
“No obstante, sí generan una alerta que tiene que ver con el buen uso de la misma. Ahora bien, desde mi perspectiva en vez de prohibirla para niños se debería más bien adaptarla. Esto es exactamente igual a lo que pasaba cuando se creó la calculadora, la gente salió a manifestarse en las calles, porque se iban a acabar las matemáticas. Todo lo contrario, lo que se hizo fue generar unas herramientas que permitían que ciertas tareas automáticas, como era hacer cálculos algebraicos sencillos, pues se pudieran hacer. Es decir, el miedo que existe con la inteligencia artificial es que reemplace cosas. Si se reemplazan cosas es porque seguramente eran muy automáticas y se pueden automatizar como sucedió con el tractor en el campo”, señaló.
La IA generativa es un tipo de sistema de inteligencia artificial capaz de generar texto, imágenes u otros medios en respuesta a comandos, con aplicaciones potenciales en enseñanza, industrias, arte, escritura, el desarrollo de software, diseño de productos, atención médica, finanzas, juegos, el mercadeo y la moda.
Esta herramienta puede generar resultados como texto, imágenes, vídeos, música y códigos de software, lo que tiene implicaciones de gran alcance para la educación y la investigación. Sin embargo, el sector educativo no está preparado para la integración ética y pedagógica de estas herramientas en rápida evolución, según la Unesco.
Una encuesta hecha por esa agencia de las Naciones Unidas en más de 450 escuelas y universidades, mostró que menos de 10% cuentan con políticas institucionales o directrices formales relativas al uso de aplicaciones de IA generativa, en gran parte debido a la ausencia de normativas nacionales.
La Guía enfatiza la necesidad de que las instituciones educativas validen los sistemas inteligencia artificial generativa en cuanto a su idoneidad ética y pedagógica para la educación, y llama a la comunidad internacional a reflexionar sobre sus implicaciones a largo plazo para el conocimiento, la enseñanza, el aprendizaje y la evaluación.
Asimismo, advierte sobre los sesgos de estas tecnologías y refiere, por ejemplo, que los modelos actuales de ChatGPT se diseñan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global.
El lanzamiento de la Guía tuvo lugar en la sede de la UNESCO en París, en el marco de los eventos de la Semana del Aprendizaje Digital, que reúne a más de mil participantes para debatir temas como las plataformas públicas de aprendizaje digital y la inteligencia artificial generativa en la educación, entre otros.
Falta preocupante de escrutinio y controles
En junio de 2023, la UNESCO advirtió de que el uso de la inteligencia artificial generativa en las escuelas se estaba extendiendo a un ritmo demasiado acelerado, con una preocupante falta de escrutinio público, controles o regulaciones. Como evidencia, la agencia presentó un documento mostrando que la publicación de un nuevo libro de texto requiere más autorizaciones que el uso de herramientas de inteligencia artificial generativa en las aulas.
El objetivo de la Guía es hacer frente a las perturbaciones causadas por la inteligencia artificial generativa y garantizar que su uso tenga un enfoque centrado en el ser humano.
Para ello, la UNESCO urgió a los gobiernos a reglamentar el uso de esas tecnologías en la esfera de la educación y a capacitar al profesorado para que refuerce en los estudiantes la importancia de la inteligencia humana para tomar decisiones frente a las opciones que brinda la inteligencia artificial generativa.