NICEF/Srikanth Kolari Niñas aprendiendo a usar herramientas digitales en una escuela en India.
El organismo de la ONU que vela por la educación pública
una serie de directrices para hacer frente a las perturbaciones de esa
herramienta tecnológica en el campo educativo y urge a los gobiernos a regular
su utilización. La titular de la agencia reconoce las ventajas de la
inteligencia artificial generativa pero advierte que no puede integrarse en la
educación sin salvaguardas y normativas.
En muy poco tiempo, la inteligencia artificial generativa se
ha popularizado enormemente y ha alcanzado a una muy
amplia gama de actividades humanas aportando grandes ventajas y abriendo
posibilidades, aunque también acarreando una serie de riesgos, según ha
alertado la Organización de las Naciones Unidas para la Educación, la Ciencia y
la Cultura (UNESCO).
La
educación es uno de los campos que se ha volcado a usar esa tecnología, por
eso, en un momento en el que los niños empiezan el año escolar tras las
vacaciones del verano boreal, la UNESCO presentó este jueves la primera Guía
sobre la Inteligencia Artificial Generativa en la Educación y la Investigación.
La
inteligencia artificial generativa se dio a conocer al público en noviembre de
2022 con el lanzamiento del ChatGPT, que se convirtió en
la aplicación de más rápido crecimiento de la historia. Esa herramienta puede
generar resultados como texto, imágenes, vídeos, música y códigos de software,
lo que tiene implicaciones de gran alcance para la
educación y la investigación.
Sin
embargo, el sector educativo no está preparado para la integración
ética y pedagógica de estas herramientas en rápida
evolución. De acuerdo con una encuesta hecha por la UNESCO en más de 450
escuelas y universidades, menos del 10% cuentan con políticas institucionales o
directrices formales relativas al uso de aplicaciones de inteligencia
artificial generativa, en gran parte debido a la ausencia de normativas
nacionales.
Unsplash/Steve Johnson
Falta preocupante de escrutinio y controles
En junio de 2023, la UNESCO advirtió de que el uso de la inteligencia
artificial generativa en las escuelas se estaba extendiendo a un ritmo
demasiado acelerado, con una preocupante falta de escrutinio público, controles
o regulaciones. Como evidencia, la agencia presentó un documento mostrando que
la publicación de un nuevo libro de teto requiere más autorizaciones
que el uso de herramientas de inteligencia artificial generativa en
las aulas.
El objetivo de la Guía es hacer frente a las perturbaciones causadas por
la inteligencia artificial generativa y garantizar que su uso tenga un
enfoque centrado en el ser humano.
Para ello, la UNESCO urgió a los gobiernos a reglamentar el uso de esas
tecnologías en la esfera de la educación y a capacitar al profesorado para que
refuerce en los estudiantes la importancia de la inteligencia humana
para tomar decisiones frente a las opciones que brinda la inteligencia
artificial generativa.
Puede causar daños y perjuicios
La directora general de la agencia afirmó que esa tecnología representa
una gran oportunidad para el desarrollo humano, pero advirtió que también puede
causar “daños y perjuicios”.
“No puede integrarse en la educación sin el compromiso público y sin
las salvaguardas y regulaciones necesarias por parte de los
gobiernos”, dijo Audrey Azoulay, y agregó que las Orientaciones elaboradas por
la UNESCO ayudarán a los responsables políticos y docentes a aprovechar mejor
el potencial de la inteligencia artificial en beneficio de los estudiantes.
La Guía explica que las herramientas de la inteligencia artificial
generativa disponibles al público están surgiendo rápidamente, superando la
adaptación de los marcos regulatorios nacionales, y señala que la ausencia de
regulaciones nacionales en la mayoría de los países deja la privacidad de los
datos de los usuarios desprotegida y las instituciones educativas en
gran medida no están preparadas para validar las herramientas.
También hace una evaluación de los riesgos potenciales de la
inteligencia artificial generativa para los valores humanistas fundamentales que
promueven la inclusión, la equidad, la igualdad de género, la diversidad
lingüística y cultural, así como las opiniones y expresiones plurales.
Banco Mundial/Charlotte Kesi
Edad mínima de trece años
Frente a estos riesgos, la UNESCO propone medidas para que las agencias
gubernamentales regulen el uso de estas tecnologías, incluyendo que se exija la
protección de la privacidad de los datos y que se considere un límite
de edad para su uso.
Según el organismo, un niño debe tener al menos trece años para empezar
a utilizar herramientas de inteligencia artificial en las aulas y subraya la
necesidad de formar a los profesores en esta materia.
También plantea requisitos para los proveedores de inteligencia
artificial generativa, de manera que sus herramientas puedan tener un uso
ético y eficaz en la educación.
La Guía enfatiza la necesidad de que las instituciones educativas validen
los sistemas inteligencia artificial generativa en cuanto a su idoneidad ética
y pedagógica para la educación, y llama a la comunidad internacional a
reflexionar sobre sus implicaciones a largo plazo para el conocimiento, la
enseñanza, el aprendizaje y la evaluación.
Asimismo, advierte sobre los sesgos de estas tecnologías y
refiere, por ejemplo, que los modelos actuales de ChatGPT se
diseñan con datos de usuarios en línea que reflejan los valores y las normas
sociales dominantes del Norte global.
El lanzamiento de la Guía tuvo lugar en la sede de la UNESCO en París,
en el marco de los eventos de la Semana del Aprendizaje Digital, que reúne a
más de mil participantes para debatir temas como las plataformas públicas de
aprendizaje digital y la inteligencia artificial generativa en la educación,
entre otros.
