Consejo Europeo publica informe “Inteligencia Artificial y Educación”
El Consejo de Europa publicó recientemente el informe Inteligencia Artificial y Educación: Una mirada crítica a través de la lente de los derechos humanos, la democracia y el Estado de Derecho, que analiza las oportunidades y riesgos del creciente impacto de la IA en la educación basándose en la evidencia, desde el punto de vista de los valores fundamentales que garanticen futuros desarrollos éticos.
El informe se divide en cuatro partes: conexiones entre la Inteligencia Artificial (IA) y la educación; retos para la IA y la educación; IA, educación, derechos humanos, democracia y el Estado de derecho; conclusiones y análisis.
En la primera parte, se define la IA como: «sistemas basados en máquinas que pueden hacer predicciones, recomendaciones o tomar decisiones que influyan en entornos reales o virtuales, dado un conjunto de objetivos definidos por el ser humano.
Los sistemas de IA interactúan con nosotros y actúan sobre nuestro entorno, ya sea directa o indirectamente. A menudo, parecen funcionar de forma autónoma y pueden adaptar su comportamiento aprendiendo sobre el contexto. (UNICEF 2021: 16)». A continuación, se enumeran las conexiones entre la IA y la educación en 4 ámbitos:
- El aprendizaje con IA que implique el uso de herramientas basadas en IA en procesos de enseñanza y aprendizaje
- La utilización de la IA para aprender sobre el aprendizaje en sí
- El aprendizaje sobre IA que desarrolle los conocimientos de alumnado de todas las edades (alfabetización en IA) en sus dimensiones técnicas y humanas
- La preparación para la IA que garantice que toda la ciudadanía esté preparada para su impacto de nuestras vidas.
En la segunda parte, se identifican como retos el uso de la IA en: la pedagogía, el alumnado en riesgo de exclusión, el desarrollo cognitivo, enfoques centrados en el alumnado, el alumnado con discapacidad, la privacidad, las aplicaciones de alto riesgo, las emociones y la protección digital.
Seguidamente, se describe la necesidad de establecer principios éticos para la IA en educación que regulen el mercado de datos y posibles conflictos de intereses. Respecto a la IA y el sistema educativo, se mencionan factores económicos y políticos que impulsan la IA, la eficacia de la evaluación con IA y el denominado colonialismo de la IA por acciones de empresas para dominar el sector.
La tercera parte analiza la IA, la educación y los derechos humanos, con especial énfasis en los derechos del niño, entre ellos:
- El derecho a la educación
- El derecho a la dignidad humana
- El derecho a la autonomía
- El derecho a ser escuchado
- El derecho a la privacidad y a la protección de datos
- El derecho a la transparencia y explicabilidad
- El derecho a denegar o retirar el consentimiento
- El derecho a ser protegido de la explotación económica
- Los derechos de los padres
Así mismo, se describen los riesgos que puede conllevar el uso de la IA para la democracia y enfoques para abordar la temática en educación como:
- La promoción de valores democráticos
- La educación para la democracia presupone el acceso a una educación de calidad basada en el principio de equidad
- El refuerzo de la solidaridad, la colaboración y sensibilidad por las necesidades de otros
- Los modelos de aprendizaje automáticas no discriminatorios
- Consulta pública respecto a la regulación del diseño, desarrollo y despliegue de la IA
Respecto a la IA y el Estado de derecho, se señalan actualmente los limitados instrumentos legales que la regulan, aunque sí existan marcos legales internacionales que establecen los derechos fundamentales. También se menciona la regulación de algoritmos como aspecto prioritario a regular en el ámbito educativo para la predicción de notas o datos biométricos.
La publicación concluye con la necesidad de abordar la dimensión humana de la IA, además de la tecnológica. Finalmente, se realiza un análisis de necesidades que señalan hacia un mayor debate entre los Estados miembros del Consejo de Europa y otros agentes implicados.
Todo esto, con el objetivo de asegurar que los sistemas educativos responden de forma proactiva y efectiva a los retos y oportunidades que conlleva la IA y la educación, apoyando las acciones del Consejo de Europa, aumentando la investigación, prácticas pedagógicas de calidad, normativa, salvaguarda de los derechos de las familias, mejoras curriculares, desarrollo profesional docente, enfoques multidisciplinares y priorizar los derechos humanos, la democracia y el Estado de derecho en la enseñanza de la IA.
About Author
