Guías de educación alumnado
Los alumnos deben poder responder a las siguientes preguntas de forma binaria, sin la opción «no aplica». Además, para que la evaluación del sistema de IA sea ética y legal, las preguntas deben responderse de forma afirmativa.
Guía rapida de preguntas
El principio de transparencia sirve de base para la confianza y la responsabilidad dentro de la comunidad escolar. Engloba la comunicación clara y la comprensión de cómo funcionan las herramientas de IA, cómo se utilizan en entornos educativos y las implicaciones de su uso para todas las partes interesadas, incluidos el profesorado, el alumnado, las familias o los tutores.
Preguntas
Nº
¿Se puede evaluar la precisión del contenido generado por un sistema de IA?
1.1
¿Puedes identificar si el contenido que obtienes con un sistema ha sido creado por una IA?
1.2
¿Podéis explicar las capacidades y limitaciones de un sistema de IA de forma crítica?
1.3
¿Sabías que los sistemas de IA incluyen sesgos algorítmicos?
1.4
¿Sabías que los sesgos algorítmicos tienen efectos en tu proceso de aprendizaje?
1.5
¿El sistema de IA te avisa en caso de que se produzca un incidente grave o un error en su funcionamiento?
1.6
¿El sistema de IA solicita tu consentimiento antes de utilizarlo?
1.7
¿El contenido generado por IA generativa es preciso y concreto?
1.8
El principio de justicia y equidad hace hincapié en la inclusión y los resultados equitativos para todos los miembros de la comunidad educativa y exige que las tecnologías de IA se diseñen, implementen y utilicen de manera que tengan en cuenta y respeten la diversidad de orígenes, identidades y necesidades dentro del entorno escolar.
Preguntas
Nº
¿El sistema de IA utiliza variables discriminatorias?
2.1
¿El sistema de IA se adapta a tus preferencias y habilidades individuales?
2.2
¿El sistema de IA se adapta a tus necesidades durante su uso?
2.3
¿Consideras que el sistema no te discrimina con respecto al resto del alumnado?
2.4
¿Los resultados del sistema de IA no tienen un impacto que refuerza la discriminación, los estereotipos o los prejuicios?
2.5
¿Cuáles son las medidas para detectar y corregir los posibles sesgos en los resultados generados por el sistema de IA?
2.6
El principio de seguridad y no maleficencia relacionado con la IA en la educación exige que el despliegue y el uso de los sistemas de IA no afecten negativamente al bienestar del alumnado, el profesorado y la comunidad educativa en general. Principalmente, esto implica una consideración cuidadosa de cómo estos pueden afectar a la salud mental y tomar medidas proactivas para mitigar los posibles efectos negativos.
Preguntas
Nº
¿El uso del sistema de IA mejora tu aprendizaje reforzando tu pensamiento crítico y tu creatividad?
3.1
¿Utiliza el sistema de IA como herramienta para tu aprendizaje?
3.2
¿El sistema de IA no afecta negativamente tu salud mental?
3.3
¿Conoces los posibles riesgos o daños que te causaría el sistema de IA si lo utilizas para fines distintos a los indicados por el profesorado?
3.4
¿Puedes revocar tu consentimiento al sistema de IA en cualquier momento sin que empiece a funcionar mal?
3.5
El principio de responsabilidad en el uso de la IA en la educación implica garantizar que todas las partes interesadas en su implementación tengan conocimiento sobre su uso ético y hayan adquirido una condición reflexiva sobre el impacto de las herramientas de IA en la enseñanza, el aprendizaje y el bienestar de la comunidad escolar, así como de la gestión activa de los posibles riesgos asociados a estas tecnologías.
Preguntas
Nº
¿Eres consciente de tus responsabilidades cuando utilizas sistemas de IA en relación con tu aprendizaje y tus resultados?
4.1
¿Cuáles son las medidas de vigilancia y verificación de los resultados de los sistemas de IA?
4.2
¿Sabe de qué manera influye el sistema de IA en la toma de tus decisiones?
4.3
¿Estás exagerando las capacidades del sistema de IA?
4.4
¿Atribuyes al sistema de IA funciones primordiales del profesorado?
4.5
¿Conoces y aplicas el código ético para el uso responsable de la IA elaborado por tu centro educativo?
4.6
El principio de privacidad en relación con la IA en la educación implica garantizar que se respete y proteja la información personal y el derecho a la confidencialidad de los datos de todas las personas del ecosistema educativo. Esto supone implementar medidas sólidas de protección de datos, políticas transparentes de uso de datos y dar a las personas control sobre su propia información.
Preguntas
Nº
¿Conoces el riesgo que conlleva ceder tus datos a sistemas de IA?
5.1
¿Dispones de otras fuentes fiables que puedan validar los datos o la respuesta dada?
5.2
¿Los datos son inclusivos en cuanto a la cantidad de material y tus perspectivas de aprendizaje?
5.3
¿Son representativos los datos de la comunidad educativa?
5.4
¿Puedes solicitar que tu información personal sea modificada o eliminada del sistema de IA?
5.5
¿Sabes si tus datos personales se anonimizan o cifran una vez introducidos en el sistema de IA?
5.6
El principio de autonomía aplicado a la IA en la educación hace referencia al hecho de que las herramientas de IA respetan y promueven la independencia en la toma de decisiones de todas las personas del ecosistema educativo. Esto significa que las tecnologías de IA deben apoyar la capacidad del profesorado y el alumnado para tomar decisiones informadas sobre sus procesos de enseñanza y aprendizaje.
Preguntas
Nº
¿Te influye la información generada por el sistema de IA con respecto a tus conocimientos?
6.1
¿Cómo proteges tu privacidad durante el uso del sistema de IA?
6.2
¿Sabes cómo interactúas con un sistema de IA?
6.3
¿Se puede adaptar el nivel de autonomía del sistema según tus preferencias y necesidades?
6.4
¿El sistema de IA te anima a desarrollar simpatía, empatía o inclinación que sobreestima sus capacidades?
6.5
El principio de sostenibilidad en el uso de la IA en la educación implica garantizar que su implementación se realice de manera ambientalmente responsable, económicamente viable y socialmente equitativa. Desde una perspectiva medioambiental, la sostenibilidad de la IA en la educación requiere prestar atención al consumo de energía y a las emisiones de carbono asociadas a la formación y al funcionamiento de los modelos de IA. Los educadores y las instituciones deben defender y elegir soluciones de IA diseñadas teniendo en cuenta la eficiencia energética y que prioricen el uso de fuentes de energía renovables.
Preguntas
Nº
¿En qué consiste el concepto de sostenibilidad en relación con los sistemas de IA?
7.1
¿Sabe si el sistema de IA toma medidas para aumentar su eficiencia energética?
7.2
¿Conoces la vida útil media del sistema de IA?
7.3
¿El sistema de IA utiliza fuentes de energía renovables y prácticas de informática ecológica?
7.4
¿Participas con otros centros educativos en iniciativas enfocadas a promover prácticas de IA sostenibles?
7.5
Recomandaciones
Recomendaciones
Nº
Debes probar y evaluar la precisión del contenido generado por un sistema de IA.
1
El sistema de IA siempre debe indicar que el resultado ha sido elaborado mediante inteligencia artificial.
2
Tienes que escuchar y explicar cuáles son las capacidades y limitaciones del sistema de IA.
3
El sistema de IA se alimenta de datos que incluyen sesgos de diferentes orígenes que también se incluirán en el resultado.
4
Si el sistema de IA sufre un incidente grave o algún error, recibirás una notificación informándote al respecto.
5
El sistema de IA debe solicitar tu consentimiento antes de utilizarlo para garantizar que se entiende su funcionamiento.
6
Recomendaciones
Nº
El sistema de IA puede incluir discriminaciones en las variables que fundamentan su funcionamiento.
1
El resultado que genera el sistema de IA no puede discriminar a ningún alumno con respecto a los demás.
2
El sistema de IA se adapta a las preferencias y habilidades individuales, además de a las necesidades de aprendizaje.
3
El sistema de IA no puede reforzar:
- Discriminaciones.
- Estereotipos.
- Perjuicios.
4
Debe utilizar medidas para la detección de errores y su corrección, si procede, sin que el sistema de IA vea comprometido su funcionamiento.
5
Recomendaciones
Nº
El sistema de IA es una herramienta de aprendizaje.
1
Encontrar el equilibrio entre el pensamiento crítico y la creatividad para que estas habilidades no se vean perjudicadas en el uso del sistema de IA.
2
El uso del sistema de IA no puede perjudicar la salud ni la salud mental.
3
El uso del sistema de IA más allá de lo previsto generará riesgos y puede causar daños.
4
Es fundamental que consientan el uso del sistema de IA. Pueden decidir revocarlo en cualquier momento sin que ello comprometa su rendimiento.
5
Recomendaciones
Nº
Hay que ser consciente y responsable del uso del sistema de IA en el proceso de aprendizaje y del impacto en los resultados y el conocimiento en general.
1
El sistema de IA debe estar siempre bajo supervisión y medidas de corrección humanas para poder controlar sus resultados.
2
No es exagerada la hipérbole de los sistemas de IA, sumándose a los discursos que les atribuyen capacidades mágicas con funciones ilimitadas, ya que en ningún caso podrán sustituir las funciones definitorias y humanas del profesorado.
3
Debe conocer y basarse en el código ético elaborado por representantes de toda la comunidad educativa para el funcionamiento del sistema de IA.
4
Recomendaciones
Nº
Debe conocer su sistema de IA:
- El riesgo de los datos una vez introducidos.
- El riesgo de pérdida de datos.
- El impacto en la privacidad.
- La trazabilidad.
1
Las fuentes de conocimiento para el aprendizaje deben ser muy diversas y no pueden limitarse únicamente a los sistemas de IA.
2
Los datos utilizados en el sistema de IA deben ser representativos de la sociedad e inclusivos de todas las diversidades y opciones posibles.
3
Los datos introducidos en el sistema de IA pueden modificarse o eliminarse en cualquier momento.
4
Los datos introducidos en el sistema de IA deben contar con técnicas de protección, de conformidad con la legalidad, como la anonimización o el cifrado.
5
Recomendaciones
Nº
Durante el uso del sistema de IA, la autonomía debe estar siempre protegida y garantizada.
1
El sistema de IA debe poder adaptarse a:
- El nivel de autonomía.
- Las preferencias del usuario.
- Las necesidades deseadas.
2
El sistema de IA no debe alentar ni despertar el sentimiento de sobreestimar las capacidades humanas en favor de este.
3
Los sistemas de IA generativa también recopilan los datos que se introducen.
4
Recomendación de cláusula
Nº
Debe utilizar el sistema de IA de forma consciente, ya que tiene un coste medioambiental y los recursos del planeta son limitados.
1
El sistema de IA debe prever medidas que aumenten la eficiencia energética.
2
Debe conocer la vida útil del sistema, el coste económico y el impacto medioambiental de su mantenimiento.
3
Hay que explorar y utilizar las energías renovables y la informática verde en la alimentación del sistema de IA.
4
Los sistemas de IA generativa generan un impacto elevado en los recursos medioambientales, lo cual hay que tener en cuenta a la hora de utilizarlos.
5
Con el soporte de
El OEIAC contribuye al despliegue de la Estrategia Cataluña IA 2030 para convertirse en un territorio líder en innovación digital responsable.
