Guías de educación profesorado

¿Cómo entrenan las personas desarrolladoras y propietarias los sistemas de IA generativa?

¿Tienes garantías para protegerte de información inexacta o interacciones que puedan ser perjudiciales?

¿Has tenido en cuenta las capacidades, competencias y alfabetización en materia de IA de todo el alumnado?

¿El uso del sistema de IA es transparente y fomenta la confianza y la comprensión?

¿Conoces las posibles limitaciones del sistema de IA y se las ha comunicado a los alumnos?

¿Utilizas mecanismos para proteger los datos de los alumnos menores de edad?

¿Conoces los sesgos algorítmicos del sistema de IA y eres consciente de sus efectos durante el proceso educativo?

¿Estás en contacto con centros educativos que utilizan un sistema de IA similar para conocer los antecedentes y compartir experiencias?

¿El uso del sistema de IA requiere el consentimiento informático de las personas de la comunidad educativa?

¿Conoces las protecciones contra la posible difusión de contenido inexacto o discriminatorio de los sistemas de IA generativa?

¿Garantizas que el sistema de IA no reproduce sesgos injustos ni discriminaciones?

¿Durante el uso del sistema de IA se garantiza que es adecuado para una diversidad de perfiles, incluyendo la inclusión y la equidad entre el alumnado?

¿El sistema de IA cuenta con medidas que lo hacen accesible y facilitan su uso para todos los alumnos?

¿Conoces la información detallada de los datos y su procedencia que alimentan el sistema de IA?

¿El sistema de IA cuenta con mecanismos de seguridad en caso de anomalías que amenacen la seguridad y los derechos fundamentales?

¿Tu centro educativo conoce o forma parte de asociaciones o entidades que promueven la DEI para avanzar en políticas de IA responsable?

¿Conoces el alumnado el nivel de precisión y seguridad del sistema de IA?

¿Has establecido mecanismos de supervisión y control (internos o externos) para que el sistema de IA funcione tal y como pretende?

¿El uso del sistema de IA mejora la experiencia educativa del alumnado, fomentando el pensamiento crítico y la creatividad?

¿Has evaluado los posibles impactos sobre la salud, la seguridad y los derechos de las personas del sistema de IA?

¿El sistema de IA no afecta negativamente la salud mental de los alumnos, el profesorado ni la comunidad educativa en general?

¿Si el sistema de IA se utilizara para otros fines distintos a los previstos, causaría daños?

¿La comunidad educativa controla su exposición y puede revocar su consentimiento sin comprometer el rendimiento del sistema de IA?

¿El sistema de IA puede tener riesgos y vulnerabilidades que no garanticen su seguridad, integridad y resiliencia frente a diferentes formas de ataque?

¿Has designado a la persona responsable, en general, del sistema de IA entre el claustro de profesores?

¿Has designado a la persona legalmente responsable del sistema de IA entre el claustro de profesores?

¿La persona responsable está capacitada y formada para ejercer estas funciones?

¿Están definidos los límites del nivel de control y participación humana en el sistema de IA?

¿Conoces tu responsabilidad al integrar el sistema de IA con el objetivo de mejorar la educación y los resultados de los alumnos?

¿Cómo evalúa la influencia del sistema de IA en la toma de decisiones de los alumnos?

¿Ha contratado pólizas de seguro para que, en caso de que ocurra un mal o un impacto adverso, pueda repararlo o compensarlo?

¿Estás exagerando lo que puede hacer tu sistema de IA?

¿Fomenta el uso del sistema de IA como herramienta de apoyo y no le atribuye funciones primordiales del profesorado?

¿Ha elaborado un código ético para el uso responsable de la IA?

¿Has designado al responsable de datos de entre el claustro de profesores?

¿La persona responsable está capacitada y formada para ejercer estas funciones?

¿Controlas la trazabilidad y el acceso a los datos del alumnado?

¿Los datos personales del alumnado cuentan con mecanismos de protección de acuerdo con la legalidad?

¿Has establecido mecanismos para solicitar la eliminación de los datos personales?

¿La información sobre el consentimiento y la revocación es comprensible y accesible para todos los alumnos?

¿Utilizas técnicas de anonimización y cifrado para garantizar la privacidad y la protección de los datos personales en el sistema de IA?

¿La consulta de los datos consta de un registro de acceso?

¿Cuentas con estrategias para garantizar la privacidad y la protección de los datos con el fin de apoyar a los colectivos más desfavorecidos?

¿El sistema de IA respeta y promueve la independencia en la toma de decisiones de toda la comunidad educativa que lo utiliza?

¿El sistema de IA no disminuye el número de elecciones ni obliga o fuerza a tomar decisiones?

¿Tienes medidas para garantizar que los alumnos sean conscientes de que interactúan con una IA?

¿Todo el alumnado que interactúa con el sistema de IA tiene la capacidad y la información suficientes sobre su funcionamiento para poder relacionarse con él?

¿Supone el sistema de IA una amenaza para el desarrollo académico y personal del alumnado?

¿Hay supervisión humana en el funcionamiento del sistema de IA?

¿El sistema de IA generativa se adapta y aprende de su entorno sin comprometer la seguridad y los estándares éticos?

¿Sabes cómo se materializa la sostenibilidad en los sistemas de IA?

¿Has tenido en cuenta el acceso social, incluyendo la brecha digital, en el uso y la implantación del sistema de IA?

¿El sistema de IA protege los derechos de autor y la propiedad intelectual en el conjunto de datos utilizados?

¿Existen medidas para aumentar la eficiencia energética del sistema de IA?

¿Cuál es la vida útil media del sistema de IA?

¿Has explorado el uso de fuentes de energía renovables y prácticas de informática ecológica en el uso del sistema de IA?

¿Sabías que el impacto energético y hídrico de las herramientas de IA generativa es cada vez mayor?

Tienes que conocer y saber en qué consiste el entrenamiento del sistema de IA generativa.

Priorizar la protección de la transparencia del sistema y no aceptar información inexacta o interacciones perjudiciales para el alumnado.

La alfabetización y las capacidades informáticas y tecnológicas no pueden ser motivo de desigualdad. Es necesario partir de una formación en IA antes de introducir el uso del sistema.

La transparencia sobre el funcionamiento y uso del sistema permite la comprensión de la comunidad educativa y se traduce en confianza en los sistemas de IA.

El sistema de IA debe avisar con una notificación de cualquier limitación que tenga o pueda experimentar para que pueda interpretar los resultados de acuerdo con la realidad.

Cuando el sistema interactúa con menores, es necesario verificar su edad y, en consecuencia, reforzar los mecanismos de protección previstos.

Los algoritmos que conforman el sistema de IA incluyen sesgos procedentes de diversas fuentes (las grandes bases de datos de las que se alimentan, la interferencia humana en la programación y la dificultad de rastrear los elementos programáticos del propio algoritmo), lo que repercute en el proceso educativo.

Establecer espacios de relación y encuentro con otros centros educativos que utilicen el mismo sistema de IA o similares para poder intercambiar experiencias y evoluciones, además de prever acciones futuras.

El consentimiento informático del alumnado consiste en explicarles qué es el sistema de IA, cómo funciona y el resultado que produce; y, basándose en esta información, decidir libremente si desean someterse a él.

El contenido generado por un sistema de IA generativa siempre debe comprobarse y verificarse, ya que utiliza una gran cantidad de datos difíciles de rastrear y procedentes de fuentes desconocidas o confusas.

Siempre debe existir una protección contra la discriminación que puedan sufrir los alumnos producida por los sistemas de IA con el objetivo de garantizar la inclusión y la equidad.

El sistema de IA debe ser accesible para todos y debe poder entenderse y adaptarse a todas las necesidades solicitadas.

Los datos que utiliza el sistema de IA deben estar documentados con el objetivo de:

• Evitar sesgos.
• Obtener resultados adecuados al contexto.
• Respetar los derechos de autor.

El sistema de IA debe proporcionar un mecanismo de seguridad claro con respecto al riesgo que puede suponer para los derechos fundamentales.

Conocer bien el sistema de IA que se quiere utilizar. Esto significa:

• Conocer la precisión.
• Conocer la seguridad que requiere.
• Conocer los datos o riesgos más allá de los previstos.
• El impacto en la seguridad y la integridad.
• La resiliencia que experimentará frente a los ataques.

El sistema de IA debe definir claramente cuál es el mecanismo de supervisión y control de su funcionamiento y resultados.

El objetivo de introducir sistemas de IA en el ámbito educativo es mejorar el proceso de aprendizaje. Si no es así o no está claro, no se debe introducir.

El uso del sistema de IA no puede afectar negativamente:

• La salud, ya sea física o, especialmente, mental.
• Los derechos de los alumnos.
• La seguridad del sistema.

Los alumnos deben poder controlar su exposición al sistema de IA y revocar su consentimiento siempre que lo deseen sin que ello pueda comprometer el funcionamiento del sistema.

Establecer la figura de la persona responsable del sistema de IA y la responsable legal, que pueden ser la misma persona o no, y determinar:

• El nombramiento.
• La duración del cargo.
• Delimitar sus funciones.

Ha de ser muy claro:

• Los límites del sistema de IA.
• La participación humana en el mismo (cómo, cuándo y de qué manera).

Incluir en la formación anual del profesorado una específica en materia de inteligencia artificial para garantizar su capacitación y uso responsable.

Su responsabilidad en la introducción y el uso de los sistemas de IA se traduce en no comprometer su participación o la calidad de la enseñanza.

Hay que saber cuál es el impacto de introducir sistemas de IA en el aprendizaje y la evolución del alumnado. Se puede llevar a cabo analizando los resultados antes y después de su integración en la educación.

Contrate pólizas de seguro para hacer frente a la responsabilidad civil que pueda derivarse del uso del sistema de IA.

No exageréis la hipérbole de los sistemas de IA sumándoos a los discursos que les atribuyen capacidades mágicas con funciones ilimitadas, ya que en ningún caso podrán sustituir vuestras funciones esenciales ni aptitudes.

Antes de utilizar el sistema de IA, elaboren un código ético en el que participen representantes de toda la comunidad educativa.

Establecerá quién será la persona responsable de los datos introducidos en el sistema y su responsabilidad legal. En este sentido:

• La forma de designarla.
• La duración del cargo.
• Las funciones.

Los datos se tratan mediante la técnica de cifrado o la anonimización, entre otras opciones.

Según la normativa, la protección de los datos debe consistir en:

• Establecer el control, la trazabilidad y el acceso.
• Garantizar la comprensión de este proceso.
• Establecer el derecho de modificación y supresión.
• Disponer de un registro de acceso sobre quién ha accedido, cuándo y con qué propósito.

Los datos de las personas menores de edad, de acuerdo con la normativa vigente, deben contar con una protección reforzada.

El uso del sistema de IA no puede:

• Minimizar la independencia del alumnado en la toma de decisiones.
• Suponer una disminución de las opciones posibles.
• Obligar o forzar a tomar decisiones determinadas.

En todo momento, el alumnado debe ser consciente de que interactúa con un sistema de IA y debe informarse mediante mecanismos que garanticen su conciencia y comprensión.

Si tienes dudas, desconfianza o, incluso, consideras una amenaza el impacto del sistema de IA en el desarrollo académico del alumnado, debes trasladarlo a toda la comunidad educativa.

El sistema de IA requiere supervisión humana para garantizar:

• La autonomía del alumnado.
• La adaptabilidad al sistema.
• Un funcionamiento seguro y controlado para toda la comunidad educativa.

La introducción de la IA generativa no puede comprometer ni poner en riesgo la seguridad ni los estándares éticos.

Para introducir un sistema de IA en el ámbito educativo, hay que analizar y garantizar el acceso social de todo el alumnado a la tecnología.

El sistema de IA debe respetar los derechos de autor de los datos que utiliza para alimentarse.

El sistema de IA debe prever medidas que aumenten la eficiencia energética.

Debes saber:

• La duración de la vida útil del sistema de IA.
• El coste económico.
• El impacto medioambiental de su mantenimiento.

En la alimentación del sistema de IA hay que explorar las energías renovables y la informática verde.

Tomar conciencia del impacto medioambiental de los sistemas de IA generativa.