Guides éducatifs élèves
Les étudiants doivent être capables de répondre aux questions suivantes sous forme binaire, sans option « sans objet ». De plus, pour que l’évaluation du système d’IA soit éthique et légale, les questions doivent recevoir une réponse affirmative.
Guide rapide des questions
Le principe de transparence est à la base de la confiance et de la responsabilité au sein de la communauté scolaire. Il englobe une communication claire et une bonne compréhension du fonctionnement des outils d'IA, de leur utilisation dans le milieu éducatif et des implications de leur utilisation pour toutes les parties prenantes, y compris les enseignants, les élèves, les familles ou les tuteurs.
Questions
Nº
Peut-on évaluer la précision du contenu généré par un système d’IA ?
1.1
Pouvez-vous déterminer si le contenu obtenu à l’aide d’un système a été créé par une IA ?
1.2
Pouvez-vous expliquer de manière critique les capacités et les limites d’un système d’IA ?
1.3
Saviez-vous que les systèmes d’IA comportent des biais algorithmiques ?
1.4
Saviez-vous que les biais algorithmiques ont des effets sur votre processus d’apprentissage ?
1.5
Le système d’IA vous avertit-il en cas d’incident grave ou d’erreur de fonctionnement ?
1.6
Le système d’IA vous avertit-il en cas d’incident grave ou d’erreur de fonctionnement ?
1.7
Le contenu généré par l’IA générative est-il précis et concret ?
1.8
Le principe de justice et d'équité met l'accent sur l'inclusion et l'égalité des résultats pour tous les membres de la communauté éducative et exige que les technologies d'IA soient conçues, mises en œuvre et utilisées de manière à prendre en compte et à respecter la diversité des origines, des identités et des besoins au sein de l'environnement scolaire.
Questions
Nº
Le système d’IA utilise-t-il des variables discriminatoires ?
2.1
Le système d’IA s’adapte-t-il à vos préférences et compétences individuelles ?
2.2
Le système d’IA s’adapte-t-il à vos besoins pendant son utilisation ?
2.3
Considérez-vous que le système ne vous discrimine pas par rapport au reste des élèves ?
2.4
Les résultats du système d’IA n’ont-ils pas un impact qui renforce la discrimination, les stéréotypes ou les préjugés ?
2.5
Quelles sont les mesures mises en place pour détecter et corriger les éventuels biais dans les résultats générés par le système d’IA ?
2.6
Le principe de sécurité et de non-malfaisance lié à l'IA dans l'éducation exige que le déploiement et l'utilisation des systèmes d'IA n'aient pas d'incidence négative sur le bien-être des élèves, des enseignants et de la communauté éducative au sens large. Il s'agit avant tout d'examiner attentivement leur incidence potentielle sur la santé mentale et de prendre des mesures proactives pour atténuer tout effet négatif éventuel.
Questions
Nº
L’utilisation du système d’IA améliore-t-elle votre apprentissage en renforçant votre esprit critique et votre créativité ?
3.1
Utilisez-vous le système d’IA comme outil d’apprentissage ?
3.2
Le système d’IA n’a-t-il pas d’effet négatif sur votre santé mentale ?
3.3
Connaissez-vous les risques ou les dommages potentiels que le système d’IA pourrait vous causer si vous l’utilisez à des fins autres que celles indiquées par les enseignants ?
3.4
Pouvez-vous révoquer votre consentement au système d’IA à tout moment sans qu’il commence à mal fonctionner ?
3.5
Le principe de responsabilité dans l'utilisation de l'IA dans l'éducation implique de veiller à ce que tous les acteurs impliqués dans son déploiement soient conscients de son utilisation éthique et aient acquis une compréhension réfléchie de l'impact des outils d'IA sur l'enseignement, apprentissage et le bien-être de la communauté scolaire, ainsi que la gestion active des risques potentiels associés à ces technologies.
Questions
Nº
Êtes-vous conscient de vos responsabilités lorsque vous utilisez des systèmes d’IA dans le cadre de votre apprentissage et de vos résultats ?
4.1
Quelles sont les mesures de surveillance et de vérification des résultats des systèmes d’IA ?
4.2
Savez-vous comment le système d’IA influence votre prise de décision ?
4.3
Exagérez-vous les capacités du système d’IA ?
4.4
Attribuez-vous au système d’IA des fonctions essentielles du corps enseignant ?
4.5
Connaissez-vous et appliquez-vous le code éthique pour une utilisation responsable de l’IA élaboré par votre établissement scolaire ?
4.6
Le principe de confidentialité concernant l'IA dans l'éducation consiste à garantir le respect et la protection des informations personnelles et du droit à la confidentialité des données de tous les acteurs de l'écosystème éducatif. Cela implique la mise en œuvre de mesures solides de protection des données, de politiques transparentes en matière d'utilisation des données et la possibilité pour les individus de contrôler leurs propres informations.
Questions
Nº
Connaissez-vous les risques liés à la transmission de vos données à des systèmes d’IA ?
5.1
Disposez-vous d’autres sources fiables permettant de valider les données ou la réponse fournie ?
5.2
Les données sont-elles inclusives en termes de quantité de matériel et de vos perspectives d’apprentissage ?
5.3
Les données sont-elles représentatives de la communauté éducative ?
5.4
Les données sont-elles représentatives de la communauté éducative ?
5.5
Savez-vous si vos données personnelles sont anonymisées ou cryptées une fois introduites dans le système d’IA ?
5.6
Le principe d'autonomie appliqué à l'IA dans l'éducation fait référence au fait que les outils d'IA doivent respecter et promouvoir l'indépendance dans la prise de décision pour tous les individus de l'écosystème éducatif. Cela signifie que les technologies d'IA doivent aider les enseignants et les élèves à prendre des décisions éclairées concernant leurs processus d'enseignement et d'apprentissage.
Questions
Nº
Les informations générées par le système d’IA ont-elles une influence sur vos connaissances ?
6.1
Comment protégez-vous votre vie privée lorsque vous utilisez le système d’IA ?
6.2
Savez-vous comment vous interagissez avec un système d’IA ?
6.3
Le niveau d’autonomie du système peut-il être adapté à vos préférences et à vos besoins ?
6.4
Le système d’IA vous incite-t-il à développer une sympathie, une empathie ou une inclination qui surestime ses capacités ?
6.5
Le principe de durabilité dans l'utilisation de l'IA dans l'éducation consiste à veiller à ce que son déploiement soit effectué d'une manière respectueuse de l'environnement, économiquement viable et socialement équitable. D'un point de vue environnemental, la durabilité de l'IA dans l'éducation nécessite de prêter attention à la consommation d'énergie et aux émissions de carbone associées à la formation et au fonctionnement des modèles d'IA. Les éducateurs et les établissements devraient préconiser et choisir des solutions d'IA conçues dans un souci d'efficacité énergétique et qui privilégient l'utilisation de sources d'énergie renouvelables.
Questions
Nº
En quoi consiste le concept de durabilité en relation avec les systèmes d’IA ?
7.1
Savez-vous si le système d’IA prend des mesures pour accroître son efficacité énergétique ?
7.2
Connaissez-vous la durée de vie moyenne du système d’IA ?
7.3
Le système d’IA utilise-t-il des sources d’énergie renouvelables et des pratiques informatiques écologiques ?
7.4
Le système d’IA utilise-t-il des sources d’énergie renouvelables et des pratiques informatiques écologiques ?
7.5
Recommandations
Recommandations
Nº
Vous devez tester et évaluer la précision du contenu généré par un système d’IA.
1
Le système d’IA doit toujours indiquer que le résultat a été élaboré à l’aide de l’intelligence artificielle.
2
Vous devez écouter et expliquer les capacités et les limites du système d’IA.
3
Le système d’IA est alimenté par des données qui comportent des biais provenant de différentes sources, lesquels seront également inclus dans le résultat.
4
Si le système d’IA subit un incident grave ou une erreur, vous recevrez une notification vous en informant.
5
Le système d’IA doit demander votre consentement avant de l’utiliser afin de garantir que son fonctionnement est bien compris.
6
Recommandations
Nº
Le système d’IA peut comporter des discriminations dans les variables qui sous-tendent son fonctionnement.
1
Le résultat généré par le système d’IA ne peut discriminer aucun élève par rapport aux autres.
2
Le système d’IA s’adapte aux préférences et aux capacités individuelles, ainsi qu’aux besoins d’apprentissage.
3
Le système d’IA ne peut renforcer :
- Descriminations.
- Les stéréotypes.
- Préjugés.
4
Il doit utiliser des mesures pour détecter les erreurs et les corriger, le cas échéant, sans compromettre le fonctionnement du système d’IA.
5
Recommandations
Nº
Le système d’IA est un outil d’apprentissage.
1
Trouver l’équilibre entre la pensée critique et la créativité afin que ces compétences ne soient pas compromises par l’utilisation du système d’IA.
2
L’utilisation du système d’IA ne doit pas nuire à la santé physique ou mentale.
3
L’utilisation du système d’IA au-delà de ce qui est prévu engendre des risques et peut causer des dommages.
4
Il est essentiel que vous consentiez à l’utilisation du système d’IA. Vous pouvez décider de révoquer votre consentement à tout moment sans que cela compromette vos performances.
5
Recommandations
Nº
Il faut être conscient et responsable de l’utilisation du système d’IA dans le processus d’apprentissage et de son impact sur les résultats et les connaissances en général.
1
Le système d’IA doit toujours être soumis à une supervision et à des mesures correctives humaines afin de pouvoir contrôler ses résultats.
2
L’hyperbole des systèmes d’IA n’est pas exagérée, s’ajoutant aux discours qui leur attribuent des capacités magiques avec des fonctions illimitées, car ils ne pourront en aucun cas remplacer les fonctions définitoires et humaines des enseignants.
3
Il doit connaître et s’appuyer sur le code éthique élaboré par les représentants de l’ensemble de la communauté éducative pour le fonctionnement du système d’IA.
4
Recommandations
Nº
Il doit connaître son système d’IA :
- Le risque lié aux données une fois celles-ci saisies.
- Le risque de perte de données.
- L’impact sur la confidentialité.
- La traçabilité.
1
Les sources de connaissances pour l’apprentissage doivent être très diverses et ne peuvent se limiter uniquement aux systèmes d’IA.
2
Les données utilisées dans le système d’IA doivent être représentatives de la société et inclure toutes les diversités et options possibles.
3
Les données introduites dans le système d’IA peuvent être modifiées ou supprimées à tout moment.
4
Les données introduites dans le système d’IA doivent bénéficier de techniques de protection conformes à la législation, telles que l’anonymisation ou le cryptage.
5
Recommandations
Nº
Lors de l’utilisation du système d’IA, l’autonomie doit toujours être protégée et garantie.
1
Le système d’IA doit pouvoir s’adapter à :
- Le niveau d’autonomie.
- Les préférences de l’utilisateur.
- Aux besoins souhaités.
2
Le système d’IA ne doit pas encourager ni susciter le sentiment de surestimer les capacités humaines en sa faveur.
3
Les systèmes d’IA générative collectent également les données qui y sont saisies.
4
Recommandation de clause
Nº
Vous devez utiliser le système d’IA de manière consciente, car il a un coût environnemental et les ressources de la planète sont limitées.
1
Le système d’IA doit prévoir des mesures visant à accroître l’efficacité énergétique.
2
Vous devez connaître la durée de vie du système, son coût économique et l’impact environnemental de sa maintenance.
3
Il convient d’explorer et d’utiliser les énergies renouvelables et l’informatique verte pour alimenter le système d’IA.
4
Les systèmes d’IA générative ont un impact élevé sur les ressources environnementales, ce dont il faut tenir compte lors de leur utilisation.
5
Avec le soutien de :
’OEIAC contribue au déploiement de la Stratégie IA Catalogne 2030 afin de devenir un territoire leader en innovation numérique responsable .
