Guies educació professorat

Comment les développeurs et les propriétaires entraînent-ils les systèmes d’IA générative ?

Disposez-vous de garanties pour vous protéger contre les informations inexactes ou les interactions potentiellement préjudiciables ?

Avez-vous pris en compte les capacités, les compétences et les connaissances de tous les élèves en matière d’IA ?

L’utilisation du système d’IA est-elle transparente et favorise-t-elle la confiance et la compréhension ?

Connaissez-vous les limites potentielles du système d’IA et les avez-vous communiquées aux élèves ?

Utilisez-vous des mécanismes pour protéger les données des élèves mineurs ?

Connaissez-vous les biais algorithmiques du système d’IA et êtes-vous conscient de leurs effets pendant le processus éducatif ?

Êtes-vous en contact avec des établissements d’enseignement qui utilisent un système d’IA similaire afin de connaître leur expérience et de partager vos connaissances ?

L’utilisation du système d’IA nécessite-t-elle le consentement informatique des membres de la communauté éducative ?

Connaissez-vous les protections contre la diffusion éventuelle de contenus inexacts ou discriminatoires par les systèmes d’IA générative ?

Garantissez-vous que le système d’IA ne reproduit pas de préjugés injustes ni de discriminations ?

Lors de l’utilisation du système d’IA, est-il garanti qu’il est adapté à une diversité de profils, y compris l’inclusion et l’équité entre les élèves ?

Le système d’IA dispose-t-il de mesures qui le rendent accessible et facile à utiliser pour tous les élèves ?

Connaissez-vous les informations détaillées sur les données et leur provenance qui alimentent le système d’IA ?

Le système d’IA dispose-t-il de mécanismes de sécurité en cas d’anomalies menaçant la sécurité et les droits fondamentaux ?

Votre établissement scolaire connaît-il ou fait-il partie d’associations ou d’entités qui promeuvent la DEI afin de faire progresser les politiques d’IA responsable ?

Les étudiants sont-ils conscients du niveau de précision et de fiabilité du système d’IA ?

Avez-vous mis en place des mécanismes de surveillance et de contrôle internes ou externes pour garantir que le système d’IA fonctionne comme prévu ?

L’utilisation du système d’IA améliore-t-elle l’expérience éducative des élèves en favorisant la pensée critique et la créativité ?

Avez-vous évalué les impacts potentiels du système d’IA sur la santé, la sécurité et les droits des personnes ?

Le système d’IA n’a-t-il pas d’impact négatif sur la santé mentale des élèves, des enseignants et de la communauté éducative en général ?

Si le système d’IA était utilisé à des fins autres que celles prévues, causerait-il des dommages ?

La communauté éducative contrôle-t-elle son exposition et peut-elle révoquer son consentement sans compromettre les performances du système d’IA ?

Le système d’IA peut-il présenter des risques et des vulnérabilités qui ne garantissent pas sa sécurité, son intégrité et sa résilience face à différentes formes d’attaques ?

Avez-vous désigné la personne responsable, de manière générale, du système d’IA parmi le corps enseignant ?

Avez-vous désigné la personne légalement responsable du système d’IA parmi le corps enseignant ?

La personne responsable est-elle qualifiée et formée pour exercer ces fonctions ?

Les limites du niveau de contrôle et de participation humaine dans le système d’IA sont-elles définies ?

Connaissez-vous votre responsabilité lorsque vous intégrez le système d’IA dans le but d’améliorer l’éducation et les résultats des élèves ?

Comment évaluez-vous l’influence du système d’IA sur la prise de décision des élèves ?

Avez-vous souscrit des polices d’assurance afin de pouvoir réparer ou compenser tout préjudice ou impact négatif éventuel ?

Exagérez-vous les capacités de votre système d’IA ?

Encouragez-vous l’utilisation du système d’IA comme outil d’aide et ne lui attribuez-vous pas des fonctions essentielles qui relèvent du corps enseignant ?

Avez-vous élaboré un code éthique pour une utilisation responsable de l’IA ?

Avez-vous élaboré un code éthique pour une utilisation responsable de l’IA ?

La personne responsable est-elle qualifiée et formée pour exercer ces fonctions ?

Contrôle-t-il la traçabilité et l’accès aux données des élèves ?

Les données personnelles des élèves sont-elles protégées par des mécanismes conformes à la législation ?

Avez-vous mis en place des mécanismes permettant de demander la suppression des données personnelles ?

Les informations relatives au consentement et à la révocation sont-elles compréhensibles et accessibles à tous les élèves ?

Utilisez-vous des techniques d’anonymisation et de cryptage pour garantir la confidentialité et la protection des données personnelles dans le système d’IA ?

La consultation des données fait-elle l’objet d’un registre d’accès ?

Disposez-vous de stratégies visant à garantir la confidentialité et la protection des données afin de soutenir les groupes les plus défavorisés ?

Le système d’IA respecte-t-il et favorise-t-il l’indépendance dans la prise de décision de l’ensemble de la communauté éducative qui l’utilise ?

Le système d’IA ne réduit-il pas le nombre de choix et n’impose-t-il pas ou ne force-t-il pas à prendre des décisions ?

Avez-vous pris des mesures pour garantir que les élèves soient conscients qu’ils interagissent avec une IA ?

Tous les élèves qui interagissent avec le système d’IA ont-ils les capacités et les informations suffisantes sur son fonctionnement pour pouvoir interagir avec lui ?

Tous les élèves qui interagissent avec le système d’IA ont-ils les capacités et les informations suffisantes sur son fonctionnement pour pouvoir interagir avec lui ?

Le fonctionnement du système d’IA fait-il l’objet d’une supervision humaine ?

Le système d’IA générative s’adapte-t-il et apprend-il de son environnement sans compromettre la sécurité et les normes éthiques ?

Savez-vous comment la durabilité se concrétise dans les systèmes d’IA ?

Avez-vous pris en compte l’accès social, y compris la fracture numérique, dans l’utilisation et la mise en œuvre du système d’IA ?

Le système d’IA protège-t-il les droits d’auteur et la propriété intellectuelle dans l’ensemble des données utilisées ?

Existe-t-il des mesures visant à accroître l’efficacité énergétique du système d’IA ?

Quelle est la durée de vie moyenne du système d’IA ?

Avez-vous envisagé l’utilisation de sources d’énergie renouvelables et de pratiques informatiques écologiques dans l’utilisation du système d’IA ?

Saviez-vous que l’impact énergétique et hydrique des outils d’IA générative est de plus en plus important ?

Vous devez connaître et comprendre en quoi consiste l’entraînement du système d’IA générative.

Donnez la priorité à la protection de la transparence du système et n’acceptez pas les informations inexactes ou les interactions préjudiciables aux élèves.

L’alphabétisation et les compétences informatiques et technologiques ne peuvent être source d’inégalité. Il est nécessaire de commencer par une formation à l’IA avant d’introduire l’utilisation du système.

La transparence sur le fonctionnement et l’utilisation du système permet à la communauté éducative de le comprendre et se traduit par une confiance dans les systèmes d’IA.

Le système d’IA doit signaler par une notification toute limitation qu’il présente ou pourrait présenter afin que les résultats puissent être interprétés en fonction de la réalité.

Lorsque le système interagit avec des mineurs, il est nécessaire de vérifier leur âge et, par conséquent, de renforcer les mécanismes de protection prévus.

Les algorithmes qui composent le système d’IA comportent des biais provenant de diverses sources (les grandes bases de données qui les alimentent, l’interférence humaine dans la programmation et la difficulté de retracer les éléments programmatiques de l’algorithme lui-même), ce qui a des répercussions sur le processus éducatif.

Créer des espaces de relation et de rencontre avec d’autres établissements scolaires qui utilisent le même système d’IA ou des systèmes similaires afin de pouvoir échanger des expériences et des évolutions, et prévoir des actions futures.

Le consentement informatique des élèves consiste à leur expliquer ce qu’est le système d’IA, comment il fonctionne et les résultats qu’il produit ; puis, sur la base de ces informations, à décider librement s’ils souhaitent s’y soumettre.

Le contenu généré par un système d’IA générative doit toujours être vérifié et validé, car il utilise une grande quantité de données difficiles à retracer et provenant de sources inconnues ou confuses.

Il doit toujours exister une protection contre la discrimination dont pourraient être victimes les élèves du fait des systèmes d’IA, afin de garantir l’inclusion et l’équité.

Le système d’IA doit être accessible à tous et doit pouvoir être compris et adapté à tous les besoins requis.

Les données utilisées par le système d’IA doivent être documentées dans le but de :

• Éviter les biais.
• Obtenir des résultats adaptés au contexte.
• Respecter les droits d’auteur.

Le système d’IA doit fournir un mécanisme de sécurité clair concernant le risque qu’il peut représenter pour les droits fondamentaux.

Bien connaître le système d’IA que l’on souhaite utiliser. Cela signifie :

• Connaître la précision.
• Connaître la sécurité requise.
• Connaître les données ou les risques au-delà de ceux prévus.
• L’impact sur la sécurité et l’intégrité.
• La résilience dont il fera preuve face aux attaques.

Le système d’IA doit définir clairement le mécanisme de supervision et de contrôle de son fonctionnement et de ses résultats.

L’objectif de l’introduction de systèmes d’IA dans le domaine de l’éducation est d’améliorer le processus d’apprentissage. Si ce n’est pas le cas ou si cela n’est pas clair, il ne faut pas les introduire.

L’utilisation du système d’IA ne doit pas avoir d’impact négatif sur :

• La santé, qu’elle soit physique ou, en particulier, mentale.
• Les droits des élèves.
• La sécurité du système.

Les élèves doivent pouvoir contrôler leur exposition au système d’IA et révoquer leur consentement à tout moment sans que cela compromette le fonctionnement du système.

Définir les rôles de la personne responsable du système d’IA et du responsable légal, qui peuvent être la même personne ou non, et déterminer :

• La nomination.
• La durée du mandat.
• Définir ses fonctions.

Il doit être très clair :

• Les limites du système d’IA.
• La participation humaine dans celui-ci (comment, quand et de quelle manière).

Inclure dans la formation annuelle des enseignants une formation spécifique sur l’intelligence artificielle afin de garantir leur formation et leur utilisation responsable.

Sa responsabilité dans l’introduction et l’utilisation des systèmes d’IA se traduit par le fait de ne pas compromettre sa participation ou la qualité de l’enseignement.

Il est nécessaire de connaître l’impact de l’introduction des systèmes d’IA sur l’apprentissage et l’évolution des élèves. Cela peut être réalisé en analysant les résultats avant et après leur intégration dans l’éducation.

Souscrivez des polices d’assurance pour faire face à la responsabilité civile pouvant découler de l’utilisation du système d’IA.

N’exagérez pas l’hyperbole des systèmes d’IA en vous joignant aux discours qui leur attribuent des capacités magiques avec des fonctions illimitées, car ils ne pourront en aucun cas remplacer vos fonctions essentielles ni vos compétences.

Avant d’utiliser le système d’IA, élaborez un code éthique auquel participent des représentants de l’ensemble de la communauté éducative.

Déterminez qui sera responsable des données saisies dans le système et quelle sera sa responsabilité juridique. À cet égard :

• La manière de la désigner.
• La durée du mandat.
• Les fonctions.

Les données sont traitées à l’aide de techniques de cryptage ou d’anonymisation, entre autres options.

Conformément à la réglementation, la protection des données doit consister à :

• Établir le contrôle, la traçabilité et l’accès.
• Garantir la compréhension de ce processus.
• Établir le droit de modification et de suppression.
• Disposer d’un registre d’accès indiquant qui a accédé aux données, quand et dans quel but.

Les données des mineurs, conformément à la réglementation en vigueur, doivent bénéficier d’une protection renforcée.

L’utilisation du système d’IA ne peut pas :

• Réduire l’indépendance des élèves dans la prise de décision.
• entraîner une diminution des options possibles
• Obliger ou forcer à prendre certaines décisions.

À tout moment, les élèves doivent être conscients qu’ils interagissent avec un système d’IA et doivent être informés par des mécanismes qui garantissent leur conscience et leur compréhension.

Si vous avez des doutes, des méfiances ou même si vous considérez que l’impact du système d’IA sur le développement scolaire des élèves constitue une menace, vous devez en informer l’ensemble de la communauté éducative.

Le système d’IA nécessite une supervision humaine afin de garantir :

• L’autonomie des élèves.
• L’adaptabilité au système.
• Un fonctionnement sûr et contrôlé pour l’ensemble de la communauté éducative.

L’introduction de l’IA générative ne doit pas compromettre ni mettre en danger la sécurité et les normes éthiques.

Pour introduire un système d’IA dans le domaine de l’éducation, il faut analyser et garantir l’accès social de tous les élèves à la technologie.

Le système d’IA doit respecter les droits d’auteur des données qu’il utilise pour s’alimenter.

Le système d’IA doit prévoir des mesures visant à accroître l’efficacité énergétique.

Vous devez savoir :

• La durée de vie utile du système d’IA.
• Le coût économique.
• L’impact environnemental de sa maintenance.

Pour alimenter le système d’IA, il faut explorer les énergies renouvelables et l’informatique verte.

Prendre conscience de l’impact environnemental des systèmes d’IA générative.