Contrats d’éducation

Le système d’IA sera accompagné d’informations précises sur son utilisation, l’identité et les coordonnées du fournisseur ou de ses représentants.

Veiller à ce que le processus de génération des résultats du système d’IA réponde aux exigences suivantes :

• Bien documenté et reproductible afin de détecter les problèmes futurs.
• Utiliser le modèle le plus simple et le plus intelligible possible afin de favoriser la transparence.
• Prendre en compte les compétences et le niveau d’alphabétisation en matière d’intelligence artificielle de tous les utilisateurs.

Les informations suivantes relatives au système d’IA seront documentées et rendues publiques :

• Le processus de développement et les personnes qui y ont participé.
• Des instructions concises, claires et rédigées dans un langage accessible sur son fonctionnement.
• Le processus permettant d’aboutir à un résultat donné et les résultats attendus.
• Les limites éventuelles.

Le système d’IA identifie que les informations sont fournies par une IA.

Des mesures seront prises pour que le niveau de transparence et d’explicabilité du système d’IA ne compromette pas la vie privée des personnes ni la sécurité du système lui-même.

En ce qui concerne les données utilisées par le système d’IA, le respect des exigences suivantes sera garanti :

• Documentation sur le type de données utilisées, leur provenance et les modifications qu’elles ont subies à chaque étape de leur cycle de vie.
• Des mesures seront prises pour vérifier la représentativité et l’adéquation des données utilisées.
• Mesures de protection pour vérifier l’âge des utilisateurs.
• Connaissance des biais algorithmiques.

Le système d’IA disposera des outils de communication suivants :

• Garantir le consentement éclairé.
• Notifications en cas d’incident grave ou d’erreur.

Politique de participation des différents groupes d’intérêt de la communauté éducative.

Réseau avec d’autres établissements d’enseignement utilisant un système d’IA similaire.

Le système d’IA comprendra des mesures d’inclusion et d’équité, notamment en ce qui concerne les aspects suivants :

• Évaluation des résultats pour différents groupes d’élèves.
• Mesures visant à améliorer l’accessibilité.
• Mesures visant à soutenir son utilisation par les personnes en situation de vulnérabilité.
• Mesures visant à garantir que le système s’adapte à un large éventail de préférences et de compétences individuelles.

Le groupe chargé du développement du système d’IA doit inclure des personnes qui ne sont pas de sexe masculin, des personnes d’origines ou de cultures diverses et issues de disciplines variées (au-delà de l’informatique et de l’ingénierie).

L’établissement d’enseignement promouvra une politique organisationnelle qui donne la priorité à la diversité, à l’équité et à l’inclusion.

Le système d’IA disposera de mesures et de mécanismes permettant de détecter, de corriger et d’atténuer les éventuels biais tout au long de son cycle de vie.

En particulier, ceux présents dans :

• La phase de conception ou de mise en œuvre.
• Les données d’entraînement et les données ultérieures.
• Catégories changeantes ou inadéquates.

Le système d’IA comprendra des mécanismes de sécurité visant à prévenir les incidents suivants :

• Anomalies ou actions hors des limites prédéfinies.
• Sorties déviées et boucles de rétroaction.

Les mesures de détection, de correction et d’atténuation des risques seront conformes à la réglementation applicable en matière de protection des données. Plus précisément, le règlement (UE) 2016/679, la directive (UE) 2016/680 et le règlement (UE) 2018/1725.

Le système sera accompagné des informations suivantes :

• Le niveau de précision et de sécurité.
• Les comportements et scénarios possibles qui ne doivent jamais être enfreints afin de garantir la sécurité et de préserver la non-malfaisance.
• Les mécanismes de supervision et de contrôle (internes et externes).

Les élèves utilisent le système d’IA comme un outil d’apprentissage qui améliore leur expérience éducative.

Avant sa commercialisation/utilisation, le système d’IA sera soumis à une évaluation qui inclura les aspects suivants :

• Les impacts potentiels sur la santé, la sécurité et les droits des personnes concernées.
• Le risque que les données collectées, générées ou utilisées ne soient pas utilisées pour discriminer négativement les personnes.
• Les risques et dommages potentiels qu’il pourrait causer en cas de prédictions inexactes dans les scénarios prévus.
• Les risques liés à une utilisation du système au-delà des usages prévus.

Le système d’IA disposera de moyens permettant d’identifier, d’évaluer et de prendre des mesures concernant les risques liés à son utilisation et aux données collectées après sa mise en service.

Le système d’IA disposera d’un protocole général sur la traçabilité des données pour la gestion des risques.

Le système d’IA comprendra les mesures suivantes :

• Mesures d’atténuation des biais ou des tentatives de manipulation.
• Révocation du consentement sans compromettre le fonctionnement du système.
• Mesures de résistance aux effets négatifs.

Mesures d’examen continu de la précision des décisions prises par le système.

Avant sa commercialisation/utilisation, le système d’IA sera soumis à :

• Une évaluation visant à garantir sa sécurité, son intégrité et sa résilience face à différentes formes d’attaques.
• Une évaluation visant à vérifier qu’il n’a pas été compromis ou piraté.

Mesures visant à garantir la compréhension et la formation des personnes participant au contrôle des décisions prises par le système d’IA afin d’exercer cette fonction.

Le système d’IA sera accompagné d’informations et de documentation relatives aux aspects suivants :

• Les limites des mécanismes de contrôle.
• Les mesures de supervision humaine.

Avant la commercialisation/l’utilisation du système d’IA, il convient de déterminer :

• La personne légalement responsable des actions et/ou décisions prises tout au long de son cycle de vie.
• La personne responsable des mesures de surveillance humaine.

L’établissement d’enseignement prendra les mesures suivantes :

• Il procédera à une évaluation afin de déterminer l’influence du système sur la prise de décision.

• Il mettra en place des mécanismes de révision périodique de la responsabilité et de la reddition de comptes avec les différents membres de la communauté éducative qui interagissent avec lui.
• Il garantira l’amélioration de l’éducation et des résultats des élèves sans compromettre leur participation ni la qualité de l’enseignement.

L’établissement scolaire adoptera les mesures suivantes :

• Faciliter la démonstration du respect de la législation en vigueur.
• Formes de réparation ou d’indemnisation en cas de dommages causés par le système d’IA.
• Déterminer les mesures de protection des utilisateurs et des personnes concernées par le système d’IA.

L’établissement d’enseignement s’engage à ne faire aucune déclaration susceptible de conduire à une sous-estimation des capacités du système d’IA et qui ne soit pas démontrable en partageant les données et le code de celui-ci.

L’établissement scolaire élaborera un code éthique pour une utilisation responsable de l’IA comprenant les points suivants :

• Promotion d’une utilisation responsable.
• Détermination des objectifs du système et révision de son fonctionnement dans cette perspective.
• Mesures garantissant les droits et le bien-être des personnes dans le processus décisionnel.

Mécanismes de protection des données présents tout au long de leur cycle de vie garantissant :

• Le traitement des données à caractère personnel conformément à la protection légalement requise.
• Les données fournies par la personne concernée ne seront ni vendues, ni louées, ni cédées sans son consentement.
• Le maintien ou l’amélioration de la confidentialité et de la protection tout au long de leur cycle de vie.
• Techniques d’anonymisation, de cryptage et d’agrégation.
• La personne concernée peut demander leur suppression.
• Un langage compréhensible et accessible à tous les utilisateurs potentiels, y compris ceux qui ont des besoins particuliers.

Un protocole pour obtenir le consentement des personnes concernées avant de commencer tout traitement de données via le système d’IA.

La conception et le déploiement du système garantissent l’égalité d’accès et la non-discrimination sans compromettre leurs données privées et leur dignité.

Le système d’IA disposera d’un registre des informations d’accès aux données permettant d’identifier clairement qui, quand et dans quel but y accède.

Des mesures seront prises pour garantir que les personnes chargées du traitement et de la gestion des données possèdent les compétences nécessaires pour exercer ces fonctions et disposent de connaissances actualisées en la matière.

L’adéquation et l’utilisation responsable des données utilisées par le système d’IA feront l’objet des mesures suivantes :

• Procédure garantissant le respect du contexte d’utilisation, des performances et des résultats.
• Documentation de la collecte et de la préparation.
• Mesures avancées de sécurité et de confidentialité, telles que la pseudonymisation.
• Adaptation aux besoins de tous les utilisateurs.
• Connaissance des mesures éthiques et légales.

Le système d’IA est conçu pour garantir les principes de minimisation et de protection des données dès la phase de conception.

Le système d’IA comprendra un processus d’évaluation afin de garantir qu’il ne réduise pas le nombre d’options possibles et qu’il n’oblige ni ne contraigne à prendre certaines décisions.

Le système d’IA disposera de mécanismes garantissant :

• L’adaptabilité à l’autonomie en fonction des préférences et des exigences de chaque élève.
• Ne pas utiliser de techniques manipulatrices ou subliminales ni compromettre l’autonomie des élèves.
• Identifier que le contenu a été généré par un système d’IA.
• La conscience de l’interaction avec un système d’IA.

Le système d’IA disposera des mécanismes suivants :

• Mesures de supervision humaine permettant de gérer son degré d’autonomie et d’adaptabilité.
• Mécanisme permettant de limiter le degré d’autonomie afin d’éviter les comportements indésirables ou à haut risque.
• Mesures permettant de s’adapter et d’apprendre de son environnement sans compromettre la sécurité ni les normes éthiques.

Le système d’IA garantit que ses opérations sont transparentes, claires, sincères et n’incitent pas les élèves à surestimer leurs capacités.

Avant sa commercialisation ou son utilisation, le système d’IA sera soumis à une évaluation de son impact sur les droits des personnes, la sécurité, la santé et l’environnement. Les domaines suivants seront particulièrement pris en compte :

• La qualité de vie des personnes.
• Le développement durable.
• Les droits d’auteur et la propriété intellectuelle.
• Accès social et fracture numérique.

L’établissement scolaire garantira la protection, les conditions de travail et une rémunération équitable aux personnes travaillant dans le système d’IA acquis.

Le système sera doté de mécanismes lui permettant d’enregistrer sa consommation énergétique et son impact environnemental tout au long de son cycle de vie.

Le déployeur ou le fournisseur mettra en œuvre des mécanismes et des stratégies visant à améliorer l’efficacité énergétique du système et à réduire son empreinte environnementale.

Avant sa commercialisation ou son utilisation, le système d’IA sera soumis à une évaluation qui portera au minimum sur les aspects suivants :

• L’efficacité énergétique.
• Explorer l’utilisation de sources d’énergie renouvelables et de pratiques informatiques écologiques.