Contrats

Le système est accompagné d’informations précises sur son utilisation, ainsi que de l’identité et des coordonnées du fournisseur ou des représentants.

Il convient de veiller à ce que le processus de génération des résultats du système soit conforme aux exigences suivantes :

• Il est bien documenté et reproductible afin de détecter les problèmes futurs.
• Elle utilise le modèle le plus simple et le plus intelligible en faveur de la transparence.
• Il prend en compte les compétences en intelligence artificielle et le niveau d’alphabétisation de tous les individus.
• Il enregistre automatiquement ses opérations.

Les informations suivantes relatives au système sont documentées et rendues publiques :

• Son processus de développement et les personnes impliquées.
• Les informations techniques nécessaires à son utilisation.
• Des instructions concises et claires, rédigées dans un langage accessible, sur le fonctionnement de l’appareil.
• Processus par lequel le système arrive à un résultat donné et aux résultats attendus.
• Les limites éventuelles du système.
• Informations concernant l’échange et le transfert de données, ainsi que les canaux et mécanismes permettant aux personnes concernées d’exercer leurs droits.

Le système disposera d’un mécanisme permettant d’identifier le contenu qu’il génère comme étant sa création.

Des mesures sont prises pour garantir que le niveau de transparence et d’explicabilité du système ne constitue pas un risque pour la vie privée des personnes ou pour la sécurité du système lui-même.

En ce qui concerne les données utilisées par le système, il convient de veiller au respect des exigences suivantes :

• Le système est accompagné d’une documentation sur le type de données utilisées, leur provenance et les modifications qu’elles ont subies à chaque étape de leur cycle de vie.
• Des mesures seront prises pour vérifier la représentativité et l’adéquation des données utilisées.
• Le système sera doté de garanties permettant de vérifier l’âge des personnes.

Les dossiers générés par le système IA sont conservés pendant une période minimale de six mois.

Le système doit disposer des outils de communication suivants :

• Une fonction permettant aux utilisateurs de commenter ses performances.
• Un système de notification en cas d’incident grave ou d’erreur.

Une politique de participation des parties prenantes sera établie, y compris des utilisateurs finaux et/ou des destinataires.

Le système d’IA comprendra des mesures d’inclusion et d’équité, notamment en ce qui concerne les aspects suivants :

• Tester les résultats du système pour les différents groupes concernés.
• Mesures visant à accroître l’accessibilité.
• Mesures visant à soutenir leur utilisation par les personnes en situation de vulnérabilité.
• Mesures visant à garantir que le système tient compte d’un large éventail de préférences et d’aptitudes individuelles.

Le système sera évalué pour vérifier qu’il n’utilise pas de variables ou d’indicateurs injustement discriminatoires avant sa commercialisation ou son utilisation.

Le groupe de développement du système d’IA doit comprendre des personnes non masculines, des personnes issues de milieux ou de cultures différents et de disciplines diverses (au-delà de l’informatique et de l’ingénierie).

L’organisation doit promouvoir une politique organisationnelle qui donne la priorité à la diversité, à l’équité et à l’inclusion.

Le système sera doté de mesures et de mécanismes permettant de détecter, de corriger et d’atténuer les biais potentiels tout au long de son cycle de vie.

En particulier, les mesures cibleront les biais présents dans :

• La phase de conception ou de mise en œuvre.
• Données de formation et de post-formation.
• Changement de catégories ou catégories inappropriées.

Avant d’être commercialisé ou utilisé, le système fera l’objet d’une évaluation de l’impact des biais potentiels, en particulier ceux qui pourraient affecter les droits, la santé ou la sécurité des personnes.

Le système respectera les normes de classification qui traitent des préjugés liés à l’âge, à l’origine ethnique, à la race, au sexe ou au handicap, conformément aux réglementations applicables.

Le système comprend des mécanismes de sécurité destinés à prévenir les incidents suivants :

• Anomalies ou actions en dehors des limites prédéterminées.
• Sorties biaisées et boucles de rétroaction.

Les mesures de détection, de correction et d’atténuation des biais sont conformes aux réglementations applicables en matière de protection des données. En particulier, le respect du règlement (UE) 2016/679, de la directive (UE) 2016/680 et du règlement (UE) 2018/1725 est assuré.

Des informations détaillées seront fournies sur les données et les ressources utilisées pour prévenir et détecter l’inadéquation ou le biais des données, ainsi que le risque de biais d’automatisation.

Le système est accompagné des informations suivantes :

• Le niveau de précision et de sécurité du système.
• La manière et le degré d’influence que les actions des utilisateurs peuvent avoir sur la performance du système.
• Les comportements et scénarios possibles qui ne devraient jamais être transgressés afin de garantir la sécurité et de préserver la non-malfaisance du système.
• Les mécanismes de surveillance et de contrôle du système (internes et externes).

Les personnes qui ont conçu/concevront le système fournisse des conseils sur la manière d’interpréter et de répondre aux mesures qu’il génère.

Avant d’être commercialisé/utilisé, le système fera l’objet d’une évaluation portant sur les aspects suivants :

• Les impacts potentiels du système sur la santé, la sécurité et les droits des personnes concernées.
• Le risque que les données collectées, générées ou utilisées par le système soient utilisées pour exercer une discrimination négative à l’encontre des personnes.
• Les risques et dommages potentiels qui seraient causés par le système en cas de prédictions inexactes dans les scénarios envisagés.
• Les risques liés à l’utilisation du système au-delà des usages prévus.

Le système disposera d’un protocole général sur la traçabilité des données pour la gestion des risques.

Le système doit permettre d’activer les fonctions suivantes :

• Identifier, évaluer et prendre des mesures concernant les risques liés à son utilisation et aux données collectées après sa mise en service.
• Rapport sur les risques résiduels du système qui n’ont pas pu être corrigés ou atténués.

Le système comprendra les mesures suivantes :

• Mesures de résilience face aux erreurs résultant de leur interaction avec d’autres systèmes ou personnes.
• Les mesures de résistance et d’atténuation des erreurs résultant de tentatives d’altération par des personnes non autorisées.
• Le contrôle continu permet de mesurer l’exactitude des décisions prises par le système.

Les utilisateurs du système d’IA pourront contrôler la mesure dans laquelle ils y sont exposés et retirer leur consentement à tout moment sans compromettre ses performances.

Avant d’être commercialisé/utilisé, le système sera évalué afin de garantir sa sécurité, son intégrité et sa résistance à différentes formes d’attaques.

Avant leur diffusion/utilisation, les ensembles de données utilisés par le système seront évalués afin de vérifier qu’ils n’ont pas été compromis ou piratés auparavant.

Des mesures sont prises pour garantir que les personnes participant au suivi des décisions prises par le système comprennent bien son fonctionnement et disposent de la formation nécessaire pour s’acquitter de cette fonction.

Le système doit disposer d’outils permettant aux personnes chargées de son contrôle d’intervenir, de modifier, de supprimer ou d’annuler les décisions prises par le système.

Le système est accompagné d’informations et de documents relatifs aux aspects suivants :

• Les limites des mécanismes de contrôle du système.
• Les mesures de surveillance humaine disponibles dans le système.

Avant l’utilisation/commercialisation du système, il convient de déterminer :

• La personne légalement responsable des actions et/ou des décisions qu’elle prend tout au long de sa vie.
• La personne responsable des mesures de surveillance humaine du système.

L’organisation prend les mesures suivantes :

• Il procédera à une évaluation afin de déterminer l’influence du système sur la prise de décision de l’organisation.
• Il établira des mécanismes de révision périodique de la responsabilité et de l’obligation de rendre compte avec les différents acteurs impliqués dans son développement et son utilisation.

L’organisation prendra les mesures suivantes :

• Faciliter la démonstration du respect de la législation en vigueur.
• Les moyens de recours ou de compensation en cas de dommages causés par le système.
• Déterminer les chiffres de protection des utilisateurs et des personnes concernées par le système.

L’organisation s’engage à ne pas faire d’affirmations qui conduiraient à surestimer les capacités du système et qui ne seraient pas démontrées par le partage des données et du code du système.

L’organisation élaborera un code de déontologie pour l’utilisation responsable de l’IA.

Elle comprendra les points suivants :

• Promotion de l’utilisation responsable de l’intelligence artificielle par le personnel de l’organisation.
• Déterminer les objectifs du système et examiner son fonctionnement du point de vue de l’utilisation responsable de l’intelligence artificielle.
• Prendre des mesures pour garantir que le système, dans le processus de prise de décision, prenne en considération les implications pour les droits et le bien-être des personnes.

Le système doit disposer de mécanismes de protection des données tout au long de son cycle de vie afin de garantir les aspects suivants :

• Les données à caractère personnel sont traitées conformément au degré de protection légalement requis pour éviter leur utilisation abusive, leur modification, leur perte ou leur vol par des tiers.
• Les données fournies par la personne concernée ne seront pas vendues, louées ou transférées sans son consentement.
• Le système dispose de processus permettant de maintenir ou d’améliorer la confidentialité et la protection des données tout au long de leur cycle de vie.
• Que des techniques d’anonymisation, de cryptage et d’agrégation sont utilisées.
• Un protocole a été mis en place pour obtenir le consentement des personnes concernées avant tout traitement de données par le système, et les informations relatives à ces actions sont compréhensibles et accessibles à tous les utilisateurs potentiels, y compris ceux qui ont des besoins particuliers.
• Il doit exister un mécanisme par lequel la personne concernée peut demander que ses informations soient effacées.

Le système garantira l’égalité d’accès aux personnes handicapées et aux personnes en situation de vulnérabilité, tout en respectant leur vie privée et leur dignité.

Le système dispose d’un registre des informations relatives à l’accès aux données qui identifie clairement qui accède aux données, à quel moment et dans quel but.

Des mesures sont prises pour garantir que les personnes chargées du traitement et de la gestion des données disposent des compétences nécessaires et des connaissances actualisées pour exercer ces fonctions.

Afin de garantir l’adéquation et l’utilisation responsable des données utilisées par le système, les mesures suivantes sont prises :

• Une procédure est établie pour garantir que les ensembles de données utilisés sont appropriés et pertinents pour la performance et le résultat escompté du système, et qu’ils sont adaptés au contexte dans lequel ils seront utilisés.
• Le processus de collecte et de préparation des données utilisées sera documenté.
• Le système utilise des mesures de protection de la vie privée (par exemple, la pseudonymisation des données) et limite la réutilisation des données personnelles sensibles.

Le système est/serait conçu de manière à garantir les points suivants :

• Le système respecte les principes de minimisation et de protection des données dès la conception et par défaut.
• Le système peut être formé sans qu’il soit nécessaire de transmettre ou de copier des données brutes ou structurées.

Le système comprend un processus d’évaluation visant à garantir qu’il ne réduit pas le nombre de choix possibles et qu’il n’impose pas ou ne contraint pas certains choix en général ou à n’importe quel stade de son cycle de vie.

Le système sera accompagné d’un protocole d’essai visant à certifier qu’il aide les gens à prendre des décisions meilleures et plus éclairées.

Le système sera doté de mécanismes garantissant les aspects suivants :

• Les utilisateurs finaux sont conscients qu’ils interagissent avec une intelligence artificielle et sont suffisamment autonomes et informés pour le faire.
• Que les résultats qu’il génère soient étiquetés d’une manière qui permette aux gens d’identifier que ce contenu a été généré par une intelligence artificielle.
• Qu’elle ne compromette pas les niveaux d’autonomie des utilisateurs finaux, en évitant l’utilisation de techniques manipulatrices ou subliminales et en s’adaptant aux préférences et aux besoins de la personne.

Le système sera doté de mécanismes garantissant que son fonctionnement est transparent, clair et honnête et qu’il n’incite pas les utilisateurs à surestimer leurs capacités.

Le système sera doté des mécanismes suivants :

• Les mesures d’encadrement humain qui permettent de gérer leur degré d’autonomie et d’adaptabilité.
• Mécanisme permettant de limiter le degré d’autonomie du système afin d’éviter tout comportement indésirable ou à haut risque.
• S’adapter et apprendre de leur environnement sans compromettre la sécurité et les normes éthiques.

Le système sera évalué afin d’identifier et d’atténuer les risques liés à ses capacités et à son degré d’autonomie, ainsi qu’à sa capacité d’adaptation à de nouvelles tâches.

Il veillera à ce que les contraintes et les obstacles liés à la fracture numérique et à l’inégalité d’accès social soient pris en considération dans la conception, la mise en œuvre et l’utilisation du système.

Avant d’être mis sur le marché et/ou utilisé, le système fera l’objet d’une évaluation de son impact sur les droits de l’humanité, la sécurité, la santé et l’environnement.

Cette évaluation tiendra particulièrement compte des domaines suivants :

• Impact sur les droits du travail.
• Impact sur la qualité de vie des personnes.
• Impact et risques liés au développement durable.
• Des mesures de compensation équitables et un traitement éthique des personnes impliquées dans toutes les phases du cycle de vie du système et des personnes affectées par sa mise en œuvre et son utilisation.

Le système doit mettre en place des mesures visant à garantir le respect et l’utilisation éthique des données propriétaires. Ces mesures comprennent la mise à disposition du public d’informations sur les données protégées par des droits de propriété intellectuelle utilisées par le système.

Le développement, la commercialisation, la mise en œuvre et/ou l’utilisation du système seront réalisés avec la participation des parties prenantes concernées.

L’organisation s’engage activement auprès de la représentation syndicale de son personnel afin d’identifier, de corriger et d’atténuer les risques potentiels pour le bien-être et les droits du travail des employés découlant de l’acquisition, de la mise en œuvre et/ou de l’utilisation du système.

Le système sera doté de mécanismes permettant d’enregistrer sa consommation d’énergie et son impact sur l’environnement tout au long de son cycle de vie.

L’organisme met en œuvre des mécanismes et des stratégies visant à améliorer l’efficacité énergétique du système et à réduire son empreinte environnementale, en particulier lorsque de grands ensembles de données sont utilisés.

Avant d’être mis sur le marché et/ou utilisé, le système fait l’objet d’une évaluation portant au moins sur les aspects suivants :

• L’efficacité énergétique du système.
• Explorer l’utilisation de sources d’énergie renouvelables et de pratiques informatiques vertes.