Le Modèle PIO

Comment ça marche ?

Le Modèle PIO est un nouvel outil d’évaluation des utilisations éthiques et légales, harmonisé avec les exigences législatives et les normes et recommandations éthiques actuelles. Cet outil d’évaluation consiste en une liste de contrôle des utilisations éthiques structurée autour de sept principes et est conçu pour le développement, le déploiement et l’évaluation des données et des systèmes d’IA.

Le Modèle PIO commence par des questions dites « zéro » ou questions fondamentales qui reflètent le contenu éthique essentiel qui constitue la liste de contrôle du modèle et, en ce sens, permet une approximation rapide des considérations éthiques fondamentales à prendre en compte (phase 0).

Après ce positionnement initial, le Modèle PIO permet une pré-évaluation selon les catégories de risque définies dans la réglementation de l’UE sur l’intelligence artificielle (AI Act). À cet égard, les systèmes d’IA seront classés selon qu’ils sont considérés comme présentant un risque inacceptable au sens de la AI Act. Le risque inacceptable fait référence à un ensemble très limité d’utilisations de l’IA qui sont particulièrement préjudiciables et contraires aux valeurs de l’UE, car elles violent les droits fondamentaux et sont donc interdites (phase 1).

Une fois cette distinction établie quant au caractère inacceptable ou non du risque, la même évaluation préliminaire classera les systèmes d’IA dans le cadre de la AI Act comme suit (phase 2) :

• Risque élevé : cela désigne un nombre limité de systèmes d’IA susceptibles d’avoir un impact négatif sur la sécurité des personnes ou leurs droits fondamentaux au titre de la Charte des droits fondamentaux de l’Union européenne et qui sont donc considérés comme présentant un risque élevé.
• Risque limité : il s’agit des risques liés au manque de transparence dans l’utilisation de l’IA et, par conséquent, à la nécessité d’imposer des obligations spécifiques en matière de transparence afin de garantir que les êtres humains soient informés lorsque cela est nécessaire, favorisant ainsi la confiance.
• Risque minimal : cela concerne tous les autres systèmes d’IA qui peuvent être développés et utilisés conformément à la législation en vigueur sans obligations légales supplémentaires. À titre volontaire, les fournisseurs de ces systèmes peuvent choisir d’appliquer des principes éthiques tels que ceux du Modèle PIO.

Les résultats de cette pré-évaluation, axée sur l’évaluation des risques dans le cadre de la loi sur l’IA, permettront aux utilisateurs du Modèle PIO de disposer d’un point de départ pour évaluer certaines des principales exigences juridiques de la réglementation fondamentale de l’Union européenne en matière d’IA (phase 3).

Après la pré-évaluation, la liste de contrôle avec des exemples sera mise en place. Elle s’articule autour des sept principes du modèle PIO et présente chaque question accompagnée des dispositions légales relatives aux données et aux systèmes d’IA sur lesquelles elle se fonde (pas seulement la loi sur l’IA), ainsi que diverses normes et recommandations éthiques. (Phase 4).

À la suite de l’évaluation préliminaire, la liste de contrôle avec des exemples sera mise en œuvre. Elle s’articule autour des sept principes du modèle PIO et présente chaque question accompagnée des dispositions légales relatives aux données et aux systèmes d’IA sur lesquelles elle se fonde (et pas seulement la loi sur l’IA), ainsi que diverses normes et recommandations éthiques. (Phase 4).

Si une question a été classée dans plusieurs couleurs, cela signifie que le problème ou la question relève de plusieurs catégories de risques et qu’il est donc obligatoire de se conformer aux dispositions prévues par la loi.

Les informations sont collectées au moyen de réponses binaires (affirmatives ou négatives) et non applicables, sur la base des informations dont disposent les utilisateurs du Modèle PIO concernant les données et les systèmes d’IA qu’ils évaluent afin de procéder, par la suite, à un calcul et un aperçu du niveau de conformité en termes d’obligations et de droits selon les exigences légales et les normes éthiques (phase 5).

À partir des informations obtenues lors de la pré-évaluation et de l’évaluation, des indicateurs (pourcentages) seront générés sur le degré de conformité à chacun des 7 principes évalués, ainsi qu’en fonction des thèmes et catégories de risques des données et des systèmes d’IA évalués. Ces résultats font l’objet d’une déclaration de responsabilité, par laquelle l’organisation assume la responsabilité de la véracité des réponses fournies, et seront consultables à partir des profils que chaque entité procédant à l’évaluation de ses données et systèmes d’IA peut créer (phase 6).

Une fois les indicateurs pertinents obtenus, la dernière étape consistera à créer un badge qui servira de représentation graphique de la conformité de l’entité aux exigences légales et aux normes éthiques du Modèle PIO, à travers ses sept principes : (1) transparence et explicabilité, (2) équité et impartialité, (3) sécurité et non-malfaisance, (4) responsabilité et obligation de rendre compte, (5) confidentialité, (6) autonomie et (7) durabilité. Ce badge pourra être téléchargé afin de refléter et de démontrer l’adéquation et la compétence d’un système d’IA conformément au Modèle PIO (phase 7).

À qui s’adresse-t-il ?

La réponse est simple : à toutes les organisations publiques ou privées qui s’intéressent à la conception, au développement ou au déploiement des technologies d’IA, ainsi qu’à toutes les personnes qui utilisent, achètent ou bénéficient de ces technologies et se posent des questions telles que : Quels sont les risques et les avantages de ces technologies ? Qui sont les personnes concernées et de quelle manière ? Comment ces technologies peuvent-elles améliorer le bien-être des personnes ? Nous pensons que ces questions, parmi d’autres, sont suffisamment pertinentes pour intéresser toutes les organisations impliquées dans un processus innovant : universités et centres de recherche, administration publique, secteur privé et citoyens.

Simplicité

Le Modèle PIO est conçu dans un souci de simplicité et s’articule autour d’une question fondamentale et efficace que toute organisation publique ou privée impliquée dans le développement, la gestion ou la supervision de projets intégrant des données et des systèmes d’IA peut facilement comprendre : l’avons-nous fait ?

Partant du principe que l’une des évaluations les plus critiques que les organisations publiques et privées peuvent entreprendre concerne leur utilisation des données et des systèmes d’IA, le Modèle PIO souligne l’importance de ces évaluations. Que les décisions organisationnelles soient perçues (en interne comme en externe) comme très positives ou très négatives, il est de plus en plus nécessaire que ces décisions soient alignées sur les principes éthiques pertinents dans le contexte. En outre, il est essentiel que cet alignement soit communiqué de manière transparente et mis en œuvre avec la plus grande précision, en particulier à la lumière de la nouvelle législation sur l’IA, telle que la loi sur l’IA.

Du point de vue de la responsabilité sociale des entreprises, le Modèle PIO se présente comme un outil polyvalent, applicable à différentes étapes du cycle de vie des données et des systèmes d’IA. Cela couvre la phase de conception et de modélisation, qui comprend la planification, la collecte de données et la construction de modèles ; la phase de développement et de validation, qui comprend la formation et les tests des modèles ; et la phase de déploiement, de surveillance et de perfectionnement, qui implique le dépannage et l’amélioration continue.