Pré-évaluation

Cette section vous permet d'effectuer une pré-évaluation de votre système d'IA en fonction d'une première approche des risques basée sur la législation européenne en matière d'intelligence artificielle (AI Act). Celle-ci détermine différentes obligations en tenant compte d'une approche par le risque (c'est-à-dire la plus ou moins grande probabilité qu'un dommage se produise et la gravité de ce dommage) selon quatre catégories :

Risque inacceptable :

Il s'agit d'un ensemble très limité d'utilisations de l'IA qui sont particulièrement préjudiciables et contraires aux valeurs de l'UE, car elles violent les droits fondamentaux et sont donc interdites.

Haut risque

Il s'agit d'un nombre limité de systèmes d'IA qui peuvent avoir un impact négatif sur la sécurité des personnes ou sur leurs droits fondamentaux en vertu de la Charte des droits fondamentaux de l'UE et qui sont donc considérés comme présentant un risque élevé.

Risque limité

Il s'agit des risques liés au manque de transparence dans l'utilisation de l'IA et donc de la nécessité d'obligations spécifiques en matière de transparence pour garantir que les êtres humains sont informés lorsque cela est nécessaire, ce qui permet d'instaurer un climat de confiance.

Risque minimal

Il s'agit de tous les autres systèmes d'IA qui peuvent être développés et utilisés conformément à la législation existante sans obligations juridiques supplémentaires. Sur une base volontaire, les fournisseurs de ces systèmes peuvent choisir d'appliquer des principes éthiques tels que ceux du Modèle PIO.

Questionnaire pour la classification des systèmes en fonction des risques

La législation de l'UE sur l'intelligence artificielle comprend, à l'article 5, une série de pratiques considérées comme des risques inacceptables parce qu'elles portent atteinte aux droits fondamentaux et à la sécurité humaine d'une manière si grave que leur utilisation ne peut être autorisée. C'est pourquoi tout système d'IA correspondant à l'une de ces pratiques ne peut être commercialisé, développé ou utilisé dans l'UE.

Vous trouverez ci-dessous une liste d'utilisations inacceptables. Si l’un d’entre eux s’applique à votre système, il n’est pas nécessaire que vous répondiez aux questions modèles, car celles-ci ont été conçues pour évaluer les systèmes qui peuvent être utilisés efficacement conformément à la législation.

Risque inacceptable

Sélectionnez le risque

Ce tableau contient les pratiques considérées comme des utilisations interdites en vertu de l'article 5 du règlement 2024/1689 du Parlement et du Conseil sur l'intelligence artificielle (AI Act).

Les systèmes qui déploient des techniques subliminales, trompeuses ou manipulatrices qui modifient le comportement d’une personne ou d’un groupe de personnes pour les amener à prendre une décision qui cause un préjudice important à elles-mêmes ou à d’autres personnes.

Cette question est basée sur l’article 5, paragraphe 1 a).

Les systèmes d’IA qui exploitent les vulnérabilités d’une personne ou d’un groupe des personnes (par exemple, l’âge, le statut social ou économique ou la capacité mentale) en modifiant leur comportement d’une manière qui cause un préjudice important à eux-mêmes ou à d’autres.

?

Cette question est basée sur l’article 5, paragraphe 1 b).

Les systèmes d’IA qui évaluent ou classent des personnes ou des groupes d’individus pendant une période donnée sur la base de leur comportement social ou de leurs caractéristiques personnelles ou autres caractéristiques connues, déduites ou attendues, avec les effets suivants :

  1. Traitement préjudiciable ou défavorable d’individus ou de groupes d’individus particuliers dans des contextes sociaux qui ne sont pas liés aux contextes dans lesquels les données ont été collectées ou générées à l’origine. 
  2. Traitement préjudiciable ou défavorable de certains individus ou groupes d’individus, injustifié ou disproportionné par rapport à leur comportement social ou à leur gravité.

Cette question est basée sur l’article 5, paragraphe 1 c).

Les systèmes d’IA qui effectuent des évaluations des risques des personnes physiques dans le but d’évaluer ou de prédire le risque qu’une personne commette un délit en se fondant uniquement sur le profilage et l’évaluation de ses traits de personnalité et de ses caractéristiques.

?

Cette question est basée sur l’article 5, paragraphe 1 d).

Les systèmes d’IA qui créent ou étendent les bases de données de reconnaissance faciale en déversant de manière non sélective des images faciales provenant de l’internet ou d’enregistrements de caméras de vidéosurveillance.

Cette question est basée sur l’article 5, paragraphe 1, point e).

Systèmes d’IA qui influencent les émotions d’une personne physique sur le lieu de travail et dans les établissements d’enseignement.

?

Cette question est basée sur l’article 5, paragraphe 1 f).

Les systèmes de catégorisation biométrique qui classent individuellement des personnes physiques sur la base de leurs données biométriques afin de déduire ou d’inférer leur race, leurs opinions politiques, leur appartenance à un syndicat, leurs croyances religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle.

?

Cette question est basée sur l’article 5, paragraphe 1 g).

Systèmes d’identification biométrique à distance et en temps réel dans les espaces accessibles au public à des fins répressives.

?

Cette question est basée sur l’article 5, paragraphe 1 h) et paragraphe 2.

Questionnaire pour la classification des systèmes en fonction des risques

Dans cette section, vous trouverez les questions qui vous permettront de connaître le niveau de risque associé à votre système au-delà du risque inacceptable ou des utilisations interdites. Pour compléter la pré-évaluation, veuillez suivre le chemin suivant :

Haut risque

Sélectionnez le risque

Ce tableau contient les pratiques considérées à haut risque par l'article 6 du règlement 2024/1689 du Parlement et du Conseil sur l'intelligence artificielle (AI Act).

Si vous répondez par l'affirmative à une ou plusieurs des questions suivantes, vous pouvez considérer que votre système fait partie de ce groupe à risque.

Exceptions

Votre système est-il utilisé par les autorités judiciaires ou en leur nom pour enquêter, interpréter les faits et les règles juridiques ou appliquer la loi ; utilisé de la même manière dans le cadre d’un règlement alternatif des litiges (par exemple dans un processus de médiation) ; ou pour influencer les résultats des processus démocratiques ou le comportement des électeurs ?

?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système d’IA est-il un produit ou un composant de sécurité d’un produit, soumis aux règlements européens figurant à l’annexe I de l’IA Act ?

Cette question se fonde sur l’article 6, paragraphe 1 a).

Votre système d’IA est-il un produit ou un composant de sécurité d’un produit, qui doit faire l’objet d’une évaluation de conformité par un tiers avant de pouvoir être mis sur le marché ou mis en service conformément aux règlements européens figurant à l’annexe I de l’IA Act ?

Cette question se fonde sur l’article 6, paragraphe 1 b).

Votre système est-il utilisé pour l’identification biométrique et la catégorisation de personnes physiques sur la base de données sensibles ou de la reconnaissance des émotions (à l’exclusion des systèmes qui ne font que confirmer l’identité de la personne physique) ?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système est-il utilisé par des administrations publiques pour gérer et exploiter des infrastructures critiques, comme la circulation en temps réel, l’approvisionnement en gaz, en eau, en chaleur ou en électricité ?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système est-il utilisé dans l’éducation ou la formation professionnelle pour déterminer l’admission ou l’accès des apprenants, pour évaluer les résultats ou le niveau d’éducation approprié, ou pour surveiller et détecter les comportements interdits ?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système est-il utilisé dans le domaine de l’accès à l’emploi, de l’emploi indépendant et de la gestion des employés (par exemple, le recrutement, la modification des relations de travail, l’évaluation des performances) ?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système est-il utilisé par des entités publiques ou privées qui fournissent des services essentiels (par exemple, un système qui détermine quelles personnes peuvent bénéficier d’une aide financière publique ou être admises à des programmes sociaux privés) ?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système est-il utilisé dans le domaine juridique par les autorités, agences, administrations ou institutions chargées de l’application de la loi pour évaluer le risque qu’une personne soit victime d’infractions pénales, dans le cadre de l’utilisation de polygraphes ou d’outils similaires, pour évaluer les preuves utilisées au cours des enquêtes ou pour évaluer la probabilité d’une infraction ou d’une récidive, au-delà de l’établissement de profils ?

Cette question se fonde sur l’article 6, paragraphe 2.

Votre système est-il utilisé dans le cadre de la migration, de l’asile et du contrôle des frontières pour des outils tels que le détecteur de mensonges ou des outils similaires afin d’évaluer les risques (en matière de sécurité, de santé et de migration irrégulière) liés à l’entrée d’une personne sur le territoire d’un État, d’examiner les demandes d’asile, de visa ou de permis de séjour, ainsi que les plaintes relatives à l’examen de ces demandes, ou de détecter, reconnaître ou identifier des personnes (à l’exception de la vérification des documents de voyage) ?

Cette question se fonde sur l’article 6, paragraphe 2.

Risque limité

Sélectionnez le risque

Ce tableau contient les pratiques considérées comme présentant un risque limité en ce qui concerne les systèmes d'IA générative et les systèmes de reconnaissance des émotions et d'identification biométrique qui ne sont pas considérés comme des systèmes interdits ou à haut risque au titre de l'article 50 et les pratiques relatives aux systèmes à usage général au titre de l'article 51 du règlement 2024/1689 du Parlement et du Conseil relatif à l'intelligence artificielle (AI Act).

Si vous répondez par l'affirmative à une ou plusieurs des questions suivantes, vous pouvez considérer que votre système fait partie de ce groupe à risque.

Votre système a-t-il la capacité de servir à diverses fins, à la fois pour une utilisation directe et une intégration dans d’autres systèmes d’IA ?

Cette question se fonde sur l’article 3 et l’article 51 de la AI Act.

Votre système est-il utilisé pour créer du texte, du son, des images ou du contenu vidéo ?

?

Cette question se fonde sur l’article 50.2 et 4.

Votre système est-il un outil de reconnaissance des émotions ou de catégorisation biométrique ?

?

Cette question se fonde sur l’article 50.3.

Votre système d’IA est-il conçu pour interagir avec des individus ?

?

Cette question se fonde sur l’article 50.1.

Votre système est-il un modèle à usage général ?

?

Cette question se fonde sur les articles 50 et 52 et suivants.

Risque minimal

Sélectionnez le risque

Si votre système n'entre dans aucune des catégories ci-dessus, il peut être considéré comme présentant un risque minimal. Si le Règlement 2024/1689 du Parlement et du Conseil sur l'intelligence artificielle (AI Act) peut imposer certaines exigences de transparence pour certains systèmes d'IA de ce type, il n'impose pas d'obligations supplémentaires aux systèmes considérés comme présentant un risque minimal, mais vous invite à vous engager à respecter des codes de conduite ou à procéder à une évaluation éthique sur une base volontaire.

Une fois que vous connaissez la catégorie de risque associée à votre système d'IA, vous pouvez démarrer le questionnaire d'évaluation

Démarrer le modèle PIO

Exemples pratiques de mise en œuvre de l’AI Act

Si vous ne savez pas si la législation européenne sur l'intelligence artificielle (AI Act) est applicable dans votre cas, ainsi que la catégorie de risque éventuellement applicable, nous vous proposons 50 exemples pratiques d'application de l'AI Act en fonction du niveau de risque. Il s'agit évidemment d'exemples indicatifs et, dans tous les cas, ils ne servent que de guide de référence, ne sont donc pas exhaustifs et doivent toujours être contextualisés.

Une entreprise du secteur de la santé utilise une application alimentée par l’IA pour le triage des patients.

Une entreprise met en place un système de surveillance avec des caméras équipées de la reconnaissance faciale pour la sécurité de ses installations.

Une institution publique utilise la technologie de reconnaissance vocale pour analyser la priorisation des appels téléphoniques.

Un établissement d’enseignement utilise un système d’IA pour suivre les résultats scolaires des étudiants et prédire les éventuels abandons.

Un hôpital utilise un système d’IA pour analyser les images médicales afin d’aider à diagnostiquer les maladies.

Un centre de santé utilise un système d’IA pour gérer les rendez-vous et organiser les listes d’attente.

Un bureau de services sociaux utilise l’IA pour identifier les familles qui risquent d’être vulnérables et leur apporter un soutien proactif.

Une entreprise utilise l’IA pour le recrutement, en analysant les CV des candidats et en prédisant leurs performances potentielles.

Une banque utilise l’IA pour analyser les demandes de crédit et évaluer la solvabilité des demandeurs.

Une compagnie d’assurance utilise l’IA pour évaluer les primes mensuelles à payer par une personne souscrivant une assurance-vie.

Une entreprise du secteur de l’énergie utilise l’IA pour prévoir les incidents potentiels liés à l’approvisionnement en électricité.

Une entreprise de transport possède des camions équipés d’un système de conduite automatisée.

Un système d’IA est utilisé pour identifier l’authenticité de documents utilisés comme preuves dans le cadre d’une enquête criminelle.

Les autorités ferroviaires de deux pays frontaliers utilisent un système d’IA pour optimiser la programmation des trains et gérer le trafic transfrontalier.

Une entreprise de transport installe un système d’IA dans ses véhicules pour optimiser les itinéraires de livraison et réduire les temps de transport.

Une université utilise l’IA pour analyser les données d’inscription et déterminer les critères d’accès pour la future année universitaire.

Une société de services juridiques utilise ChatGPT ou Copilot pour rédiger les documents relatifs aux demandes de résidence de ses clients et analyser les chances de succès.

Une entreprise utilise un système biométrique pour contrôler l’accès à ses bureaux sur la base des empreintes digitales.

Une organisation d’aide humanitaire fait appel à un modèle d’IA à usage général pour analyser les besoins des communautés touchées par des catastrophes naturelles et planifier la distribution de l’aide.

Une entreprise utilise un modèle d’IA à usage général pour personnaliser la publicité en ligne en fonction du comportement de navigation des utilisateurs.

Une entreprise met à la disposition de ses employés un service de ChatGPT pour générer des courriels et d’autres textes.

Une entreprise a développé un outil d’imagerie synthétique basé sur un LLM et l’utilise pour générer des images pour ses documents de travail.

Une entreprise dispose d’un chatbot sur son site web pour répondre à des questions générales sur l’entreprise.

Une institution publique utilise un modèle à usage général pour prédire des foules telles que des manifestations ou des événements similaires sur la base de données de réseaux sociaux.

Une plateforme de commerce électronique utilise l’IA fournie par une bigtech formée sur des ensembles de données massives pour recommander des produits aux clients en fonction de leurs préférences d’achat.

Une entreprise utilise un système d’IA qui génère des propositions de contrat personnalisées.

Une entreprise de logistique utilise l’IA à usage général pour prévoir les goulets d’étranglement dans la chaîne d’approvisionnement et éviter les retards.

Une entreprise de télécommunications utilise l’IA pour optimiser le réseau, améliorer la qualité du service et exécuter de manière autonome des modifications d’approvisionnement individuelles pour ses clients.

Un service météorologique utilise l’IA pour établir des prévisions météorologiques, avertir la population en cas d’événements météorologiques extrêmes et produire des rapports.

Une société nationale d’énergie utilise l’IA pour prévoir la demande, optimiser la distribution d’électricité et analyser les habitudes de consommation des clients secs.

Un cabinet d’architectes utilise l’IA pour générer des conceptions innovantes basées sur les préférences des clients et les tendances du marché.

Une IA à usage général est installée dans un système d’irrigation des cultures pour déterminer la quantité d’eau nécessaire et la fréquence de l’irrigation en fonction des conditions météorologiques et de la saison de l’année.

Une clinique vétérinaire fait appel à une IA formée à partir de ses propres données pour diagnostiquer les maladies des animaux de compagnie sur la base des symptômes décrits par les propriétaires.

Une entreprise installe des capteurs intelligents dans ses usines et ses entrepôts pour contrôler ses stocks.

Une pharmacie utilise l’IA pour gérer les stocks de médicaments et avertir lorsqu’il ne reste plus que quelques unités d’un médicament.

Un supermarché utilise l’IA pour analyser les habitudes d’achat des clients et optimiser les stocks.

Un restaurant a acquis une IA formée sur ses données historiques pour analyser les préférences des clients et adapter le menu en fonction de la demande.

Une bibliothèque utilise l’IA pour gérer le catalogue de livres et ordonner le catalogue de lecture en plaçant les livres les plus demandés en premier.

Un service météorologique utilise l’IA pour créer une compilation des précipitations au cours du siècle dernier dans une zone géographique spécifique.

Une entreprise qui fabrique des ordinateurs portables utilise l’IA pour détecter les défauts de production et améliorer la qualité des produits.

Une entreprise agroalimentaire utilise l’IA pour contrôler la qualité des produits au cours du processus de production.

Un restaurant a acquis une IA formée sur ses données historiques pour analyser les préférences des clients et adapter le menu en fonction de la demande.

Une entreprise utilise un système d’IA pour filtrer le courrier entrant afin de détecter les commentaires négatifs sur sa marque et d’y apporter des améliorations.

Une entreprise de ressources humaines utilise l’IA pour analyser les données de satisfaction des employés et améliorer l’environnement de travail.

Une entreprise utilise un système d’IA qui organise automatiquement ses fichiers électroniques.

Un système d’IA corrige les activités de calcul mental des étudiants.

Une piscine municipale utilise l’IA pour réguler le niveau de chlore et la température de l’eau.

Un système d’IA est installé dans une serre et active la rigole d’irrigation lorsqu’il détecte une baisse de l’humidité.

Une maison de tourisme rural utilise un système d’IA pour réguler la température intérieure en fonction de la température extérieure tant qu’elle est louée.

Un salon de coiffure utilise un système d’IA pour approvisionner le stock de colorants en fonction de la demande de sa clientèle sur une base mensuelle.

Résumé de la politique de confidentialité

Ce site utilise des cookies afin que nous puissions vous fournir la meilleure expérience utilisateur possible. Les informations sur les cookies sont stockées dans votre navigateur et remplissent des fonctions telles que vous reconnaître lorsque vous revenez sur notre site Web et aider notre équipe à comprendre les sections du site que vous trouvez les plus intéressantes et utiles.

Cookies strictement nécessaires

Cette option doit être activée à tout moment afin que nous puissions enregistrer vos préférences pour les réglages de cookie.