Preavaluació

En aquest apartat podeu realitzar una preavaluació del vostre sistema d’IA en funció d’una aproximació de risc inicial que està basada en la legislació europea sobre intel·ligència artificial (AI Act). En aquesta es determinen diferents obligacions tenint en compte una aproximació de risc (que significa la major o menor probabilitat de que ocorri un dany i la gravetat d’aquest dany) segons quatre categories:

Risc inacceptable

Aquest fa referència a un conjunt molt limitat d’usos que són especialment nocius de la IA i que contravenen els valors de la UE ja que violen els drets fonamentals i, per tant, estan prohibits.

Risc alt

Aquest fa referència a un nombre limitat de sistemes d’IA que poden generar un impacte advers en la seguretat de les persones o els seus drets fonamentals segons la Carta dels Drets Fonamentals de la UE i, per tant, es consideren d’alt risc.

Risc limitat

Aquest fa referència als riscos associats a la falta de transparència en l’ús de la IA i, per tant, a la necessitat d’obligacions específiques de transparència per garantir que els humans estiguin informats quan sigui necessari, fomentant la confiança.

Risc mínim

Aquest fa referència a tots els altres sistemes d’IA que es poden desenvolupar i utilitzar d’acord amb la legislació vigent sense obligacions legals addicionals. Voluntàriament, els proveïdors d’aquests sistemes poden optar per aplicar principis ètics com els del Model PIO.

Establiment de risc inacceptable o usos prohibits

La legislació europea sobre intel·ligència artificial contempla en el seu article 5 un conjunt de pràctiques considerades de risc inacceptable perquè incideixen en els drets fonamentals i la seguretat humana de manera tan greu que el seu ús no pot ser permès. Per aquest motiu, qualsevol sistema d’IA que coincideixi amb alguna d’aquestes pràctiques no podrà ser comercialitzat, desenvolupat ni utilitzat dins del territori de la UE.

A continuació trobareu un llistat dels usos inacceptables. Si algun d’ells s’aplica al vostre sistema, no és necessari que completeu les preguntes del Model, ja que aquest ha estat pensat per avaluar sistemes que podran ser efectivament utilitzats d’acord amb la legislació.

Usos prohibits

Seleccionar risc

Aquesta taula conté les pràctiques considerades d’usos prohibits per l’article 5 del Reglament 2024/1689 del Parlament i del Consell sobre intel·ligència artificial (AI Act).

Sistemes que despleguen tècniques subliminars, enganyoses o manipuladores que alterin el comportament d’una persona o grup de persones perquè prenguin una decisió que causi perjudicis significatius a ella mateixa o altres persones.

Aquesta pregunta es basa en article 5 apartat 1. a).

Sistemes d’IA que exploten les vulnerabilitats d’una persona o grup de persones (per exemple l’edat, la situació social o econòmica o la capacitat mental) alterant el seu comportament de manera que causi perjudicis significatius a ella mateixa o altres persones.

?

Aquesta pregunta es basa en article 5 apartat 1. b).

Sistemes d’IA que avaluen o classifiquen persones físiques o grups de persones durant un període de temps determinat en funció del seu comportament social o les seves característiques personals o altres conegudes, deduïdes o previstes amb els següents efectes:

  1. Tracte perjudicial o desfavorable de determinades persones físiques o grups de persones en contextos socials que no guarden relació amb els contextos en què les dades van ser recollides o generades originalment.
  2. Tracte perjudicial o desfavorable a determinades persones físiques o grups de persones que sigui injustificat o desproporcionat respecte al seu comportament social o a la seva gravetat

Aquesta pregunta es basa en article 5 apartat 1. c).

Sistemes d’IA que duen a terme avaluació de riscos de persones físiques amb el fi d’avaluar o predir el risc que una persona cometi un delicte basat únicament en l’elaboració de perfils, avaluació dels seus trets i característiques de personalitat.

?

Aquesta pregunta es basa en article 5 apartat 1. d).

Sistemes d’IA que creen o amplien les bases de dades de reconeixement facial mitjançant l’abocament no selectiu d’imatges facials d’internet o gravacions de càmeres de videovigilància.

Aquesta pregunta es basa en article 5 apartat 1. e)

Sistemes d’IA que infereixen en les emocions d’una persona física en els àmbits del lloc de feina i les institucions educatives.

?

Aquesta pregunta es basa en article 5 apartat 1. f).

Sistemes de categorització biomètrica que categoritzen individualment a persones físiques a partir de llurs dades biomètriques per a deduir o inferir la seva raça, opinions polítiques, afiliació sindical, creences religioses o filosòfiques, vida sexual o orientació sexual.

?

Aquesta pregunta es basa en article 5 apartat 1. g).

Sistemes d’identificació biomètrica remota en temps real en espais de públic accés amb fins policials.

?

Aquesta pregunta es basa en article 5 apartat 1. g) i l’apartat 2.

Establiment de risc alt, risc limitat o risc baix

En aquest apartat trobareu les qüestions que us permetran saber el nivell de risc associats al vostre sistema més enllà del risc inacceptable o usos prohibits. Per a completar la preavaluació si us plau seguiu el següent circuït:

Risc alt

Seleccionar risc

Aquesta taula conté les pràctiques considerades d’alt risc per l’article 6 del Reglament 2024/1689 del Parlament i del Consell sobre intel·ligència artificial (AI Act).

Si contesteu de forma afirmativa a una o més de les següents preguntes, llavors podeu considerar que el vostre sistema està considerat d’aquest grup de risc.

Excepcions

El vostre sistema és utilitzat per autoritats judicials o en el seu nom per investigar, interpretar fets i normes jurídiques o aplicar la llei; usar-se de manera similar en la resolució alternativa de conflictes (per exemple en un procés de mediació); o per influenciar els resultats de processos democràtics o en el comportament dels votants?

?

Aquesta pregunta es basa en l’article 6.2 de la AI Act.

El vostre sistema d’IA és un producte, o es tracta d’un component de seguretat d’un producte, subjecte a la normativa europea continguda a l’Annex I de la AI Act? 

Aquesta pregunta es basa en l’article 6.1.a) de la AI Act.

El vostre sistema d’IA és un producte, o es tracta d’un component de seguretat d’un producte, que ha de ser sotmès a una avaluació de conformitat per tercers abans de poder ser comercialitzada o posada en servei d’acord amb la normativa europea continguda a l’Annex I de la IA Act? 

Aquesta pregunta es basa en l’article 6.1.b) de la AI Act.

El vostre sistema s’utilitza per a la identificació biomètrica i categorització de persones físiques en base a dades sensibles o reconeixement d’emocions (sense incloure sistemes que únicament confirmen la identitat de la persona física)?

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

El vostre sistema s’utilitza per les administracions públiques per gestionar i explotar infraestructures crítiques, trànsit en temps real o subministrament de gas, aigua, calefacció o electricitat?  

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

El vostre sistema s’utilitza a l’àmbit educatiu o de formació professional per a determinar l’admissió o l’accés d’alumat; per avaluar resultats, o el nivell d’educació adequat; o per a monitorar i detectar comportaments prohibits?

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

El vostre sistema s’utilitza en l’àmbit de l’accés a l’ocupació, a  l’autoocupació i la gestió de persones treballadores (per exemple, selecció de personal, modificació de les relacions laborals o avaluació del rendiment)?

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

El vostre sistema és utilitzat per entitats, públiques o privades, les quals presten serveis essencial (per exemple  un sistema que determini quines persones podran beneficiar-se d’ajudes econòmiques públiques o bé, de la seva admissió a programes socials d’entitats privades)? 

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

El vostre sistema és utilitzat en l’àmbit jurídic per part de les autoritats policials, agències, administracions o institucions per tal d’avaluar els riscos que té una persona de ser víctima d’infraccions penals; en l’ús de polígrafs o eines semblants; avaluar les proves usades durant les investigacions; o avaluar les probabilitats de delinquir o reincidir, més enllà de l’elaboració de perfils?

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

El vostre sistema és utilitzat en matèria de migració, asil i control de fronteres en eines com el polígraf o similars per avaluar riscos (en la seguretat, sanitat i migració irregular); examinar sol·licituds d’asil, visat o permisos de residència, així com reclamacions davant la resolució de les mateixes; o detectar, reconèixer o identificar persones (excepte per a la verificació de documents de viatge)?

Aquesta pregunta es basa en l’article 6.2 de l’AI Act.

Risc limitat

Seleccionar risc

Aquesta taula conté els sistemes considerats de risc limitat, que inclouen els sistemes d'IA generativa i els sistemes de reconeixement d'emocions i identificació biomètrica que no coincideixen amb els supòsits de sistemes prohibits o d'alt risc, segons l'article 50 i els sistemes de propòsit general, segons d'acord amb l'article 51 del Reglament 2024/1689 del Parlament i del Consell sobre intel·ligència artificial (AI Act).

Si contesteu de forma afirmativa a una o més de les següents preguntes, llavors podeu considerar que el vostre sistema està considerat d’aquest grup de risc

El vostre sistema té la capacitat de servir per a una varietat de propòsits, tant per a l’ús directe
com per a la integració en altres sistemes d’IA?

Aquesta pregunta es basa en l’article 3 i l’article 51 de la AI Act.

El vostre sistema es utilitzat per a crear contingut de text, so, imatge o vídeo?

?

Aquesta pregunta es basa en l’article 50.2 i 4 de la AI Act.

El vostre sistema és tracta d’una eina de reconeixement d’emocions o categorització biomètrica?

?

Aquesta pregunta es basa en l’article 50.3 de la AI Act.

El vostre sistema d’IA està pensat per interactuar amb persones físiques?

?

Aquesta pregunta es basa en l’article 50.1

El vostre sistema és tracta d’un model de propòsit general? 

?

Aquesta pregunta es basa en l’article 52 i següents de la AI Act.

Risc mínim

Seleccionar risc

En el cas que el vostre sistema no recaigui en cap de les categories anteriors, podrà ser considerat de risc mínim. Si bé el Reglament 2024/1689 del Parlament i del Consell sobre intel·ligència artificial (AI Act) pot requerir alguns requisits de transparència per a determinats sistemes d’IA d’aquest tipus, no imposa obligacions addicionals als sistemes considerats de risc mínim, però convida a comprometre’s amb codis de conducta o una avaluació ètica de forma voluntària.

Un cop sabeu la categoria de risc associada amb vostre sistema d’IA, podeu iniciar el qüestionari d’avaluació

Iniciar Model PIO

Exemples pràctics d’aplicació de la AI Act

En el cas que no tingueu clar si la legislació europea d’intel·ligència artificial (AI Act) és aplicable en el vostre cas així com la possible categoria de risc aplicable, us proporcionem 50 exemples pràctics d’aplicació de la AI Act segons el nivell de risc. Evidentment, es tracta d’exemples orientatius i, en tots els casos, aquests només serveixen com una guia referència i, per tant, no és exhaustiva i sempre cal contextualitzar-los.

Una empresa del sector de la salut utilitza una aplicació propulsada per IA per al triatge de pacients.

Una empresa implementa un sistema de vigilància amb càmeres dotades de reconeixement facial per a la seguretat de les seves instal·lacions.

Una institució pública utilitza tecnologia de reconeixement de veu per analitzar la prioritat en l’atenció de trucades telefòniques.

Una institució educativa utilitza un sistema d’IA per fer seguiment del rendiment acadèmic dels estudiants i predir possibles abandonaments.

Un hospital utilitza un sistema d’IA per analitzar imatges mèdiques i ajudar en el diagnòstic de malalties.

Un centre de salut utilitza un sistema de IA per a la gestió de les cites i l’organització de les llistes d’espera.

Una oficina de serveis socials utilitza IA per identificar famílies amb risc de patir situacions de vulnerabilitat i oferir suport proactiu.

Una empresa utilitza IA per a la selecció de personal, analitzant els currículums dels candidats i predient el seu rendiment potencial.

Un banc utilitza IA per analitzar les sol·licituds de crèdit i avaluar la solvència dels sol·licitants.

Una asseguradora utilitza IA per avaluar les quotes mensuals a pagar per la persona que contracta una assegurança de vida.

Una empresa d’energia utilitza IA per predir possibles incidències en el subministrament d’electricitat.

Una empresa de transport disposa de camions que compten amb un sistema de conducció automàtica.

Un sistema d’IA que s’utilitza per identificar l’autenticitat dels documents utilitzats com a prova en el marc de la investigació d’un delicte.

Una les autoritats ferroviàries de dos països fronterers utilitzen un sistema IA per optimitzar la programació dels trens i gestionar el trànsit transfronterer.

Una empresa de transport instal·la un sistema IA en els seus vehicles per optimitzar les rutes de lliurament i reduir els temps de transport.

Una universitat utilitza IA per analitzar les dades d’inscripció i determinar els criteris d’accés per al futur curs acadèmic.

Una empresa que es dedica als serveis jurídics utilitza ChatGPT o Copilot per redactar la documentació relativa a les sol·licituds de residència dels seus clients i analitzar les probabilitats de que aquestes prosperin.

Una empresa utilitza un sistema biomètric per al control d’accés a les seves oficines, basat en empremtes digitals.

Una organització d’ajuda humanitària contracta un model d’IA de propòsit general per analitzar les necessitats de les comunitats afectades per desastres naturals i planificar la distribució d’ajuda.

Una empresa utilitza un model d’IA de propòsit general per personalitzar la publicitat en línia basant-se en el comportament de navegació dels usuaris.

Una empresa proporciona als seus empleats un servei de ChatGPT per generar correus electrònics i altres textos.

Una empresa ha desenvolupat una eina d’imatges sintètiques basada en un LLM i l’utilitza per generar imatges pels seus documents de treball.

Una empresa compta amb un chatbot al seu lloc web per a respondre a consultes generals sobre l’empresa.

Una institució pública utilitza un model de propòsit general per predir aglomeracions com manifestacions o actes similars basant-se en dades de xarxes socials.

Una plataforma de comerç electrònic utilitza IA proveïda per una bigtech entrenada amb conjunts de dades massius per recomanar productes als clients basant-se en les seves preferències de compra.

Una empresa utilitza un sistema d’IA que genera propostes de contractes personalitzats.

Una empresa de logística utilitza una IA amb grans conjunts de dades per predir els colls d’ampolla en la cadena de subministrament i evitar retards.

Una empresa de telecomunicacions utilitza IA per optimitzar la xarxa, millorar la qualitat del servei i executar autònomament modificacions en el subministrament individual dels seus clients.

Un servei meteorològic utilitza IA per a fer prediccions del temps i alertar a autònomament a la població sobre fenòmens meteorològics extrems i elaborar informes.

Una empresa d’energia d’abast nacional utilitza IA per predir la demanda, optimitzar la distribució d’electricitat i analitzar els hàbits de consum de la seca clientela.

Una empresa d’arquitectura utilitza IA per generar dissenys innovadors basant-se en les preferències dels clients i les tendències del mercat.

En un sistema de rec de conreus s’instal·la una IA de propòsit general perquè  determini la quantitat d’aigua necessària i la freqüència de rec en funció de les condicions meteorològiques i l’estació de l’any.

Una clínica veterinària encarrega una IA entrenada amb les seves pròpies dades per a diagnosticar malalties en animals de companyia basant-se en els símptomes descrits pels propietaris.

Una empresa implementa sensors intel·ligents a les seves fàbriques i magatzem per a controlar el seu estoc.

Una farmàcia utilitza IA per gestionar les existències de medicaments i advertir quan quedin poques unitats d’un.

Un supermercat utilitza IA per analitzar els patrons de compra dels clients i optimitzar l’inventari.

Un restaurant ha adquirit una d’IA entrenada amb les seves dades històriques per analitzar les preferències dels clients i ajustar el menú segons la demanda.

Una biblioteca utilitza IA per gestionar el catàleg de llibres i ordenar el catàleg de lectures situant les més sol·licitades en primer lloc.

Un servei meteorològic utilitza IA per crear un recull de precipitacions durant tot el segle passat en una zona geogràfica concreta.

Una empresa que fabrica llibretes utilitza IA per detectar defectes en la producció i millorar la qualitat dels productes.

Una empresa alimentària utilitza IA per controlar la qualitat dels productes durant el procés de producció.

Un restaurant ha adquirit una d’IA entrenada amb les seves dades històriques per analitzar les preferències dels clients i ajustar el menú segons la demanda.

Una empresa utilitza un sistema d’IA per filtrar els correus que rep i detectar els que contenen comentaris negatius sobre la seva marca per després fer millores.

Una empresa de recursos humans utilitza IA per analitzar les dades de satisfacció dels empleats i millorar l’ambient laboral.

Una empresa utilitza un sistema d’IA que organitza automàticament els seus fitxers electrònics.

Un sistema d’IA que corregeixi activitats de càlcul mental de l’alumnat.

Una piscina municipal utilitza una IA per regular el nivell de clor i la temperatura de l’aigua.

En un hivernacle s’instal·la un sistema d’IA que activa el rec quan detecta una baixada de la humitat.

Una casa de turisme rural utilitza un sistema d’IA per a regular la temperatura interior en relació amb la temperatura exterior en funció de si està llogada.   

Una perruqueria utilitza un sistema d’IA per a preveure l’estoc de colors de tints segons la demanda de la seva clientela mensualment. 

Resum de la privadesa

Aquest lloc web utilitza galetes per tal de proporcionar-vos la millor experiència d’usuari possible. La informació de les galetes s’emmagatzema al navegador i realitza funcions com ara reconèixer-vos quan torneu a la pàgina web i ajuda a l'equip a comprendre quines seccions del lloc web us semblen més interessants i útils.

Galetes estrictament necessàries

Les galetes estrictament necessàries han d'activar-se sempre perquè puguem desar les preferències per a la configuració de galetes.