El Model PIO

Com funciona

El Model PIO és una nova eina d’avaluació sobre els usos ètics i legals que està harmonitzada amb els requisits legislatius i els estàndards i recomanacions ètiques actuals. Aquesta eina d’avaluació consisteix en una llista de verificació o checklist sobre usos ètics estructurada al voltant de set principis, i dissenyada per al desenvolupament, desplegament i avaluació de dades i sistemes d’IA.

El Model PIO s’inicia amb unes anomenades preguntes zero o preguntes bàsiques que reflecteixen el contingut ètic essencial que conforma la llista de verificació del model i, en aquest sentit, permet fer una ràpida aproximació sobre les consideracions ètiques fonamentals a tenir en compte (Fase 0).

Després d’aquest posicionament inicial, el Model PIO permet realitzar una preavaluació segons les categories de risc contemplades en la normativa sobre intel·ligència artificial de la UE (AI Act). En aquest sentit, es classificaran els sistemes d’IA segons si són considerats de risc inacceptable a partir de la normativa de la AI Act. El risc inacceptable fa referència a un conjunt molt limitat d’usos que són especialment nocius de la IA i que contravenen els valors de la UE, ja que violen els drets fonamentals i, per tant, estan prohibits (Fase 1).

Un cop realitzada aquesta distinció sobre risc inacceptable o no, en la mateixa preavaluació es classificaran els sistemes d’IA segons la AI Act de la següent manera (Fase 2): 

  • Risc alt: aquest fa referència a un nombre limitat de sistemes d’IA que poden generar un impacte advers en la seguretat de les persones o els seus drets fonamentals segons la Carta dels Drets Fonamentals de la UE i, per tant, es consideren d’alt risc. 
  • Risc limitat: aquest fa referència als riscos associats a la falta de transparència en l’ús de la IA i, en conseqüència, a la necessitat d’obligacions específiques de transparència per garantir que els humans estiguin informats quan sigui necessari, fomentant la confiança.
  • Risc mínim: aquest fa referència a tots els altres sistemes d’IA que es poden desenvolupar i utilitzar d’acord amb la legislació vigent sense obligacions legals addicionals. Voluntàriament, els proveïdors d’aquests sistemes poden optar per aplicar principis ètics com els del Model PIO.

El resultat d’aquesta preavaluació centrada en l’avaluació de riscos de la AI Act, permetrà posicionar als usuaris del Model PIO en un punt de partida sobre l’avaluació d’alguns dels principals requisits legals de la normativa central d’IA de la Unió Europea (Fase 3).

Després de la preavaluació, s’iniciarà la llista de verificació o checklist amb exemples, que està organitzada a través dels set principis del Model PIO i presenta cada principi i selecció indicadors pregunta acompanyats de totes les disposicions legals existents relacions amb dades i sistemes d’IA (no tan sols al voltant de la AI Act), així com amb diferents estàndards i recomanacions ètiques (Fase 4).

La recollida de la informació d’avaluació dels sistemes es realitza segons unes etiquetes relacionades amb les categories de risc (alt, limitat i mínim), que acompanyen els indicadors pregunta per facilitar la navegació i resposta segons les dades i sistemes que s’estiguin avaluant. En aquest sentit, al costat de cadascuna de les preguntes s’indica la categoria de risc a la que fa referència amb les següents etiquetes:

Risc alt

Risc limitat

Risc mínim

Si una pregunta ha estat etiquetada amb més d’un color implicarà que la qüestió o pregunta correspon a més d’una categoria de risc i, per tant, això també comportarà que hi ha un requisit d’obligatori compliment segons les disposicions legals establertes.  

La recollida d’informació es realitza a través de respostes binàries (afirmatives o negatives) i que no apliquen segons la informació que tenen els usuaris del Model PIO de les dades i sistemes d’IA que estan avaluant per realitzar, a posteriori, un còmput i fotografia del grau de compliment en termes d’obligacions i drets segons els requisits legals i estàndards ètics (Fase 5). 

Amb la informació obtinguda a través de la preavaluació i avaluació, s’obtindran mètriques (percentatges) sobre el grau d’adequació a cada un dels 7 principis avaluats i també segons els temes i categories de risc de les dades i sistemes d’IA avaluats. Aquests resultats, supeditats a la mateixa declaració de responsabilitat, mitjançant la qual, l’organització es fa responsable de la veracitat de les respostes aportades, serà possible crear perfils observables de cada una de les entitats que portin a terme l’avaluació de les seves dades i sistemes d’IA (Fase 6). 

El darrer pas un cop obtingudes les mètriques corresponents, serà el de l’elaboració d’una insígnia que serà la imatge gràfica que representa l’adequació de l’entitat als requisits legals i estàndards ètics segons el Model PIO a través dels set principis del model: (1) la transparència i explicabilitat, (2) la justícia i equitat, (3) la seguretat i no maleficència, (4) la responsabilitat i retiment de comptes, (5) la privacitat, (6) l’autonomia, i (7) la sostenibilitat. La mateixa insígnia serà descarregable per tal que es pugui reflectir i evidenciar l’adequació i capacitació d’un sistema d’IA d’acord amb el Model PIO (Fase 7).

1

Preavaluació 1

Per saber si el sistema d’lA està considerat de risc inacceptable a partir de la normativa de la Al Act.

2

Preavaluació 2

Per classificar el sistema d’lA segons si el seu risc és alt, limitat o mínim d’acord amb la normativa de la Al Act.

3

Resultats de la preavaluació

Permet posicionar als usuaris del Model PIO Obligacions i Drets sobre alguns dels principals requisits legals de la normativa de la Al Act.

4

Inici de l’avaluació

A través d’una llista de verificació o “checklist” organitzat sobre la base de principis ètics, disposicions legals, recomanacions ètiques i exemples.

5

Recollida de dades

Mitjançant la informació que proporcionen els usuaris del Model PlO a través de la llista de verificació o “checklist” sobre la base ètica i legal.

6

Obtenció de mètriques

Adequació a les disposicions legals i recomanacions étiques del Model PIO tenint en compte les categories de risc de la normativasa de la Al Act.

7

Visualització de resultats

A través d’una insígnia que reflecteix el grau d’assoliment dels principis étics i disposicions legals contingudes en el Model PIO.

A qui va dirigit

La resposta és senzilla: a totes les organitzacions públiques o privades que tinguin un interès en el disseny, desenvolupament o desplegament de tecnologies d’IA, i a totes les persones que estiguin utilitzant, comprant o siguin destinatàries d’aquestes tecnologies i plantegin preguntes com: Quins són els riscos i beneficis d’aquestes tecnologies? Qui es veu afectat per elles i com? De quina manera es pot millorar el benestar de les persones amb aquestes tecnologies? Creiem que aquestes i altres preguntes són prou rellevants per interpel·lar a totes les organitzacions que formen part de qualsevol procés innovador: universitats i centres de recerca, administració pública, teixit empresarial, i ciutadania.

Senzillesa

El Model PIO s’elabora amb la simplicitat en el seu nucli, girant al voltant d’una pregunta fonamental i eficaç que qualsevol organització pública o privada implicada en el desenvolupament, la gestió o la supervisió de projectes que incorporen dades i sistemes d’IA pot entendre fàcilment: ho hem fet?

Partint de la premissa que una de les avaluacions més crítiques que poden dur a terme les organitzacions públiques i privades es refereix a la seva utilització de dades i sistemes d’IA, el Model PIO posa l’accent en la importància d’aquestes avaluacions. Independentment de si les decisions organitzatives es perceben (tant internament com externament) com a molt positives o negatives, hi ha una necessitat creixent que aquestes decisions estiguin alineades amb els principis ètics rellevants per al context. A més, és imprescindible que aquesta alineació es comuniqui amb transparència i s’implementi amb la màxima precisió possible, especialment a la llum de la nova legislació sobre IA com la AI Act.

Des del punt de vista de la responsabilitat social corporativa, el Model PIO es presenta com una eina versàtil, aplicable a diverses etapes del cicle de vida de les dades i sistemes d’IA. Això abasta la fase de disseny i modelització, que inclou la planificació, la recollida de dades i la construcció del model; la fase de desenvolupament i validació, que inclou la formació i la prova de models; i la fase de desplegament, seguiment i perfeccionament, que implica la resolució de problemes i la millora contínua.