Com funciona

Model PIO

En primer lloc, les organitzacions podran veure una presentació de cada principi i la selecció d’una sèrie d’indicadors pregunta seleccionats estratègicament després d’una revisió exhaustiva de la literatura especialitzada (Fase 1). En segon lloc, es recolliran totes les respostes afirmatives i negatives de les autoavaluacions ràpides i completes així com les justificacions a les respostes per aquestes últimes, si escau (Fase 2).

Amb la informació obtinguda de l’autoavaluació s’obtindran mètriques per cada un dels 7 principis avaluats i amb elles perfils observables de cada una de les organitzacions que portin a terme l’autoavaluació (Fase 3). Un cop obtingudes les mètriques corresponents, es procedirà a l’elaboració d’una insígnia o segell de qualitat que serà la imatge gràfica del model d’autoavalució PIO representant l’adequació de les dades i del sistema d’IA segons els 7 principis ètics del model: (1) la transparència i explicabilitat, (2) la justícia i equitat, (3) la seguretat i no maleficència, (4) la responsabilitat i retiment de comptes, (5) la privacitat, (6) l’autonomia, i (7) la sostenibilitat. En aquest procés s’utilitza un gradient de color per representar d’una manera ràpida, senzilla i efectiva els resultats obinguts mitjançant el model d’autoavaluació (Fase 4).

En aquest sentit, abans de portar a terme l’autoavaluació serà important escollir la persona o persones responsables dins de les organitzacions públiques o privades que utilitzen sistemes d’IA per realitzar, des d’un punt de vista competencial, una autoavaluació amb la màxima informació disponible. Per fer-ho, es recolliran respostes binàries (Si/No) a 70 preguntes sobre cada un dels 7 principis anteriorment descrits.

Es podrà realitzar una autoavaluació ràpida de posició i una autoavaluació de posició completa amb recomanacions. Aquesta última requereix la justificació de les respostes afirmatives o negatives, ja que això permetrà a l’equip d’OEIAC, juntament amb les persones col·laboradores externes, analitzar les respostes qualitatives i poder proporcionar feedback a l’organització que l’hagi realitzat si així ho desitja. D’aquesta manera, a més d’obtenir unes mètriques específiques i una insignia de qualitat, les organitzacions que hagin realitzat l’autoavaluació completa rebran recomanacions específiques de millora.

Així doncs, a manera de resum aquestes són les fases que inclou cada model d’autoavaluació:
Autoavaluació ràpida: FASE 1 + FASE 2 + FASE 3 + FASE 4
Autoavaluació completa: FASE 1 + FASE 2 + FASE 3 + FASE 4 + Feedback OEIAC

Per últim, la insígnia de qualitat és una imatge gràfica de posició que es basa en les mètriques obtingudes sobre l’orientació i adequació de les dades del sistema de IA als diferents principis ètics d’acord amb el model PIO. En aquest sentit, en el seu interior se situen els diferents principis amb un gradient de color d’acord amb les mètriques obtingudes, sent 0 l’equivalent a cap resposta afirmativa i 100 a totes les respostes afirmatives.