Contractes

En aquest apartat trobareu contingut recomanat per a la redacció de clàusules de contractes relatius a sistemes d’IA. Aquest contingut organitzat a través dels principis del Model PIO, és rellevant per a molts casos d'ús i per determinar l’aplicació de la legislació europea sobre intel·ligència artificial (AI Act) així com el compliment dels més alts estàndards de responsabilitat, seguretat i respecte pels drets humans.

1.1. Anàlisi preliminar de l’ús del sistema

Recomanació de clàusula

El sistema anirà acompanyat d’informació precisa sobre per a què s’utilitza així com la identitat i les dades de contacte de la persona proveïdor o representants.

1.1.1

Es garantirà que el procés de generació de resultats del sistema compleix amb els següents requisits:

  • Està ben documentat i reproduïble per a detectar futurs problemes.
  • Utilitza el model més simple i intel·ligible en favor de la transparència.
  • Pren en consideració les competències i alfabetització en matèria d’intel·ligència artificial de totes les persones usaries.
  • Realitza registres automàtics sobre el seu funcionament.

1.1.2

1.2. Explicabilitat

Recomanació de clàusula

Es documentarà i es farà pública la següent informació relativa al sistema:

  • El seu procés de desenvolupament i les persones que hi han estat implicades.
  • La informació tècnica necessària per al seu ús.
  • Instruccions concises, clares i escrites en un llenguatge accessible, sobre el seu funcionament.
  • El procés pel qual el sistema arriba a un resultat determinat i els resultats previstos.
  • Les possibles limitacions del sistema.
  • Informació relativa a l’intercanvi i cessió de dades així com les vies i mecanismes que permeten a les persones interessades exercir els seus drets.

1.2.1

El sistema comptarà amb un mecanisme que permeti identificar el contingut que genera com a creació d’aquest.

1.2.2

Es prendran mesures per tal que el nivell de transparència i explicabilitat del sistema no suposi un risc per a la privacitat de les persones ni la mateixa seguretat del sistema.

1.2.3

1.3. Traçabilitat i representativitat

Recomanació de clàusula

En relació amb les dades utilitzades pel sistema, s’assegurarà el compliment dels següents requisits:

  • El sistema anirà acompanyat de documentació relativa al tipus de dades utilitzades, la seva procedència, i els canvis que han patit en cada fase del seu cicle de vida.
  • Es prendran mesures per verificar la representativitat i adequació de  les dades utilitzades.
  • El sistema comptarà amb salvaguardes per verificar l’edat de les persones.

1.3.1

El registre d’arxius que genera el sistema d’IA serà conservat durant un termini mínim de sis mesos.

1.3.2

1.4. Protocols de comunicació

Recomanació de clàusula

El sistema disposarà de les següents eines de comunicació:

  • Una funció que permetí als usuaris realitzar comentaris sobre el seu funcionament.
  • Un sistema de notificacions en cas d’incident greu o error.

1.4.1

S’establirà una política de participació de diferents grups d’interès (stakeholders) on s’inclogui les persones usuàries finals i/o receptores.

1.4.2

2.1. Inclusió i diversitat

Recomanació de clàusula

El sistema d’IA comptarà amb mesures d’inclusió i equitat, especialment en relació amb els següents aspectes:

  • Testatge dels resultats del sistema per a diferents grups afectats.
  • Mesures d’augment de l’accessibilitat.
  • Mesures que recolzin el seu ús per part de persones en situació de vulnerabilitat.
  • Mesures per a garantir que el sistema s’adapta a un ampli espectre de preferències i habilitats individuals.

2.1.1

El sistema serà sotmès a una avaluació amb la finalitat de verificar que no utilitza variables o proxies injustament discriminatòries abans de la seva comercialització/utilització.

2.1.2

El grup de desenvolupament del sistema d’IA ha d’incloure persones de gènere no masculí, persones de diversos orígens o cultures i de diverses disciplines de coneixement (més enllà de la informàtica i l’enginyeria).

2.1.3

L’organització promourà una política organitzativa que tingui com a prioritat la diversitat, l’equitat i la inclusió.

2.1.4

2.2. Identificació i mitigació de biaixos

Recomanació de clàusula

El sistema comptarà amb mesures i mecanismes per a detectar, corregir i mitigar possibles biaixos durant tot el seu cicle de vida.

Especialment, les mesures aniran adreçades als baixos presents en:

  • La fase de disseny o implementació.
  • Les dades d’entrenament i posteriors.
  • Categories canviants o inadequades.

2.2.1

Abans de la seva comercialització/utilització el sistema serà sotmès a una avaluació sobre l’impacte dels seus possibles biaixos, especialment aquells que podrien afectar els drets, salut o seguretat de les persones.

2.2.2

El sistema complirà amb els estàndards de classificació que tracten els biaixos relacionats amb l’edat, l’ètnica, la raça, el sexe o la discapacitat d’acord amb la normativa aplicable.

2.2.3

El sistema inclourà mecanismes de seguretat per tal de prevenir els següents incidents:

  • Anomalies o accions fora dels límits predeterminats.
  • Sortides esbiaixades i bucles de retroalimentació.

2.2.4

Les mesures per a la detecció, correcció i mitigació de biaixos compliran amb la normativa aplicable en matèria de protecció de dades. En específic, es garantirà el compliment del Reglament (UE) 2016/679, la Directiva (UE) 2016/ 680, i el Reglament (UE) 2018/1725.

2.2.5

Es proporcionarà informació detallada sobre les dades i els recursos utilitzats per a prevenir i detectar la inadequació o els biaixos de les dades, així com el risc del biaix d’automatització.

2.2.6

3.1. Funcionament del sistema

Recomanació de clàusula

El sistema anirà acompanyat de la següent informació:

  • El nivell de precisió i seguretat del sistema.
  • La manera i el grau d’influència que les accions de les persones usuàries poden tenir sobre el rendiment del sistema.
  • Els possibles comportaments i escenaris que mai hauria de transgredir per garantir la seguretat i preservar la no maleficència del sistema.
  • Els mecanismes de supervisió i control del sistema (tant intern com extern).

3.1.1

Les persones que han dissenyat/dissenyaran el sistema, proporcionaran orientació sobre com interpretar i respondre les mètriques que generi.

3.1.2

3.2. Traçabilitat per a la gestió del risc

Recomanació de clàusula

Prèviament a la seva comercialització/utilització el sistema serà sotmès a una avaluació que incorpori els següents aspectes:

  • Els possibles impactes del sistema sobre la salut, la seguretat i els drets de les persones afectades.
  • El risc que les dades recollides, generades o utilitzades pel sistema siguin emprades per discriminar a persones de manera negativa.
  • Els possibles riscos i danys que provocaria el sistema en cas de realitzar prediccions inexactes en els escenaris previstos.
  • Els riscos que comportaria utilitzar el sistema més enllà dels usos previstos.

3.2.1

El sistema comptarà amb un protocol general sobre traçabilitat de les dades per a la gestió del risc.

3.2.2

El sistema comptarà amb mitjans que permetin les següents funcions:

  • Identificar, avaluar i adoptar mesures respecte als riscos sorgits del seu ús i de les dades recollides després d’entrar en funcionament.
  • Informar sobre els riscos residuals del sistema que no hagin pogut ser corregits ni mitigats.

3.2.3

3.3. Mecanismes de seguretat

Recomanació de clàusula

El sistema comptarà amb les següents mesures:

  • Mesures de resistència davant errors sorgits per la seva interacció amb altres sistemes o persones.
  • Mesures de resistència i mitigació d’errors sorgits d’intents de manipulació per persones no autoritzades.
  • Mesures d’examen continuo sobre la precisió de les decisions preses pel sistema.

3.3.1

Les persones usuàries del sistema d’IA podran controlar fins a quin punt hi estan exposades al mateix i revocar el seu consentiment en qualsevol moment sense que això comprometi el seu rendiment.

3.3.2

3.4. Protecció enfront d’atacs

Recomanació de clàusula

Prèviament a la seva comercialització/utilització el sistema serà sotmès a una avaluació per a garantir la seva seguretat, integritat i resiliència davant de diferents formes d’atac.

3.4.1

Prèviament a la seva comercialització/utilització els conjunts de dades utilitzades pel sistema seran sotmesos a una avaluació per verificar que no han estat prèviament compromesos o piratejats.

3.4.2

4.1. Control

Recomanació de clàusula

Es prendran mesures per garantir que les persones involucrades en el control de les decisions preses pel sistema tinguin una comprensió adequada sobre el seu funcionament i comptin amb la capacitació necessària per exercir aquesta funció.

4.1.1

El sistema comptarà amb les eines que permetin a les persones encarregades del seu control intervenir, modificar, eliminar o revertir les decisions preses pel sistema.

4.1.2

El sistema anirà acompanyat d’informació i documentació relativa als següents aspectes:

  • Els límits dels mecanismes de control del sistema.
  • Les mesures de supervisió humana amb les que compta el sistema.

4.1.3

4.2. Retiment de comptes

Recomanació de clàusula

Prèviament a la utilització/comercialització del sistema es determinarà:

  • La persona legalment responsable de les accions i/o decisions que pren durant tot el seu cicle de vida.
  • La persona responsable de les mesures de vigilància humana del sistema.

4.2.1

L’organització adoptarà les següents mesures:

  • Portarà a terme una avaluació de cara a determinar la influència que el sistema suposa en la presa de decisions de l’organització.
  • Establirà mecanismes de revisió periòdica sobre la responsabilitat i el retiment de comptes amb els diferents agents involucrats en el seu desenvolupament i ús.

4.2.2

4.3. Figures de protecció

Recomanació de clàusula

L’organització prendrà les següents mesures:

  • Facilitar la demostració del compliment de la legislació vigent.
  • Formes de reparació o compensació en cas de perjudicis causats pel sistema.
  • Determinar figures de protecció envers les persones usuàries i les persones afectades pel sistema.

4.3.1

4.4. Capacitació

Recomanació de clàusula

L’organització es compromet a no realitzar cap afirmació que pugui conduir a sobre estimar les capacitats del sistema i que no sigui demostrable compartint dades i el codi d’aquest.

4.4.1

4.5. Promoció d’una cultura de l'ètica i responsabilitat relacionada amb la IA

Recomanació de clàusula

L’organització desenvoluparà un codi ètic per a l’ús responsable de la intel·ligència artificial.

Inclourà els següents punts:

  • Promoció de l’ús responsable de la intel·ligència artificial per part del personal de l’organització.
  • Portar a terme la determinació dels objectius del sistema i la revisió del seu funcionament partint de la perspectiva de l’ús responsable de la intel·ligència artificial.
  • Adoptar mesures per assegurar que el sistema, en el procés de generar decisions, pren en consideració  les implicacions sobre els drets i el benestar de les persones.

4.5.1

5.1. Protecció de la privacitat

Recomanació de clàusula

Comptarà amb mecanismes de protecció de dades presents durant tot el seu cicle de vida encaminats a garantir els següents aspectes:

  • Que les dades de caràcter personal siguin tractades d’acord amb el grau de protecció legalment requerit per tal d’evitar-ne el mal ús, l’alternació, la pèrdua, o la sostracció per part de tercers.
  • Que les dades subministrades per la persona interessada no siguin venudes, llogades, ni cedides sense el seu consentiment.
  • Que el sistema compta amb processos per a mantenir o millorar la privacitat i protecció de les dades durant tot el seu cicle de vida.
  • Que es fan servir tècniques d’anonimat, xifratge i agregació.
  • Que existeix un protocol per a obtenir el consentiment de les persones afectades abans d’iniciar qualsevol processament de dades a través del sistema, i la informació relativa a aquestes accions és comprensible i accessible per a totes les possibles persones usuàries, inclosos aquelles amb necessitats especials.
  • Que existeix un mecanisme a través del qual la persona interessada pot sol·licitar que la seva informació sigui eliminada.

5.1.1

El sistema garantirà l’accés igualitari per a persones amb discapacitat i en situació vulnerable tot respectant la seva privadesa i dignitat.

5.1.2

5.2. Governança de dades

Recomanació de clàusula

El sistema comptarà amb un registre de la informació d’accés a les dades que permeti identificar clarament qui, quan i amb quin propòsit hi accedeix.

5.2.1

Es prendran mesures per garantir que les persones responsables del processament i gestió de dades comptin amb les competències necessàries per a realitzar aquestes funcions i coneixements actualitzats sobre la matèria.

5.2.2

De cara a garantir l’adequació i l’ús reposable de les dades utilitzades pel sistema es prendran les següents mesures:

  • S’establirà un procediment per assegurar que els conjunts de dades usats siguin adients i rellevants pel rendiment i resultat previst del sistema i que siguin adequades pel context en el qual s’utilitzarà.
  • El procés de recopilació i preparació de les dades usades serà documentat.
  • El sistema utilitzarà mesures de privadesa (com per exemple la pseudonimització de les dades) i limitarà la reutilització de les dades personals sensibles.

5.2.3

El sistema està/ha estat dissenyat de manera que puguin garantir les següents qüestions:

  • El sistema s’adhereix als principis de minimització de dades i protecció de dades des del disseny i per defecte adherir-se als principis de minimització i protecció de dades.
  • El sistema pot ser entrenat sense la necessitat de transmetre o copiar dades en brut o estructurades.

5.2.4

6.1. Impacte en les capacitats de les persones usuàries

Recomanació de clàusula

El sistema inclourà un procés d’avaluació per a garantir que no disminueix el nombre d’eleccions possibles i no obliga o força a prendre unes determinades decisions en general ni en cap fase del seu cicle de vida.

6.1.1

El sistema anirà acompanyat d’un protocol de comprovació que permeti certificar que ajuda les persones a prendre decisions millors i més informades.

6.1.2

El sistema comptarà amb mecanismes que garanteixin els següents aspectes:

  • Que les persones usuàries finals siguin conscients que interactuen amb una intel·ligència artificial i estan prou capacitades i informades per a fer-ho.
  • Que els resultats que generi siguin etiquetats d’alguna manera que permeti a les persones identificar que aquest contingut ha estat general per una intel·ligència artificial.
  • Que no posa en risc els nivells d’autonomia de les persones usuàries finals, evitant l’ús de tècniques manipulatives o subliminars i adaptant-se a les preferències i necessitats de la persona.

6.1.3

6.2. Percepció del sistema

Recomanació de clàusula

El sistema comptarà amb mecanismes que garanteixin que les seves operacions siguin transparents, clares, sinceres i no encoratgen a les persones usuàries a sobreestimar les seves capacitats.

6.2.1

El sistema  comptarà amb els següents mecanismes:

  • Mesures de supervisió humana que possibilitin gestionar el seu grau d’autonomia i adaptabilitat.
  • Mecanisme de limitació del grau d’autonomia del sistema per a evitar comportaments no desitjats o d’alt risc.
  • Adaptar-se i aprendre del seu entorn sense comprometre la seguretat ni estàndards ètics.

6.2.2

El sistema serà sotmès a una avaluació per a identificar i mitigar els riscos de les seves capacitats i el seu grau d’autonomia, així com la seva adaptabilitat a noves tasques.

6.2.3

7.1. Desenvolupament sostenible

Recomanació de clàusula

Es garantirà que en el disseny, la implementació i l’ús el sistema s’han pres en consideració les limitacions i obstacles derivats de la bretxa digital i l’accés social no igualitari.

7.1.1

Abans de la seva comercialització i/o utilització, el sistema serà sotmès a una avaluació sobre els seus impactes als drets de les persones, la seguretat, la salut i el medi ambient.

Aquesta avaluació pren especialment en consideració els següents àmbits:

  • Impacte sobre els drets laborals.
  • Impacte sobre la qualitat de vida de les persones.
  • Impacte i riscos relatius al desenvolupament sostenible.
  • Mesures de compensació justa i tracte ètic a les persones implicades en totes les fases del cicle de vida del sistema i dels afectats per la seva implementació i ús.

7.1.2

El sistema comptarà amb mesures que garanteixin el respecte i ús ètic de les dades protegides per la propietat intel·lectual.  Entre aquestes mesures s’inclourà fer pública la informació relativa a les dades protegides per la legislació sobre propietat intel·lectual emprades pel sistema.

7.1.3

En el desenvolupament, la comercialització, la implementació i/o la utilització del sistema es compactarà amb la participació de parts interessades rellevants.

7.1.4

L’organització col·laborarà activament amb la representació laboral del seu personal per tal d’identificar, corregir i mitigar els possibles riscos que l’adquisició, implementació i/o ús del sistema puguin comportar per al benestar i els drets laborals de les persones treballadores.

7.1.5

7.2. Impacte mediambiental

Recomanació de clàusula

El sistema comptarà amb mecanismes que li permetin enregistrar el seu consum d’energia i impacte ambiental durant tot el seu cicle de vida.

7.2.1

L’organització implementarà mecanismes i estratègies adreçades a millorar l’eficiència energètica del sistema i reduir la seva petjada ambiental, especialment quan s’utilitzen conjunts de dades extensos.

7.2.2

Abans de la seva comercialització i/o utilització, el sistema serà sotmès a una avaluació en la qual s’adreci, com a mínim, els següents aspectes:

  • L’eficiència energètica del sistema.
  • Explorar l’ús de fonts d’energia renovables i pràctiques d’informàtica verda.

7.2.3