Guies educació alumnat
L’alumnat ha de poder respondre les següents preguntes de manera binària sense l’opció de “no aplica”. A més a més, per tal que la valoració del sistema d’IA sigui ètic i legal, les preguntes han de ser respostes de manera afirmativa.
Guia ràpida de preguntes
El principi de transparència serveix de base per a la confiança i la responsabilitat dins de la comunitat escolar. Engloba la comunicació clara i la comprensió de com funcionen les eines d'IA, com s'utilitzen en entorns educatius i les implicacions del seu ús per a totes les parts interessades, inclosos professorat, alumnat, famílies o tutors.
Preguntes
Nº
Pots avaluar la precisió del contingut generat per un sistema d’IA?
1.1
Pots identificar si el contingut que obtens amb un sistema ha estat creat per una IA?
1.2
Entens i pots explicar les capacitats i limitacions d’un sistema d’IA críticament?
1.3
Saps que els sistemes d’IA inclouen biaixos algorítmics?
1.4
Saps que els biaixos algorítmics tenen efectes en el teu procés d’aprenentatge?
1.5
El sistema d’IA t’avisa en cas que pateixi un incident greu o error en el seu funcionament?
1.6
El sistema d’IA et demana el teu consentiment abans d’utilitzar-lo?
1.7
El contingut generat per IA generativa és precís i concret?
1.8
El principi de justícia i equitat posa èmfasi en la inclusió i els resultats equitatius per a tots els membres de la comunitat educativa i requereix que les tecnologies d’IA es dissenyin, implementin i s’utilitzin de manera que tinguin en compte i respectin la diversitat d’orígens, identitats i necessitats dins de l’entorn escolar.
Preguntes
Nº
Saps si el sistema d’IA utilitza variables discriminatòries?
2.1
El sistema d’IA s’adapta a les teves preferències i habilitats individuals?
2.2
El sistema d’IA s’adapta a les teves necessitats durant el seu ús?
2.3
Consideres que el sistema no et discrimina respecte a la resta de l’alumnat?
2.4
Els resultats del sistema d’IA no tenen un impacte que reforça discriminacions, estereotips o perjudicis?
2.5
Saps quines són les mesures per a detectar i corregir els possibles biaixos del resultat generat pel sistema d’IA?
2.6
El principi de seguretat i no maleficència relacionada amb la IA en l’educació requereix que el desplegament i l'ús dels sistemes d’IA no afectin negativament el benestar de l’alumnat, professorat i la comunitat educativa més àmpli. Principalment, això implica una consideració acurada de com aquests poden tenir una afectació en la salut mental i prendre mesures proactives per mitigar els possibles efectes negatius.
Preguntes
Nº
L’ús del sistema d’IA millora el teu aprenentatge recolzant el teu pensament crític i la teva creativitat?
3.1
Utilitzes el sistema d’IA com una eina per al teu aprenentatge?
3.2
El sistema d’IA no afecta negativament la teva salut mental?
3.3
Coneixes els possibles riscos o danys que et provocaria el sistema d’IA si el fas servir per a usos diferents als indicats pel professorat?
3.4
Pots revocar el teu consentiment al sistema d’IA en qualsevol moment sense que comenci a funcionar malament?
3.5
El principi de responsabilitat en l’ús de la IA en l’educació implica garantir que totes les parts interessades en el seu desplegament tinguin coneixement sobre el seu ús ètic i hagin adquirit una condició reflexiva de l'impacte de les eines d'IA en l'ensenyament, l'aprenentatge i el benestar de la comunitat escolar, així com de la gestió activa dels possibles riscos associats a aquestes tecnologies.
Preguntes
Nº
Ets conscient de les teves responsabilitats quan utilitzes sistemes d’IA en relació amb el teu aprenentatge i resultats?
4.1
Quines són les mesures de vigilància i comprovació dels resultats dels sistema d’IA?
4.2
Saps com i de quina manera el sistema d’IA influeix en la presa de les vostres decisions?
4.3
Estàs exagerant les capacitats del sistema d’IA?
4.4
Atribueixes al sistema d’IA funcions primordials del professorat?
4.5
Coneixes i apliques el codi ètic per l’ús responsable de la IA elaborat pel teu centre educatiu?
4.6
El principi de privacitat referent a la IA en l’educació implica garantir que es respecti i protegeixi la informació personal i el dret a la confidencialitat de les dades de totes les persones de l'ecosistema educatiu. Això suposa implementar mesures sòlides de protecció de dades, polítiques transparents d'ús de dades i donar a les persones control sobre la seva pròpia informació.
Preguntes
Nº
Coneixes el risc que comporta cedir les teves dades en sistemes d’IA?
5.1
Disposes d’altres fonts creïbles que puguin validar les dades o la resposta donada?
5.2
Les dades són inclusives pel que fa a l’abast del material i les teves perspectives d’aprenentatge?
5.3
Les dades són representatives de la comunitat educativa?
5.4
Pots sol·licitar que la teva informació personal sigui modificada o eliminada del sistema d’IA?
5.5
Saps si les vostres dades personals són anonimitzades o xifrades una vegada les introduïu al sistema d’IA?
5.6
El principi d’autonomia aplicat a la IA en l’educació fa referència el fet que les eines d'IA respectin i promoguin la independència en la presa de decisions de totes les persones de l'ecosistema educatiu. Això vol dir que les tecnologies d'IA haurien de donar suport a la capacitat del professorat i l’alumnat de prendre decisions informades sobre els seus processos d'ensenyament i aprenentatge.
Preguntes
Nº
T’influeix la informació generada pel sistema d’IA respecte al teu coneixement?
6.1
Com protegeixes la teva privadesa durant l’ús del sistema d’IA?
6.2
Saps què interactues amb un sistema IA?
6.3
Pots adaptar el nivell d’autonomia del sistema segons les teves preferències i necessitats?
6.4
El sistema d’IA t’encoratja a desenvolupar una simpatia, empatia o inclinació que sobreestimi llurs capacitats?
6.5
El principi de sostenibilitat en l’ús de la IA en l’educació implica garantir que el seu desplegament es realitzi d'una manera ambientalment responsable, econòmicament viable i socialment equitativa. Des d'una perspectiva mediambiental, la sostenibilitat de la IA a l'educació requereix atenció al consum d'energia i les emissions de carboni associades a la formació i al funcionament de models d'IA. Els educadors i les institucions haurien de defensar i triar solucions d'IA dissenyades tenint en compte l'eficiència energètica i que prioritzin l'ús de fonts d'energia renovables.
Preguntes
Nº
Saps en què consisteix el concepte sostenibilitat respecte als sistemes d’IA?
7.1
Saps si el sistema d’IA pren mesures per incrementar la seva eficiència energètica?
7.2
Coneixes la mitjana de la vida útil del sistema d’IA?
7.3
El sistema d’IA utilitza fonts d’energia renovables i pràctiques d’informàtica verda?
7.4
Participes amb altres centres educatius en iniciatives enfocades a promoure pràctiques d’IA sostenibles?
7.5
Recomanacions
Recomanacions
Nº
Has de provar i avaluar la precisió del contingut generat per un sistema d’IA.
1
El sistema d’IA sempre ha d’indicar que el resultat ha estat elaborat mitjançant intel·ligència artificial.
2
Has d’entendre i explicar quines són les capacitats i les limitacions del sistema d’IA.
3
El sistema d’IA s’alimenta de dades que inclouen biaixos d’orígens diferents que també s’inclouran en el resultat.
4
Si el sistema d’IA pateix un incident greu o algun error has de rebre un avís notificant-ho.
5
El sistema d’IA ha de requerir el consentiment abans d’utilitzar-lo per tal d’assegurar-se que s’entén llur funcionament.
6
Recomanacions
Nº
El sistema d’IA pot incloure discriminacions en les variables que fonamenten llur funcionament.
1
El resultat que genera el sistema d’IA no pot discriminar cap alumne respecte dels altres.
2
El sistema d’IA s’adapta a les preferències i habilitats individuals, a més, les necessitats d’aprenentatge.
3
El sistema d’IA no pot reforçar:
- Discriminacions.
- Estereotips.
- Perjudicis.
4
Has d’utilitzar mesures per a la detecció d’errors i correcció, si és el cas, sense que el sistema d’IA vegi compromès llur funcionament.
5
Recomanacions
Nº
El sistema d’IA és una eina d’aprenentatge.
1
Cal trobar l’equilibri entre el pensament crític i la creativitat per tal que no es vegin perjudicades aquestes habilitats en l’ús del sistema d’IA.
2
L’ús del sistema d’IA no pot perjudicar la salut ni la salut mental.
3
L’ús del sistema d’IA més enllà dels previstos generarà riscos i pot causar danys.
4
És fonamental que consentiu l’ús del sistema d’IA. Podeu decidir revocar-lo en qualsevol moment sense que això comprometi llur rendiment.
5
Recomanacions
Nº
Has de ser conscient i responsables de l’ús del sistema d’IA al procediment d’aprenentatge i l’impacte als resultats i coneixement en general.
1
El sistema d’IA ha d’estar sempre sota supervisió i mesures de correcció humanes per poder controlar llurs resultats.
2
No es pot exagerar la hipèrbole dels sistemes d’IA sumant-se als discursos que els hi atribueixen capacitats màgiques amb funcions il·limitades, ja que en cap cas podran substituir les funcions definitòries i humanes del professorat.
3
Has de conèixer i basar-vos en el codi ètic elaborat per representants de tota la comunitat educativa per al funcionament del sistema d’IA.
4
Recomanacions
Nº
Has de conèixer del vostre sistema d’IA:
- El risc de les dades una vegada introduïdes.
- El risc a la pèrdua de les dades.
- L’impacte a la privacitat.
- La traçabilitat.
1
Les fonts del coneixement per a l’aprenentatge han de ser molt diverses i no es pot limitar només als sistemes d’IA.
2
Les dades utilitzades al sistema d’IA han de ser representatives de la societat i inclusives de totes les diversitats i opcions possibles.
3
Les dades introduïdes al sistema d’IA les heu de poder modificar o eliminar sempre que vulgueu.
4
Les dades introduïdes al sistema d’IA han de comptar amb tècniques de tutela, d’acord amb la legalitat, com l’anonimització o el xifratge.
5
Recomanacions
Nº
Durant l’ús del sistema d’IA l’autonomia ha d’estar sempre tutelada i garantida.
1
El sistema d’IA s’ha de poder adaptar a:
- El nivell d’autonomia.
- Les preferències de la persona usuària.
- Les necessitats desitjades.
2
El sistema d’IA no et pot encoratjar ni despertar el sentiment de sobreestimar les capacitats humanes en favor d’aquest.
3
Els sistemes d’IA generativa també recopilen les dades que s’introdueixen.
4
Recomanació de clàusula
Nº
Has d’utilitzar el sistema d’IA conscientment, ja que té un cost mediambiental i els recursos del planeta són limitats.
1
El sistema d’IA ha de preveure mesures que incrementin l’eficiència energètica.
2
Has de conèixer la durada de la vida útil del sistema i el cost econòmic i l’impacte ambiental de llur manteniment.
3
Has d’explorar i utilitzar les energies renovables i informàtica verda en l’alimentació del sistema d’IA.
4
Els sistemes d’IA generativa generen impacten als recursos mediambientals elevats que se n’ha de ser conscient per al seu ús.
5
Amb el suport de:
L’OEIAC contribueix al desplegament de l’Estratègia Catalunya IA 2030 per esdevenir un territori capdavanter en innovació digital responsable.
