Cómo funciona

Modelo PIO

En primer lugar, las organizaciones podrán ver una presentación de cada principio y la selección de una serie de indicadores pregunta seleccionados estratégicamente después de una revisión exhaustiva de la literatura especializada (Fase 1). En segundo lugar, se recogerán todas las respuestas afirmativas y negativas de las autoevaluaciones rápidas y completas así como las justificaciones a las respuestas por estas últimas, si procede (Fase 2).

Con la información obtenida de la autoevaluación se obtendrán métricas por cada uno de los 7 principios evaluados y con ellas perfiles observables de cada una de las organizaciones que lleven a cabo la autoevaluación (Fase 3). Una vez obtenidas las métricas correspondientes, se procederá a la elaboración de una insignia o sello de calidad que será la imagen gráfica del modelo de autoevaluación PIO representando la adecuación de los datos y del sistema de IA según los 7 principios éticos del modelo: (1) la transparencia y explicabilidad, (2) la justicia y equidad, (3) la seguridad y no maleficencia, (4) la responsabilidad y rendición de cuentas, (5) la privacidad, (6) la autonomía, y (7) la sostenibilidad. En este proceso se utiliza un gradiente de color para representar de una manera rápida, sencilla y efectiva los resultados obtenidos mediante el modelo de autoevaluación (Fase 4).

En este sentido, antes de llevar a cabo la autoevaluación será importante escoger la persona o personas responsables dentro de las organizaciones públicas o privadas que utilizan sistemas de IA para realizar, desde un punto de vista competencial, una autoevaluación con la máxima información disponible. Para hacerlo, se recogerán respuestas binarias (Sí/No) a 70 preguntas sobre cada uno de los 7 principios anteriormente descritos.

Se podrá realizar una autoevaluación rápida de posición y una autoevaluación de posición completa con recomendaciones. Esta última requiere la justificación de las respuestas afirmativas o negativas, puesto que esto permitirá al equipo de OEIAC, junto con las personas colaboradoras externas, analizar las respuestas cualitativas y poder proporcionar feedback a la organización que lo haya realizado si así lo desea. De este modo, además de obtener unas métricas específicas y una insignia de calidad, las organizaciones que hayan realizado la autoevaluación completa recibirán recomendaciones específicas de mejora.

Así pues, a modo de resumen estas son las fases que incluye cada modelo de autoevaluación:
Autoevaluación rápida: FASE 1 + FASE 2 + FASE 3 + FASE 4
Autoevaluación completa: FASE 1 + FASE 2 + FASE 3 + FASE 4 + Feedback OEIAC

Por último, la insignia de calidad es una imagen gráfica de posición que se basa en las métricas obtenidas sobre la orientación y adecuación de los datos y sistema de IA del sistema de IA a los diferentes principios éticos de acuerdo con el modelo PIO. En este sentido, en su interior se sitúan los diferentes principios con un gradiente de color de acuerdo con las métricas obtenidas, siendo 0 el equivalente a ninguna respuesta afirmativa y 100 a todas las respuestas afirmativas.