¿Por qué verificación?
La verificación es una herramienta para evaluar nuestro sistema de IA al alcance de todos para contribuir al uso de una IA Ética y de acuerdo con la normativa vigente.
Con este proceso de verificación descubrimos o tenemos la certeza sobre la categoría de riesgo asociada nuestro sistema con la fase de preevaluación y posteriormente, conocéis el detalle de la adecuación a los siete principios éticos troncales del Modelo PIO. Finalmente, se obtiene un resultado a través del cual os guiamos e indicamos las fortalezas y las mejoras de vuestro sistema de acuerdo con el proceso realizado.
¿Por qué catálogos?
Los catálogos sirven como herramienta para localizar y conocer contenido específico que incluye el Modelo PIO. Ambos siguen el orden del Modelo PIO, es decir, la categorización a partir de los siete principios y la clasificación de los apartados correspondientes. Así como, la información clasificada también está ordenada de manera alfabética para facilitar la navegación.
Texto para el apartado concreto:
Legal: El presente catálogo contiene la normativa legal y a las recomendaciones éticas existentes que han configurado las cuestiones planteadas en el modelo. Además, cada normativa referenciada permite el acceso al texto correspondiente, al artículo concreto citado y a la pregunta del Modelo PIO donde se menciona.
Ejemplos: El presente catálogo recoge ejemplos relacionados con las más de ciento treinta preguntas del modelo, que permiten filtrar las búsquedas a través de ejemplos reales o supuestos concretos. Además, encontraréis enlaces al artículo periodístico o académico que sostiene o ejemplifica el contenido, así como la pregunta del Modelo PIO donde aparece.
¿Por qué recomendaciones?
Proporcionamos cláusulas de recomendación ética para la compra y adquisición de sistemas de IA las cuales incorporan los requisitos legales y los estándares y recomendaciones éticas y sirven como pautas para que las organizaciones públicas y privadas las incorporen en sus procesos de contratación y de compras.
Estas giran en torno a los siete principios básicos del Modelo PIO. En este sentido, contiene cláusulas de transparencia y requiere que las personas proveedoras proporcionen una documentación completa sobre el diseño, los algoritmos y los procesos de toma de decisiones del sistema de IA; Cláusulas de equidad que estipulan que los sistemas de IA deben someterse a procesos de detección y mitigación de sesgo, demostrando el compromiso con la justicia y la equidad en los resultados para todas las personas usuarias; cláusulas de seguridad que exigen pruebas de evaluaciones de riesgos rigurosas y la implementación de medidas de seguridad para prevenir daños; cláusulas de rendimiento de cuentas que insisten en marcos de responsabilidad claros de los vendedores, que deben detallar los roles y las responsabilidades en el desarrollo y el despliegue de sistemas de IA; cláusulas de protección de privacidad que exigen el cumplimiento de las leyes de protección de datos (p. ej. GDPR) y la implementación de los principios de privacidad desde el diseño, salvaguardando la privacidad de los usuarios; cláusulas de preservación de la autonomía para asegurar que los sistemas de IA incorporan funciones que permitan la supervisión, el control y la intervención humana para mantener la autonomía del usuario; y cláusulas de sostenibilidad que obligan a la evaluación del impacto ambiental de los sistemas de IA y a un compromiso con prácticas de compromiso social que reflejan el principio de sostenibilidad de la Agenda 2030 de las Naciones Unidas.
