El Modelo PIO

Cómo funciona

El Modelo PIO es una nueva herramienta de evaluación sobre los usos éticos y legales que está armonizada con los requisitos legislativos y los estándares y recomendaciones éticas actuales. Esta herramienta de evaluación consiste en una lista de verificación o checklist sobre usos éticos estructurada en torno a siete principios, y diseñada para el desarrollo, despliegue y evaluación de datos y sistemas de IA.

El Modelo PIO se inicia con unas llamadas preguntas cero o preguntas básicas que reflejan el contenido ético esencial que conforma la lista de verificación del modelo y, en este sentido, permite hacer una rápida aproximación sobre las consideraciones éticas fundamentales a tener en cuenta (Fase 0).

Tras este posicionamiento inicial, el Modelo PIO permite realizar una preevaluación según las categorías de riesgo contempladas en la normativa sobre inteligencia artificial de la UE (AI Act). En este sentido, se clasificarán los sistemas de IA según si son considerados de riesgo inaceptable a partir de la normativa de la AI Act. El riesgo inaceptable hace referencia a un conjunto muy limitado de usos que son especialmente nocivos de la IA y que contravienen los valores de la UE, ya que violan los derechos fundamentales y, por lo tanto, están prohibidos (Fase 1).

Una vez realizada esta distinción sobre riesgo inaceptable o no, en la misma preevaluación se clasificarán los sistemas de IA según la AI Act de la siguiente manera (Fase 2):

1. Riesgo alto: este hace referencia a un número limitado de sistemas de IA que pueden generar un impacto adverso en la seguridad de las personas o sus derechos fundamentales según la Carta de los Derechos Fundamentales de la UE y, por tanto, se consideran de alto riesgo.
2. Riesgo limitado: éste hace referencia a los riesgos asociados a la falta de transparencia en el uso de la IA y, en consecuencia, a la necesidad de obligaciones específicas de transparencia para garantizar que los humanos estén informados cuando sea necesario, fomentando la confianza.
3. Riesgo mínimo: este hace referencia a todos los demás sistemas de IA que se pueden desarrollar y utilizar de acuerdo con la legislación vigente sin obligaciones legales adicionales. Voluntariamente, los proveedores de estos sistemas pueden optar por aplicar principios éticos como los del Modelo PIO.

El resultado de esta preevaluación centrada en la evaluación de riesgos de la AI Act, permitirá posicionar a los usuarios del Modelo PIO en un punto de partida sobre la evaluación de algunos de los principales requisitos legales de la normativa central de IA de la Unión Europea (Fase 3).

Tras la preevaluación, se iniciará la lista de verificación o checklist con ejemplos, que está organizada a través de los siete principios del Modelo PIO y presenta cada pregunta acompañada las disposiciones legales relacionadas con datos y sistemas de IA en los que se fundamenta (no solo en torno a la AI Act), así como con diferentes estándares y recomendaciones éticas (Fase 4).

La recogida de la información de evaluación de los sistemas se realiza según unas etiquetas relacionadas con las categorías de riesgo (alto, limitado y mínimo), que acompañan a las preguntas para facilitar la navegación y respuesta según los datos y sistemas que se estén evaluando. En este sentido, junto a cada una de las preguntas se indica la categoría de riesgo a la que hace referencia con las siguientes etiquetas:

Si una pregunta ha sido etiquetada con más de un color implicará que la cuestión o pregunta corresponde a más de una categoría de riesgo y, por tanto, esto también comportará que hay un requisito de obligatorio cumplimiento según las disposiciones legales establecidas.

La recogida de información se realiza a través de respuestas binarias (afirmativas o negativas) y que no aplican según la información que tienen los usuarios del Modelo PIO de los datos y sistemas de IA que están evaluando para realizar, a posteriori, un cómputo y fotografía del grado de cumplimiento en términos de obligaciones y derechos según los requisitos legales y estándares éticos (Fase 5).

Con la información obtenida a través de la preevaluación y evaluación, se obtendrán métricas (porcentajes) sobre el grado de adecuación a cada uno de los 7 principios evaluados y también según los temas y categorías de riesgo de los datos y sistemas de IA evaluados. Estos resultados están supeditados a la declaración de responsabilidad, mediante la cual la organización se hace responsable de la veracidad de las respuestas aportadas, y serán observables desde los perfiles que pueden crear cada una de las entidades que lleven a cabo la evaluación de sus datos y sistemas de IA (Fase 6). 

 El último paso una vez obtenidas las métricas correspondientes, será el de la elaboración de una insignia que será la imagen gráfica que representa la adecuación de la entidad a los requisitos legales y estándares éticos según el Modelo PIO a través de los siete principios del modelo: (1) la transparencia y explicabilidad, (2) la justicia y equidad, (3) la seguridad y no maleficencia, (4) la responsabilidad y rendimiento de cuentas, (5) la privacidad, (6) la autonomía, y (7) la sostenibilidad. La misma insignia será descargable para que se pueda reflejar y evidenciar la adecuación y capacitación de un sistema de IA de acuerdo con el Modelo PIO (Fase 7).

A quien va dirigido

La respuesta es sencilla: a todas las organizaciones públicas o privadas que tengan un interés en el diseño, desarrollo o despliegue de tecnologías de IA, y a todas las personas que estén utilizando, comprando o sean destinatarias de estas tecnologías y se planteen preguntas como: ¿Cuáles son los riesgos y beneficios de estas tecnologías? ¿Quién se ve afectado por ellas y cómo? ¿De qué manera se puede mejorar el bienestar de las personas con estas tecnologías? Creemos que estas y otras preguntas son lo suficientemente relevantes para interpelar a todas las organizaciones que forman parte de cualquier proceso innovador: universidades y centros de investigación, administración pública, tejido empresarial, y ciudadanía.

Sencillez

El Modelo PIO se elabora con la simplicidad en su núcleo, girando en torno a una pregunta fundamental y eficaz que cualquier organización pública o privada implicada en el desarrollo, la gestión o la supervisión de proyectos que incorporan datos y sistemas de IA puede entender fácilmente: ¿lo hemos hecho?

Partiendo de la premisa de que una de las evaluaciones más críticas que pueden llevar a cabo las organizaciones públicas y privadas se refiere a su utilización de datos y sistemas de IA, el Modelo PIO pone el acento en la importancia de estas evaluaciones. Independientemente de si las decisiones organizativas se perciben (tanto interna como externamente) como muy positivas o negativas, hay una necesidad creciente de que estas decisiones estén alineadas con los principios éticos relevantes para el contexto. Además, es imprescindible que esta alineación se comunique con transparencia y se implemente con la máxima precisión posible, especialmente a la luz de la nueva legislación sobre IA como la AI Act.

Desde el punto de vista de la responsabilidad social corporativa, el Modelo PIO se presenta como una herramienta versátil, aplicable a diversas etapas del ciclo de vida de los datos y sistemas de IA. Esto abarca la fase de diseño y modelización, que incluye la planificación, la recogida de datos y la construcción del modelo; la fase de desarrollo y validación, que incluye la formación y la prueba de modelos; y la fase de desarrollo, seguimiento y perfeccionamiento, que implica la resolución de problemas y la mejora continua.