Este hace referencia a un conjunto muy limitado de usos que son especialmente nocivos de la IA y que contravienen los valores de la UE, ya que violan los derechos fundamentales y, por tanto, están prohibidos.
Este hace referencia a un número limitado de sistemas de IA que pueden generar un impacto adverso en la seguridad de las personas o sus derechos fundamentales según la Carta de los Derechos Fundamentales de la UE y, por tanto, se consideran de alto riesgo.
Este hace referencia a los riesgos asociados a la falta de transparencia en el uso de la IA y, por tanto, a la necesidad de obligaciones específicas de transparencia para garantizar que los humanos estén informados cuando sea necesario, fomentando la confianza.
Este hace referencia a todos los demás sistemas de IA que se pueden desarrollar y utilizar de acuerdo con la legislación vigente sin obligaciones legales adicionales. Voluntariamente, los proveedores de estos sistemas pueden optar por aplicar principios éticos como los del Modelo PIO.
La legislación europea sobre inteligencia artificial contempla en su artículo 5 un conjunto de prácticas consideradas de riesgo inaceptable porque inciden en los derechos fundamentales y la seguridad humana de manera tan grave que su uso no puede ser permitido. Por este motivo, cualquier sistema de IA que coincida con alguna de estas prácticas no podrá ser comercializado, desarrollado ni utilizado dentro del territorio de la UE.
A continuación, encontraréis un listado de los usos inaceptables. Si alguno de ellos se aplica a vuestro sistema, no es necesario que completéis las preguntas del Modelo, ya que éste ha sido pensado para evaluar sistemas que podrán ser efectivamente utilizados de acuerdo con la legislación.
Esta tabla contiene las prácticas consideradas de usos prohibidos por el artículo 5 del Reglamento 2024/1689 del Parlamento y del Consejo sobre inteligencia artificial (AI Act).
En este apartado encontraréis las cuestiones que os permitirán saber el nivel de riesgo asociado a vuestro sistema más allá del riesgo inaceptable o usos prohibidos. Para completar la preevaluación, por favor, seguid el siguiente circuito.
Esta tabla contiene las practicas consideradas de alto riesgo por el artículo 6 del Reglamento 2024/1689 del Parlamento y del Consejo sobre inteligencia artificial (AI Act).
Si contestáis de manera afirmativa a una o más de las siguientes preguntas, podréis considerar que vuestro sistema está considerado de este grupo de riesgo.
Esta tabla contiene las prácticas consideradas de riesgo limitado relativas a los sistemas de IA generativa y a los sistemas de reconocimiento de emociones e identificación biométrica no incluidos como sistemas prohibidos o de alto riesgo, según el artículo 50, y las prácticas relativas a los sistemas de propósito general, según el artículo 51 del Reglamento 2024/1689 del Parlamento y del Consejo sobre inteligencia artificial (AI Act). Si contestáis de forma afirmativa a una o más de las siguientes preguntas, entonces podéis considerar que vuestro sistema está considerado de este grupo de riesgo. Si contestáis de forma afirmativa a una o más de las siguientes preguntas, entonces podéis considerar que vuestro sistema está considerado de este grupo de riesgo.
En el caso de que vuestro sistema no recaiga en ninguna de las categorías anteriores, podrá ser considerado de riesgo mínimo. Si bien el Reglamento 2024/1689 del Parlamento y del Consejo sobre inteligencia artificial (AI Act) puede requerir algunos requisitos de transparencia para determinados sistemas de IA de este tipo, no impone obligaciones adicionales a los sistemas considerados de riesgo mínimo, pero invita a comprometerse con códigos de conducta o una evaluación ética de forma voluntaria.
En el caso de que no tengáis claro si la legislación europea de inteligencia artificial (AI Act) es aplicable en vuestro caso, así como la posible categoría de riesgo aplicable, os proporcionamos 50 ejemplos prácticos de aplicación de la AI Act según el nivel de riesgo. Evidentemente, se trata de ejemplos orientativos y, en todos los casos, estos sólo sirven como una guía referencia y, por lo tanto, no es exhaustiva y siempre hay que contextualizarlos.
Una empresa del sector de la salud utiliza una aplicación propulsada por IA para el triaje de pacientes.
Una empresa implementa un sistema de vigilancia con cámaras dotadas de reconocimiento facial para la seguridad de sus instalaciones.
Una institución pública utiliza tecnología de reconocimiento de voz para analizar la prioridad en la atención de llamadas telefónicas.
Una institución educativa utiliza un sistema de IA para hacer seguimiento del rendimiento académico de los estudiantes y predecir posibles abandonos.
Un hospital utiliza un sistema de IA para analizar imágenes médicas y ayudar en el diagnóstico de enfermedades.
Un centro de salud utiliza un sistema de IA para la gestión de las citas y la organización de las listas de espera.
Una oficina de servicios sociales utiliza IA para identificar familias con riesgo de sufrir situaciones de vulnerabilidad y ofrecer apoyo proactivo.
Una empresa utiliza IA para la selección de personal, analizando los currículos de los candidatos y prediciendo su rendimiento potencial.
Un banco utiliza IA para analizar las solicitudes de crédito y evaluar la solvencia de los solicitantes.
Una aseguradora utiliza IA para evaluar las cuotas mensuales a pagar por la persona que contrata un seguro de vida.
Una empresa de energía utiliza IA para predecir posibles incidencias en el suministro de electricidad.
Una empresa de transporte dispone de camiones que cuentan con un sistema de conducción automática.
Un sistema de IA que se utiliza para identificar la autenticidad de los documentos utilizados como prueba en el marco de la investigación de un delito.
Las autoridades ferroviarias de dos países fronterizos utilizan un sistema IA para optimizar la programación de los trenes y gestionar el tráfico transfronterizo.
Una empresa de transporte instala un sistema IA en sus vehículos para optimizar las rutas de entrega y reducir los tiempos de transporte.
Una universidad utiliza IA para analizar los datos de inscripción y determinar los criterios de acceso para el futuro curso académico.
Una empresa que se dedica a los servicios jurídicos utiliza ChatGPT o Copilot para redactar la documentación relativa a las solicitudes de residencia de sus clientes y analizar las probabilidades de éxito las mismas.
Una empresa utiliza un sistema biométrico para el control de acceso a sus oficinas basado en huellas digitales.
Una organización de ayuda humanitaria contrata un modelo de IA de propósito general para analizar las necesidades de las comunidades afectadas por desastres naturales y planificar la distribución de ayuda.
Una empresa utiliza un modelo de IA de propósito general para personalizar la publicidad en línea basándose en el comportamiento de navegación de los usuarios.
Una empresa proporciona a sus empleados un servicio de ChatGPT para generar correos electrónicos y otros textos.
Una empresa ha desarrollado una herramienta de imágenes sintéticas basada en un LLM y la utiliza para generar imágenes por sus documentos de trabajo.
Una empresa cuenta con un chatbot en su sitio web para responder a consultas generales sobre la empresa.
Una institución pública utiliza un modelo de propósito general para predecir aglomeraciones como manifestaciones o actos similares basándose en datos de redes sociales.
Una plataforma de comercio electrónico utiliza IA proveída por una bigtech entrenada con conjuntos de datos masivos para recomendar productos a los clientes basándose en sus preferencias de compra.
Una empresa utiliza un sistema de IA que genera propuestas de contratos personalizados.
Una empresa de logística utiliza una IA de propósito general para predecir los cuellos de botella en la cadena de suministro y evitar retrasos.
Una empresa de telecomunicaciones utiliza IA para optimizar la red, mejorar la calidad del servicio y ejecutar autónomamente modificaciones en el suministro individual de sus clientes.
Un servicio meteorológico utiliza IA para hacer predicciones del tiempo y alertar a la población sobre fenómenos meteorológicos extremos y elaborar informes.
Una empresa de energía de alcance nacional utiliza IA para predecir la demanda, optimizar la distribución de electricidad y analizar los hábitos de consumo de la seca clientela.
Una empresa de arquitectura utiliza IA para generar diseños innovadores basándose en las preferencias de los clientes y las tendencias del mercado.
En un sistema de riego de cultivos se instala una IA de propósito general para que determine la cantidad de agua necesaria y la frecuencia de riego en función de las condiciones meteorológicas y la estación del año.
Una clínica veterinaria encarga una IA entrenada con sus propios datos para diagnosticar enfermedades en animales de compañía basándose en los síntomas descritos por los propietarios.
Una empresa implementa sensores inteligentes en sus fábricas y almacén para controlar su stock.
Una farmacia utiliza IA para gestionar las existencias de medicamentos y advertir cuando queden pocas unidades de uno.
Un supermercado utiliza IA para analizar los patrones de compra de los clientes y optimizar el inventario.
Un restaurante ha adquirido una de IA entrenada con sus datos históricos para analizar las preferencias de los clientes y ajustar el menú según la demanda.
Una biblioteca utiliza IA para gestionar el catálogo de libros y ordenar el catálogo de lecturas situando las más solicitadas en primer lugar.
Un servicio meteorológico utiliza IA para crear una recopilación de precipitaciones durante todo el siglo pasado en una zona geográfica concreta.
Una empresa que fabrica libretas utiliza IA para detectar defectos en la producción y mejorar la calidad de los productos.
Una empresa alimentaria utiliza IA para controlar la calidad de los productos durante el proceso de producción.
Un restaurante ha adquirido una de IA entrenada con sus datos históricos para analizar las preferencias de los clientes y ajustar el menú según la demanda.
Una empresa utiliza un sistema de IA para filtrar los correos que recibe y detectar los que contienen comentarios negativos sobre su marca para luego hacer mejoras.
Una empresa de recursos humanos utiliza IA para analizar los datos de satisfacción de los empleados y mejorar el ambiente laboral.
Una empresa utiliza un sistema de IA que organiza automáticamente sus ficheros electrónicos.
Un sistema de IA que corrija actividades de cálculo mental del alumnado.
Una piscina municipal utiliza una IA para regular el nivel de cloro y la temperatura del agua.
En un invernadero se instala un sistema de IA que activa la acequia cuando detecta una bajada de la humedad.
Una casa de turismo rural utiliza un sistema de IA para regular la temperatura interior en relación con la temperatura exterior siempre y cuando esté alquilada.
Una peluquería utiliza un sistema de IA para proveer el estoc de colores de tintes según la demanda de su clientela mensualmente.