Cómo saber si un uso de IA es de alto riesgo según el AI Act

Actualizado el · Equipo de Kavelai · Parte de la guía IA en recursos humanos: el alto riesgo del AI Act desde el 2 de diciembre de 2027

Un uso de IA es de alto riesgo si cae en una de las áreas del Anexo III del AI Act (biometría, infraestructuras críticas, educación, empleo y RR. HH., servicios esenciales como el crédito o los seguros, orden público, migración y justicia) o si la IA es un componente de seguridad de un producto regulado del Anexo I. Hay excepciones cuando la IA solo hace tareas auxiliares y no elabora perfiles de personas.

Cuatro preguntas

  1. ¿Está prohibido? Si sí, no hay que seguir: no se puede usar. Ver las prácticas prohibidas.
  2. ¿Cae en un área del Anexo III?
  3. ¿Se aplica alguna excepción del artículo 6.3?
  4. ¿Elabora perfiles de personas? Si sí, es de alto riesgo aunque se aplique una excepción.

Las áreas del Anexo III

Área Ejemplos para una pyme
Biometría Identificación biométrica remota, categorización biométrica, reconocimiento de emociones (fuera de lo prohibido)
Infraestructuras críticas Gestión de suministro de agua, gas o electricidad
Educación y formación Decidir admisiones, evaluar resultados de aprendizaje, vigilar exámenes
Empleo y RR. HH. Filtrar candidaturas, evaluar entrevistas, decidir ascensos o despidos, asignar tareas por rasgos personales, medir el rendimiento
Servicios esenciales Calificar la solvencia de personas, fijar precios de seguros de vida o salud, priorizar emergencias
Orden público, migración, justicia y procesos democráticos Poco habitual en pymes

Ejemplos rápidos

Uso ¿Alto riesgo?
Redactar ofertas de empleo con IA No
Un ATS que ordena y descarta candidaturas Sí
Resumir currículums para que una persona los lea todos Probablemente no (tarea preparatoria), si no elabora perfiles
Puntuar la productividad de cada empleado Sí
Chatbot de atención al cliente No (pero hay deber de transparencia)
Puntuar la solvencia de clientes particulares Sí

Si el uso es de alto riesgo

Las obligaciones para quien lo usa empiezan el 2 de diciembre de 2027: supervisión humana, registros, información a la plantilla y a su representación, entre otras. El detalle está en la guía de IA en RR. HH..

Anota la clasificación de cada herramienta en el inventario de IA y guarda el razonamiento.

Preguntas frecuentes

¿ChatGPT es un sistema de alto riesgo?

No por sí mismo. Lo que es de alto riesgo es el uso. Usar ChatGPT para redactar correos es riesgo mínimo; usarlo para puntuar y descartar candidaturas puede convertirlo en un uso de alto riesgo.

¿Qué pasa si la IA solo ayuda y la decisión la toma una persona?

El artículo 6.3 prevé que no sea de alto riesgo cuando la IA hace una tarea procedimental limitada, mejora el resultado de una actividad humana ya hecha, detecta patrones sin sustituir la valoración humana o hace una tarea preparatoria. Pero si elabora perfiles de personas, siempre es de alto riesgo.

Fuentes

¿Cumple tu empresa? Repasa las 10 preguntas del autodiagnóstico del artículo 4.

Sigue leyendo