Figura 1. Subriesgos del uso malicioso y tipo de obligaciones impuestas por la Ley de IA

1. Prohibición: se refiere a la prohibición de aquellos casos de uso que suponen riesgos inaceptables para la sociedad (artículo 5). 2. Gestión preventiva de riesgos: incluye las obligaciones de evaluación y mitigación de riesgos para los proveedores de modelos GPAI con riesgos sistémicos (artículo 55, párr. 1 (b)). 3. Notificación de incidentes: documentación y comunicación de incidentes graves (artículo 55, párr. 1 (c)). 4. Obligaciones de ciberseguridad: para los proveedores de sistemas de alto riesgo, implican garantizar la resiliencia frente a ataques de terceros que exploten vulnerabilidades del sistema y demostrar el cumplimiento de obligaciones sectoriales y otras obligaciones en materia de ciberseguridad (artículo 15, párr. 5; anexo IV, párr. 2 (h)); en el caso de proveedores de modelos GPAI con riesgos sistémicos, también deben garantizar un nivel adecuado de protección en ciberseguridad (artículo 55, párr. 1 (d)). 5. Supervisión humana: requisito de que los sistemas de IA de alto riesgo estén supervisados por personas durante su uso, con el fin de prevenir o minimizar “los riesgos para la salud, la seguridad o los derechos fundamentales”, tanto cuando el sistema se utiliza para su finalidad prevista como en condiciones de uso indebido razonablemente previsibles (artículo 14, párr. 1, 2). 6.Obligaciones de transparencia: aplicables a distintos aspectos y casos de uso de los sistemas de IA. En el caso de sistemas destinados a la interacción persona-máquina (por ejemplo, un chatbot), los proveedores deben garantizar que las personas sean conscientes de la naturaleza de la interacción (art. 40, párr. 1), y el contenido sintético debe estar etiquetado como tal. Los responsables del uso (deployers) de sistemas de IA que generen deepfakes, así como texto generado o manipulado por IA para informar sobre asuntos de interés público, también deben revelar la naturaleza artificial del contenido (párr. 2, 4).
Gráfico: Paula Oliver Llorente - Real Instituto ElcanoFuente: elaboración propia, en base a las disposiciones de la EU AI Act.Descargar los datos