BOLETÍN OFICIAL DEL ESTADO
Jueves 9 de noviembre de 2023

Sec. I. Pág. 149151

en los sistemas de inteligencia artificial por parte de los proveedores IA participantes, en
base a las especificaciones facilitadas por el órgano competente. Estos requisitos son:
a) El establecimiento, implementación, documentación y mantenimiento de un
sistema de gestión de riesgo relativo al sistema de inteligencia artificial en cuestión.
b) En caso de sistemas de inteligencia artificial que impliquen entrenamientos con
datos, se garantizará que el desarrollo se ha realizado o se realizará sobre conjuntos de
datos de entrenamiento, validación y pruebas que cumplan los criterios de calidad
especificados sobre la base de las indicaciones proporcionadas por el órgano
competente.
c) La documentación técnica del sistema de inteligencia artificial, indicada en el
anexo VI del presente real decreto, se elaborará conforme a las especificaciones que
facilitará el órgano competente. Esta documentación deberá actualizarse a lo largo de la
duración del entorno controlado de pruebas.
d) Los sistemas de inteligencia artificial deberán técnicamente permitir el registro
automático de eventos (logs) a lo largo del ciclo de vida del sistema. Estos registros
serán guardados por el participante.
e) El sistema de inteligencia artificial habrá sido o será diseñado y desarrollado de
manera que se asegure que su operación es suficientemente transparente para los
usuarios del sistema a efectos de interpretar los resultados de este y evitando generar
sesgos discriminatorios para un uso adecuado del mismo.
f) El sistema de inteligencia artificial irá acompañado de instrucciones de uso en
formato electrónico, que incluyan información sobre las características y prestaciones del
sistema que sea concisa, completa, correcta, actualizada, clara, relevante, accesible y
comprensible para los usuarios del sistema.
g) Los sistemas de inteligencia artificial habrán sido o serán diseñados y
desarrollados de manera que puedan ser supervisados por personas físicas durante los
periodos en que esté en uso. Contendrá interfaces humano-máquina apropiadas a tal
efecto. En caso de que por las características del sistema de inteligencia artificial dicha
supervisión no pueda ocurrir en tiempo real, deberá quedar recogido en las
comunicaciones relacionadas con la transparencia del sistema.
h) Los sistemas de inteligencia artificial habrán sido o serán diseñados y
desarrollados de manera que consigan, teniendo en cuenta su finalidad prevista, un nivel
adecuado de precisión, solidez y ciberseguridad. Estas dimensiones deberán funcionar
de manera consistente a lo largo de su ciclo de vida.
2. Los requisitos que deberá abordar cada participante se acordarán, juntamente
con el órgano competente, al inicio del entorno controlado de pruebas mediante un plan
de implementación.
Artículo 12. Desarrollo de las pruebas por los participantes.
1. Una vez admitido, el proveedor IA participante llevará a cabo las actuaciones que
le permitan el cumplimiento de los requisitos descritos en el artículo 11 del presente real
decreto y según lo acordado en el plan de implementación. El órgano competente podrá
poner a su disposición guías técnicas de ayuda y asesoría personalizada que faciliten al
proveedor IA las tareas que debe realizar en el contexto del entorno controlado de
pruebas. La forma de cooperación entre los proveedores IA participantes y usuarios
participantes con el órgano competente se detallará en un plan de desarrollo de dicho
entorno según se especifique en la convocatoria.
2. La adaptación de estos sistemas de inteligencia artificial al cumplimiento de los
requisitos no debería implicar riesgos potenciales en materia de protección de
consumidores, de usuarios y de terceros que pudieran verse afectados.
3. Los proveedores IA participantes y usuarios IA participantes podrán apoyarse en
estándares existentes, así como en evaluaciones previas realizadas en el marco de

cve: BOE-A-2023-22767
Verificable en https://www.boe.es

Núm. 268