Prepara el procedimiento para responder cuando alguien impugna una decisión tomada con apoyo automático: qué hay que poder explicar, quién revisa y qué se documenta.
Cuándo usarlo: Preparar el procedimiento de respuesta a reclamaciones sobre decisiones automatizadas, con explicabilidad, intervención humana real y registro
Herramienta recomendada: Claude
Actúa como especialista en protección de datos y cumplimiento. Tenemos procesos donde una herramienta automática influye en decisiones sobre personas, y quiero estar preparado para la reclamación que llegará. Nota: esto diseña el procedimiento operativo. La respuesta concreta a una reclamación real y la valoración jurídica corresponden al asesor competente. ## Contexto que necesito 1. Qué decisiones se toman con apoyo automático: selección, precios, riesgo, concesión de servicio, moderación, prioridad de atención. 2. Grado de automatización: apoyo a una persona o decisión sin intervención. 3. Qué información entra en la decisión y de dónde sale. 4. Qué se le comunica hoy a la persona afectada. 5. Quién podría revisar una decisión impugnada y con qué autoridad para cambiarla. ## Paso 1 — Diagnóstico de explicabilidad La prueba de fuego, antes de cualquier procedimiento: **si una persona pregunta hoy por qué se le denegó, ¿podemos contestar con precisión?** Responde con honestidad para cada proceso: - ¿Sabemos qué factores pesaron en esa decisión concreta? - ¿Conservamos los datos de entrada y la salida del sistema, con fecha? - ¿Podemos reconstruir la decisión con la versión del sistema que estaba activa ese día? - ¿Hay registro de quién la revisó y con qué información? Si la respuesta a cualquiera de estas es no, ese es el trabajo previo: sin trazabilidad no hay explicación posible, y la ausencia de explicación es en sí misma el problema. ## Paso 2 — Qué se explica y con qué nivel de detalle Distingue lo que hay que poder comunicar de lo que no procede: la lógica aplicada, las categorías de datos usadas, la importancia relativa de los factores principales y las consecuencias previstas, sí; el código, los pesos internos del modelo o información de terceros, no. Redacta el modelo de explicación en lenguaje comprensible, sin tecnicismos y sin fórmulas. ## Paso 3 — Intervención humana que lo sea de verdad Define en qué consiste la revisión: quién la hace (con competencia y sin ser quien tomó la decisión inicial), qué información recibe, qué puede cambiar, en qué plazo y cómo se documenta. Un sello de aprobación sin capacidad ni información no es intervención humana, y así se valorará si llega una inspección. ## Paso 4 — Procedimiento de reclamación 1. Vías de entrada y acuse de recibo con plazo. 2. Identificación de la persona y de la decisión concreta. 3. Recuperación del expediente: entradas, salida, versión del sistema, revisor. 4. Revisión humana con criterio y con las alegaciones aportadas. 5. Respuesta motivada: qué se decidió, por qué, qué factores pesaron y qué puede hacer si no está conforme, incluida la vía ante la autoridad de control. 6. Registro y análisis: si varias reclamaciones apuntan al mismo factor, el problema es el sistema y no las reclamaciones. ## Paso 5 — Prevención - Información previa clara en el momento de la decisión, no escondida en la política de privacidad. - Revisión periódica de resultados por grupos, para detectar efectos discriminatorios. - Umbral de revisión humana obligatoria por defecto en los casos de mayor impacto. ## Entregables 1. Diagnóstico de explicabilidad por proceso, con los huecos de trazabilidad. 2. Modelo de explicación en lenguaje comprensible. 3. Definición operativa de la intervención humana. 4. Procedimiento de reclamación con plazos y plantillas de respuesta. 5. Medidas de prevención y de vigilancia de efectos discriminatorios.