Aprende a diseñar una pipeline de MLOps para llevar modelos de machine learning a producción y mantenerlos funcionando de forma fiable. El prompt cubre desde el versionado de modelos hasta el monitoreo de drift y la automatización del reentrenamiento.
Cuándo usarlo: Diseñar e implementar pipelines de MLOps para producción
Herramienta recomendada: Claude
Actúa como un ingeniero de MLOps senior con experiencia en el diseño e implementación de pipelines de machine learning en entornos de producción usando herramientas como MLflow, Kubeflow, Vertex AI, SageMaker y plataformas cloud (AWS, GCP, Azure). Necesito que me ayudes a diseñar e implementar una estrategia de MLOps para llevar nuestros modelos de ML a producción y mantenerlos operativos con calidad y eficiencia. **CONTEXTO TÉCNICO:** [Describe tu stack tecnológico actual (lenguaje, frameworks de ML, plataforma cloud, herramientas de CI/CD), el tipo de modelos que desplegáis (clasificación, regresión, NLP, computer vision), la frecuencia de actualización esperada y el tamaño del equipo de data science/ingeniería.] **LO QUE NECESITO:** 1. **Arquitectura de la pipeline de MLOps** - Describe los componentes esenciales de una pipeline de MLOps production-ready: ingesta de datos, feature store, entrenamiento, evaluación, registro, despliegue, monitoreo y reentrenamiento. - Propón una arquitectura referencia para mi stack tecnológico, con las herramientas más adecuadas para cada componente. - Explica las diferencias entre despliegue en batch (inferencia periódica) y en tiempo real (REST API o streaming) y cuándo usar cada uno. 2. **Versionado de modelos y experimentos** - Explica cómo implementar el tracking de experimentos con MLflow u otras herramientas: qué loguear (parámetros, métricas, artefactos), cómo comparar experimentos. - Define un esquema de versionado semántico para modelos de ML y cuándo incrementar cada número de versión. - Propón cómo gestionar el model registry: quién puede aprobar un modelo para producción, qué criterios de calidad debe cumplir. 3. **CI/CD para modelos de ML** - Describe cómo adaptar un pipeline de CI/CD (GitHub Actions, GitLab CI, Jenkins) para el ciclo de vida de un modelo de ML. - Define los pasos del pipeline: lint de código, tests unitarios, tests de datos, entrenamiento de validación, evaluación de métricas, despliegue condicional. - Explica qué es el "shadow mode" o "canary deployment" para modelos y cuándo usarlo. 4. **Feature Store** - Explica qué es un feature store, cuándo es necesario y cuándo es sobre-ingeniería. - Compara las principales opciones: Feast, Tecton, Vertex AI Feature Store, SageMaker Feature Store. - Describe cómo evitar el "training-serving skew" (discrepancia entre las features usadas en entrenamiento y en producción). 5. **Monitoreo de modelos en producción** - Define los tipos de drift que deben monitorizarse: data drift (cambio en la distribución de inputs), concept drift (cambio en la relación input-output), model performance drift. - Propón las métricas y herramientas para detectar cada tipo de drift (Evidently AI, WhyLabs, Fiddler, Arize). - Explica cómo definir alertas y umbrales de degradación que activen el reentrenamiento automático o la intervención humana. 6. **Automatización del reentrenamiento** - Describe las estrategias de reentrenamiento: programado (time-based), basado en métricas (trigger-based) y continuo (online learning). - Propón cómo automatizar el ciclo completo: detección de degradación → reentrenamiento → evaluación → despliegue sin intervención humana. - Explica cómo garantizar que el nuevo modelo siempre es mejor que el actual antes de reemplazarlo. 7. **Gestión de datos de entrenamiento** - Define las mejores prácticas para el versionado de datasets: DVC, Delta Lake, LakeFS. - Explica cómo garantizar la reproducibilidad: mismo dataset + mismo código = mismo modelo. - Propón cómo gestionar los datos sensibles o regulados (RGPD) en pipelines de ML. 8. **Costes y optimización de la infraestructura de MLOps** - Explica cómo estimar y controlar los costes de entrenamiento e inferencia en cloud. - Propón estrategias de optimización: instancias spot para entrenamiento, cuantización de modelos, model pruning, caching de predicciones. **FORMATO DE RESPUESTA:** Estructura la respuesta en secciones con headers técnicos. Incluye fragmentos de código o pseudocódigo donde sea relevante, comparativas de herramientas en formato tabla de texto, y diagramas de arquitectura en formato de lista anidada. El tono debe ser técnico y preciso, orientado a un equipo de ingeniería con experiencia en software pero que está construyendo su primera pipeline de MLOps.