DESPLIEGUE LOCAL DEL PROGRAMA LLM (Spanish Edition)

¿Qué ocurre cada vez que envías una solicitud a un modelo de IA en la nube?
Tus datos más sensibles pasan a un proveedor externo, aceptas costos de uso impredecibles y dependes de modelos que pueden cambiar o dejar de estar disponibles sin previo aviso
Local LLM Deployment es la guía práctica y definitiva para implementar grandes modelos de lenguaje (LLM) en tu propia infraestructura, con privacidad total, funcionamiento sin conexión y control absoluto de tus sistemas de IA. Diseñado para desarrolladores, ingenieros de IA, profesionales de DevOps, administradores de sistemas y arquitectos empresariales, este libro te muestra cómo crear soluciones de IA listas para producción sin depender de servicios en la nube
En este libro aprenderás a:

• Elegir entre los formatos GGUF, AWQ y EXL2 según tu hardware y tus necesidades de rendimiento
• Calcular con precisión la VRAM necesaria para evitar errores de memoria y optimizar el uso de la GPU
• Implementar Ollama, LM Studio, LocalAI y vLLM para ejecutar modelos locales de forma eficiente
• Construir un pipeline RAG completamente local con ChromaDB, Qdrant y modelos de embeddings sin conexión
• Realizar fine-tuning de modelos mediante QLoRA, LoRA, Axolotl y LLaMA-Factory
• Diseñar sistemas multiagente con enrutamiento inteligente, llamadas a funciones y flujos de trabajo avanzados
• Proteger entornos privados y despliegues empresariales mediante buenas prácticas de seguridad
• Supervisar, escalar y optimizar el rendimiento con Prometheus, Grafana y balanceo de carga entre múltiples GPU

• Una calculadora de VRAM
• Una guía para diagnosticar y solucionar errores frecuentes de entrenamiento
• Un glosario de los conceptos esenciales de la IA moderna