Ollama: Modelos de Lenguaje Grande Autogestionados que Reemplazan las APIs de OpenAI y Claude
Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande (LLM) localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, permitiendo a las organizaciones alojar sus propios LLMs como Llama, Mistral y Qwen sin enviar indicadores o datos a OpenAI, Anthropic o Google.
Este curso práctico, impartido por un instructor (en línea o presencial), está dirigido a ingenieros de IA intermedios y operadores de plataforma que desean utilizar Ollama para reemplazar las APIs de LLM en la nube con una inferencia de modelos de lenguaje propia y soberana.
Al finalizar este curso, los participantes serán capaces de:
- Instalar Ollama en Linux, macOS y Windows con soporte para GPU.
- Extraer, cuantizar y servir modelos desde el registro de Ollama y HuggingFace.
- Crear Modelfiles personalizados con indicaciones del sistema y ajuste de parámetros.
- Integrar LLMs locales con aplicaciones mediante la API compatible con OpenAI.
- Optimizar el rendimiento de inferencia para configuraciones solo de CPU y múltiples GPUs.
Formato del Curso
- Lección interactiva y discusión.
- Numerosos ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar un entrenamiento personalizado para este curso, por favor contáctenos para coordinarlo.
Temario del curso
Soberanía de IA y Despliegue Local de LLM
- Riesgos de los LLM en la nube: retención de datos, entrenamiento con entradas, jurisdicción extranjera.
- Arquitectura de Ollama: servidor de modelos, registro y API compatible con OpenAI.
- Comparación con vLLM, llama.cpp y Text Generation Inference.
- Licenciamiento de modelos: términos de Llama, Mistral, Qwen y Gemma.
Instalación y Configuración de Hardware
- Instalación de Ollama en Linux con soporte para CUDA y ROCm.
- Fallback solo para CPU y optimización AVX/AVX2.
- Despliegue con Docker y mapeo de volúmenes persistentes.
- Configuración multi-GPU y estrategias de asignación de VRAM.
Gestión de Modelos
- Extracción de modelos desde el registro de Ollama: ollama pull llama3.
- Importación de modelos GGUF desde HuggingFace y TheBloke.
- Niveles de cuantización: compromisos entre Q4_K_M, Q5_K_M y Q8_0.
- Cambio de modelos y límites de carga concurrente de modelos.
Modelfiles Personalizados
- Sintaxis de escritura de Modelfile: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajuste de temperatura, top_p y repeat_penalty.
- Ingeniería de indicaciones del sistema para comportamiento específico por rol.
- Creación y publicación de modelos personalizados en el registro local.
Integración de API
- Endpoint /v1/chat/completions compatible con OpenAI.
- Respuestas en streaming y modo JSON.
- Integración con LangChain, LlamaIndex y aplicaciones personalizadas.
- Autenticación y limitación de tasa con proxy inverso.
Optimización del Rendimiento
- Tamaño de la ventana de contexto y gestión del caché KV.
- Inferencia por lotes y manejo de solicitudes paralelas.
- Asignación de hilos de CPU y conciencia NUMA.
- Monitoreo de uso de GPU y presión de memoria.
Seguridad y Cumplimiento
- Aislamiento de red para puntos finales de servicio de modelos.
- Pipelines de filtrado de entradas y moderación de salidas.
- Registro de auditoría de indicadores y completados.
- Procedencia del modelo y verificación de hash.
Requerimientos
- Administración intermedia de Linux y contenedores.
- Comprensión a alto nivel de modelos de aprendizaje automático y transformadores.
- Familiaridad con APIs REST y JSON.
Público Objetivo
- Ingenieros de IA y desarrolladores que reemplazan las APIs de LLM en la nube.
- Organizaciones con alta sensibilidad de datos que impide el uso de modelos en la nube.
- Equipos gubernamentales y de defensa que requieren modelos de lenguaje aislados (air-gapped).
Los cursos públicos requieren más de 5 participantes.
Ollama: Modelos de Lenguaje Grande Autogestionados que Reemplazan las APIs de OpenAI y Claude - Reserva
Ollama: Modelos de Lenguaje Grande Autogestionados que Reemplazan las APIs de OpenAI y Claude - Consulta
Ollama: Modelos de Lenguaje Grande Autogestionados que Reemplazan las APIs de OpenAI y Claude - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y evaluación avanzadas de modelos Ollama
35 HorasLa depuración y evaluación avanzadas de modelos Ollama es un curso profundo centrado en diagnosticar, probar y medir el comportamiento del modelo al implementar despliegues locales o privados de Ollama.
Esta formación en vivo dirigida por instructores (en línea o presencial) está dirigida a ingenieros de IA avanzados, profesionales de MLOps y expertos en pruebas de software que desean garantizar la confiabilidad, fidelidad y preparación operativa de los modelos basados en Ollama en entornos de producción.
Al finalizar esta formación, los participantes podrán:
- Realizar una depuración sistemática de los modelos alojados en Ollama y reproducir modos de fallo de manera confiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar observabilidad (registros, trazas, métricas) para monitorizar la salud del modelo y la deriva de datos.
- Automatizar pruebas, validación y comprobaciones de regresión integradas en pipelines de CI/CD.
Formato del curso
- Clases magistrales interactivas y discusión.
- Talleres prácticos y ejercicios de depuración utilizando despliegues de Ollama.
- Casos de estudio, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, póngase en contacto con nosotros para coordinarla.
Construcción de Flujos de Trabajo de IA Privados con Ollama
14 HorasEsta capacitación en vivo impartida por instructores en Guatemala (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar esta capacitación, los participantes podrán:
- Desplegar y configurar Ollama para el procesamiento privado de IA.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos comerciales con capacidades de IA instaladas in situ.
- Garantizar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Implementación y optimización de modelos de lenguaje grande (LLM) con Ollama
14 HorasEsta formación presencial, impartida por un instructor en Guatemala (en línea o en las instalaciones), está dirigida a profesionales de nivel intermedio que desean implementar, optimizar e integrar LLM utilizando Ollama.
Al finalizar esta formación, los participantes podrán:
- Configurar e implementar LLM usando Ollama.
- Optimizar modelos de inteligencia artificial para mejorar el rendimiento y la eficiencia.
- Aprovechar la aceleración de GPU para lograr velocidades de inferencia superiores.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de inteligencia artificial con el tiempo.
EXO: Implementación de un clúster de IA local de extremo a extremo
21 HorasEste curso presencial impartido por instructores en Guatemala (en línea o presencial) está dirigido a administradores de sistemas e ingenieros de DevOps que deseen implementar, configurar y gestionar clústeres EXO para la inferencia privada de LLM en múltiples nodos con Apple Silicon o Linux.
EXO para DevOps: Construcción de Infraestructura de IA Privada
21 HorasEsta formación en vivo impartida por instructores en Guatemala (en línea o presencial) está dirigida a ingenieros de DevOps y arquitectos de infraestructura que desean automatizar el aprovisionamiento, la supervisión y la gestión del ciclo de vida de clústeres de IA privados basados en EXO.
Seguridad y gobernanza de EXO: Gestión de modelos sin conexión
14 HorasEste curso presencial impartido por un instructor en Guatemala (en línea o en persona) está dirigido a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer los despliegues de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecutan completamente en las instalaciones.
Ajuste Fino y Personalización de Modelos de IA en Ollama
14 HorasEsta formación en vivo con instructor en <ubicación> (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean ajustar finamente y personalizar modelos de IA en Ollama para mejorar el rendimiento y desarrollar aplicaciones específicas del sector.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar un entorno eficiente para el ajuste fino de modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste fino supervisado y el aprendizaje por refuerzo.
- Optimizar los modelos de IA en términos de rendimiento, precisión y eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras del modelo y garantizar su robustez.
IA Agente Local Segura: Desarrollo en Ollama On-Prem para Industrias Reguladas
21 HorasEsta formación en vivo con instructor en Guatemala (en línea o presencial) está dirigida a desarrolladores y equipos técnicos que desean utilizar Ollama y modelos de código abierto para construir e implementar soluciones de IA agente privadas en infraestructura interna.
Al finalizar esta formación, los participantes podrán: instalar y configurar Ollama, evaluar y ejecutar modelos abiertos localmente, crear flujos de trabajo simples basados en agentes y recuperación (retrieval), y aplicar controles de seguridad y gobernanza para entornos regulados.
Aplicaciones Multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar a medida modelos de lenguaje grandes y multimodales localmente.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de ML de nivel avanzado, investigadores de IA y desarrolladores de productos que desean crear e implementar aplicaciones multimodales con Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión de documentos y respuesta visual a preguntas (VQA).
- Desarrollar agentes multimodales capaces de razonar a través de múltiples modalidades.
Formato del curso
- Clase interactiva y discusión grupal.
- Ejercitación práctica con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de flujos de trabajo multimodales utilizando Ollama.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, póngase en contacto con nosotros para coordinarlo.
Primeros pasos con Ollama: Ejecución de modelos de IA locales
7 HorasEsta formación en vivo con instructor en Guatemala (en línea o presencial) está dirigida a profesionales principiantes que desean instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus equipos locales.
Al finalizar esta formación, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLM mediante Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso de la implementación de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Implementación Segura
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande y multimodales localmente, al tiempo que respalda estrategias de implementación seguras.
Esta capacitación en vivo dirigida por un instructor (en línea o en las instalaciones) está destinada a profesionales de nivel intermedio que deseen implementar Ollama con medidas sólidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta capacitación, los participantes podrán:
- Implementar Ollama de forma segura en entornos contenerizados y locales (on-premise).
- Aplicar técnicas de privacidad diferencial para salvaguardar datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos alineado con los requisitos de cumplimiento.
Formato del Curso
- Clases interactivas y discusión grupal.
- Talleres prácticos con patrones de implementación seguros.
- Estudios de caso centrados en el cumplimiento y ejercicios prácticos.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinarlo.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de forma local.
Esta capacitación en vivo con instructor (en línea o presencial) está dirigida a profesionales de finanzas y personal de TI de nivel intermedio que deseen implementar, personalizar y poner en producción soluciones de IA basadas en Ollama en entornos financieros.
Al completar esta capacitación, los participantes adquirirán las habilidades necesarias para:
- Desplegar y configurar Ollama para su uso seguro en operaciones financieras.
- Integrar modelos de lenguaje locales (LLM) en flujos de trabajo analíticos y de generación de informes.
- Adaptar los modelos a terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y discusión grupal.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios centrados en finanzas.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinar los detalles.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de manera local.
Esta formación impartida por un instructor (en línea o presencial) está dirigida a profesionales del sector salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y operar soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al completar esta capacitación, los participantes serán capaces de:
- Instalar y configurar Ollama para su uso seguro en entornos de salud.
- Integrar modelos de lenguaje locales (LLM) en flujos de trabajo clínicos y procesos administrativos.
- Personalizar los modelos para terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en cuanto a privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y discusión grupal.
- Demostraciones prácticas y ejercicios guiados.
- Ejecución práctica en un entorno simulado de salud con aislamiento (sandbox).
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinarlo.
Ollama para una IA responsable y gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grandes y multimodales localmente, apoyando prácticas de gobernanza e IA responsable.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y rendición de cuentas en aplicaciones impulsadas por Ollama.
Al finalizar esta capacitación, los participantes podrán:
- Aplicar principios de IA responsable en implementaciones con Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación e auditablez de la IA.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del curso
- Conferencias interactivas y discusión.
- Talleres prácticos de diseño de flujos de trabajo de gobernanza.
- Análisis de casos y ejercicios enfocados en el cumplimiento normativo.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para organizarla.
IA Soberana para Organizaciones Reguladas: Control de Datos, Modelos y Entornos de Inferencia
7 HorasEsta formación en vivo con instructor en Guatemala (en línea o presencial) está dirigida a líderes de TI de nivel intermedio, profesionales del cumplimiento, equipos de seguridad y arquitectos empresariales que desean utilizar principios de IA soberana y prácticas de gobernanza para diseñar entornos de IA que protejan los datos confidenciales, respalden los requisitos de localización y reduzcan la dependencia de proveedores.
Al finalizar esta formación, los participantes podrán: explicar conceptos de IA soberana, evaluar opciones de alojamiento y gobernanza, definir controles para instrucciones y registros, y crear una hoja de ruta práctica para la adopción.
