Aprovechando Ollama: Crear LLMs Locales con Python

Resumen

In this course, you will learn how to create local language models using Ollama and Python. By the end, you will be equipped with the tools to build LLM-based applications for real-world use cases.

The course introduces Ollama's powerful features, installation, and setup, followed by a hands-on guide to exploring and utilizing Ollama models through Python. You'll dive into topics such as REST APIs, the Python library for Ollama, and how to customize and interact with models effectively.

You'll begin by setting up your development environment, followed by an introduction to Ollama, its key features, and system requirements. After grasping the fundamentals, you'll start working with Ollama CLI commands and explore the REST API for interacting with models.

The course provides practical exercises such as pulling and testing models, customizing them, and using various endpoints for tasks like sentiment analysis and summarization. The journey continues as you dive into Python integration, using the Ollama Python library to build LLM-based applications.

You'll explore advanced features like working with multimodal models, creating custom models, and using the show function to stream chat interactions. Then, you'll develop full-fledged applications, such as a grocery list categorizer and a RAG system, exploring vector stores, embeddings, and more.

This course is ideal for those looking to build advanced LLM applications using Ollama and Python. If you have a background in Python programming and want to create sophisticated language-based applications, this course will help you achieve that goal.

Expect a hands-on learning experience with the opportunity to work on several projects using the Ollama framework.

Programa

• Introducción
En este módulo, presentaremos los objetivos del curso, delinearemos los prerrequisitos necesarios para triunfar y proporcionaremos una demostración atractiva para mostrar las herramientas y conceptos que se usarán a lo largo del curso.
• Ollama en Profundidad - Introducción a Ollama y Configuración
En este módulo, profundizaremos en Ollama, exploraremos sus características y ventajas, y te guiaremos a través del proceso de configuración para usar Ollama y el modelo Llama3.2, asegurándonos de que estés listo para la experimentación práctica.
• Comandos CLI de Ollama y la API REST - Práctico
En este módulo, demostraremos cómo usar los comandos CLI de Ollama y la API REST para extraer modelos, generar respuestas y personalizarlas para diferentes casos de uso, proporcionando experiencia práctica.
• Ollama - Interfaces de Usuario para Modelos Ollama
En este módulo, te presentaremos varias interfaces de usuario para interactuar con los modelos Ollama, incluyendo un examen detallado de la aplicación Msty y su uso como herramienta de frontend para sistemas RAG.
• Biblioteca Python de Ollama - Usar Python para Interactuar con Modelos Ollama
En este módulo, te guiaremos en el uso de la biblioteca Python de Ollama para construir aplicaciones LLM locales, interactuar con modelos a través de Python y explorar técnicas avanzadas como la creación de modelos personalizados y la transmisión.
• Construcción de Aplicaciones LLM con Modelos Ollama
En este módulo, te ayudaremos a construir tu primera aplicación LLM usando Ollama, te guiaremos a través del proceso de construir y mejorar sistemas RAG, y profundizaremos en vectorstores y embeddings para optimizar aplicaciones LLM.
• Llamado a Función de Herramienta Ollama - Práctico
En este módulo, te enseñaremos cómo utilizar el llamado a función dentro de Ollama, configurando una aplicación que categoriza elementos usando llamadas a funciones, y te guiaremos en la creación de un producto final que utilice estas funciones.
• Sistema RAG Final con Ollama y Respuesta de Voz
En este módulo, te guiaremos en la creación de un sistema RAG habilitado para voz final, integrando la API de ElevenLabs para resumir documentos y proporcionar interacciones basadas en voz, culminando en una aplicación de respuesta de voz completamente funcional.
• Conclusión
En este módulo, revisaremos los puntos clave del curso y ofreceremos consejos sobre cómo continuar aprendiendo y aplicando los conceptos adquiridos a lo largo del curso.

---

Impartido por

Packt - Course Instructors

---

Materias

Computer Science