Ollama es una herramienta que permite ejecutar modelos de inteligencia artificial de manera local en tu computador, sin depender de servicios en la nube. Con Ollama puedes descargar y ejecutar modelos como Llama 3, DeepSeek, Mistral, Gemma y otros directamente desde Linux.
En esta guía aprenderás cómo instalar Ollama en Linux, cómo verificar la instalación, descargar modelos y ejecutar tu primera IA local.
La documentación oficial de Ollama se encuentra en: https://docs.ollama.com/linux
Requisitos previos
Antes de instalar Ollama en Linux, asegúrate de cumplir con los siguientes requisitos:
- Distribución Linux de 64 bits.
- Acceso a terminal.
- Permisos sudo.
- Conexión a internet.
- Al menos 8 GB de RAM recomendados.
Ollama funciona tanto con CPU como con GPU NVIDIA o AMD. Si tienes GPU compatible, el rendimiento será mucho mejor.
Actualizar el sistema Linux
Antes de instalar cualquier software, es recomendable actualizar los paquetes del sistema.
Ubuntu y Debian
sudo apt update && sudo apt upgrade -y
Fedora, Rocky Linux y AlmaLinux
sudo dnf update -y
Instalar Ollama en Linux
El método recomendado por Ollama es usar el script oficial de instalación.
Ejecuta el siguiente comando en la terminal:
curl -fsSL https://ollama.com/install.sh | sh
Este script realiza automáticamente las siguientes acciones:
- Descarga Ollama.
- Instala los binarios necesarios.
- Configura el servicio systemd.
- Inicia Ollama automáticamente.
El instalador oficial puede consultarse en: https://ollama.com/install.sh
Verificar la instalación
Una vez terminada la instalación, puedes verificar que Ollama quedó correctamente instalado usando:
ollama --version
También puedes validar que el servicio esté activo:
systemctl status ollama
Si todo funciona correctamente, verás el servicio ejecutándose.
Iniciar el servicio manualmente
En algunos sistemas puede ser necesario iniciar el servicio manualmente:
sudo systemctl start ollama
Para habilitar el inicio automático al arrancar Linux:
sudo systemctl enable ollama
Descargar y ejecutar tu primer modelo
Después de instalar Ollama, ya puedes descargar modelos de inteligencia artificial.
Por ejemplo, para ejecutar Llama 3:
ollama run llama3
Ollama descargará automáticamente el modelo y luego abrirá una consola interactiva.
También puedes usar otros modelos populares:
DeepSeek
ollama run deepseek-r1
Mistral
ollama run mistral
Gemma
ollama run gemma
Listar modelos instalados
Para ver todos los modelos descargados:
ollama list
Eliminar modelos
Si deseas liberar espacio en disco, puedes eliminar modelos:
ollama rm llama3
Configurar soporte para GPU NVIDIA
Si tienes una tarjeta NVIDIA, se recomienda instalar los drivers CUDA para mejorar el rendimiento.
Puedes verificar si tu GPU es detectada con:
nvidia-smi
La documentación oficial sobre GPU está disponible en: https://docs.ollama.com/linux
Actualizar Ollama
Para actualizar Ollama a la última versión, simplemente vuelve a ejecutar:
curl -fsSL https://ollama.com/install.sh | sh
Desinstalar Ollama
Si deseas eliminar Ollama completamente de Linux:
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service
sudo rm $(which ollama)
Problemas comunes
Error relacionado con zstd
Algunas distribuciones requieren instalar zstd manualmente.
Ubuntu y Debian
sudo apt install zstd -y
Fedora y Rocky Linux
sudo dnf install zstd -y
Ver logs de Ollama
Para revisar errores o logs del servicio:
journalctl -u ollama -f
Conclusión
Instalar Ollama en Linux es un proceso bastante sencillo y permite ejecutar modelos de inteligencia artificial de forma local, privada y sin depender de servicios externos.
Gracias a Ollama puedes trabajar con modelos LLM directamente desde la terminal y crear proyectos de IA local en Linux de manera rápida.
Para más información puedes revisar la documentación oficial: https://docs.ollama.com/linux