Base de conocimientos

Instalación de Ollama en Ubuntu 20.04

1. Instalación automatizada

El script oficial descarga los binarios necesarios y configura el servicio de sistema:

curl -fsSL https://ollama.com/install.sh | sh

2. Verificar el funcionamiento

Tras la instalación, el servicio estará activo. Puedes comprobarlo ejecutando:

ollama --version

3. Ejecutar tu primer modelo

Para probarlo, descarga y corre un modelo (por ejemplo, Llama 3):

ollama run llama3

La primera vez tardará unos minutos en descargar el modelo (aprox. 4.7 GB). Una vez descargado, la respuesta será instantánea.

Integración en tu Base de Conocimiento (Configuración Avanzada)

A. Acceso Remoto (Exponer la API)

Por defecto, Ollama solo escucha en 127.0.0.1 (localhost). Si quieres que otros ordenadores de tu red (o un frontend web como Open WebUI) se conecten a este servidor de IA, debes editar la configuración del servicio:

1.Edita el servicio:

sudo systemctl edit ollama.service

2.Añade esta línea dentro de [Service]:

Ini, TOML
Environment="OLLAMA_HOST=0.0.0.0"

3.Reinicia el servicio:

sudo systemctl daemon-reload
sudo systemctl restart ollama

B. Apertura de Puertos

Si habilitas el acceso remoto, abre el puerto 11434 en tu firewall:

sudo ufw allow 11434/tcp

• Recursos (GPU/CPU): Ollama detectará automáticamente si tienes una GPU NVIDIA y usará los núcleos CUDA para acelerar la generación de texto. Si corres esto en una VM de Proxmox, asegúrate de haber hecho un PCIe Passthrough de tu tarjeta gráfica para que la IA vuele.

• Privacidad: Al ser 100% privado, no hay "fugas" de datos. Es ideal si planeas usarlo para que tus usuarios o empleados de CyberSprint consulten dudas técnicas sobre los sistemas sin usar servicios en la nube.

• Almacenamiento de Modelos: Los modelos se guardan en /usr/share/ollama/.ollama/models. Si te quedas sin espacio en el disco raíz, puedes cambiar esta ruta mediante una variable de entorno (OLLAMA_MODELS=/ruta/nueva) en el mismo archivo donde configuramos el OLLAMA_HOST.