Los modelos locales son prácticos porque, tras la primera descarga, se pueden usar en cualquier lugar — ya no se necesita Internet. Todo lo que haces permanece en tu dispositivo, y ningún «Gran Hermano» ve tus datos o solicitudes. Las respuestas llegan sin los retrasos habituales de los servicios en la nube, y los costes de cálculo se reducen al consumo eléctrico, ya que todo se ejecuta en tu propio hardware.
Los modelos se adaptan al dispositivo: Foundry Local elige la versión óptima para CPU, GPU o NPU, garantizando velocidad y eficiencia máximas.
🛠 Foundry Local
Foundry Local, de Microsoft, simplifica la ejecución de modelos locales.
Algunas tareas de IA se ejecutan localmente, otras en la nube cuando es conveniente.
Se puede usar Foundry Local mediante:
- CLI — comandos simples en terminal o PowerShell
- SDK — librerías familiares, incluida una API REST compatible con OpenAI
- Visual Studio Code AI Toolkit — modelos directamente en el IDE
El catálogo de modelos incluye variantes optimizadas para la ejecución local. Si un modelo ya está descargado, se ejecuta al instante desde la caché. El servicio local acepta solicitudes como un servicio web, lo que permite llamar a modelos desde scripts o integrarlos en tus propias herramientas.
⚙️ Requisitos del sistema
- Sistema operativo: Windows 10/11 (x64/ARM), Windows Server 2025 o macOS
- Memoria y disco: mínimo 8 GB de RAM y 3 GB de disco (recomendado 16 GB / 15 GB)
- Red: Internet solo es necesario para la primera descarga del modelo
- Aceleración (opcional): NVIDIA (serie 2000+), AMD (6000+), Intel iGPU, Qualcomm Snapdragon X Elite, Apple Silicon
- Permisos de administrador: necesarios para la instalación
💾 Instalación de Foundry Local
1. A través de CLI
Windows:
winget install Microsoft.FoundryLocal --scope machine
Si la instalación falla, descarga el archivo .msix y sus dependencias, e instálalo mediante PowerShell con permisos de administrador.
macOS: sigue las instrucciones de la documentación oficial.
2. Descargando el instalador
Encuentra la última versión en el repositorio de Foundry Local en GitHub e instálala manualmente.
Después de la instalación, verifica la ayuda:
foundry help
🚀 Primer modelo
- Lanza un modelo en la terminal (por ejemplo,
phi-3.5-mini). - La primera vez se descargará localmente (unos minutos).
- En ejecuciones posteriores, se usará la caché.
Ejemplo:
foundry model run phi-3.5-mini
Para ejecutar GPT-OSS-20B:
foundry model run gpt-oss-20b
⚠ Requiere GPU NVIDIA con 16 GB+ VRAM y Foundry Local 0.6.87+.
Verifica la versión:
foundry --version
🖥 Foundry Local CLI — Referencia
El CLI de Foundry Local está diseñado para gestionar modelos, servicio y caché local.
🔎 Resumen
Ver todas las órdenes disponibles:
foundry --help
Categorías de comandos:
- Model — gestión y ejecución de modelos
- Service — gestión del servicio Foundry Local
- Cache — gestión de la caché
📦 Comandos de modelos
| Comando | Descripción |
|---|---|
foundry model --help | Ayuda sobre comandos de modelos. |
foundry model run <model> | Ejecuta un modelo (lo descarga si es necesario). |
foundry model list | Lista de modelos disponibles. |
foundry model info <model> | Información detallada sobre un modelo. |
foundry model download <model> | Descargar un modelo en caché sin ejecutarlo. |
foundry model load <model> | Cargar un modelo en el servicio. |
foundry model unload <model> | Descargar un modelo del servicio. |
⚙️ Comandos del servicio
| Comando | Descripción |
|---|---|
foundry service --help | Ayuda sobre el servicio. |
foundry service start | Iniciar servicio. |
foundry service stop | Detener servicio. |
foundry service restart | Reiniciar servicio. |
foundry service status | Ver estado del servicio. |
foundry service ps | Lista de modelos cargados. |
foundry service logs | Ver logs del servicio. |
foundry service set <options> | Configuración (ej. GPU). |
🗂 Comandos de caché
| Comando | Descripción |
|---|---|
foundry cache --help | Ayuda sobre caché. |
foundry cache location | Mostrar ubicación de la caché |
foundry cache list | Lista de modelos en caché. |
foundry cache remove <model> | Eliminar un modelo de la caché |
foundry cache cd <path> | Cambiar directorio de la caché |
🚀 Ejemplos de uso
Lanzamiento rápido de un modelo
# Descargar y ejecutar un modelo
foundry model run phi-4-mini
# Información del modelo
foundry model info phi-4-mini
# Descargar modelo sin ejecutar
foundry model download phi-4-mini
Gestión del servicio
foundry service status
foundry service ps
foundry service restart
Gestión del caché
foundry cache list
foundry cache remove old-model
foundry cache cd /path/to/larger/drive
🔧 Funciones avanzadas
# Ver licencia del modelo
foundry model info phi-4-mini --license
# Generar logs de diagnóstico
foundry zip-logs
# Configurar uso de GPU
foundry service set --gpu 0