Strata es un motor de código abierto para ejecutar modelos de lenguaje grandes en hardware básico. El proyecto tiene un objetivo simple: hacer que el potente modelo funcione localmente, sin nube, sin cuenta y sin pagar tokens. La instalación se reduce a un solo instalador y, después del inicio, puedes chatear, trabajar con código e incluso recibir imágenes en tu computadora.
Debajo del capó, Strata tiene su propio motor de inferencia y en el exterior expone una API compatible con OpenAI y Anthropic en una dirección local. Esto significa que puede conectarle sus herramientas favoritas (Claude Code, Codex CLI, OpenCode y otros agentes) y pensarán que están hablando con el proveedor de la nube. Los datos no salen de su máquina.
En esta publicación, desglosaré lo que Strata puede hacer, qué modelos son compatibles, cómo instalarlo y cómo conectarlo a sus instrumentos.
¿Qué es?
Strata es un proyecto gratuito bajo licencia MIT. Resuelve tres problemas:
- Lanzamiento local de modelos. El motor está diseñado para tarjetas de video de consumo y memoria combinada, y no para aceleradores de servidor.
- Interfaz única. Externamente, esta es una API compatible con OpenAI y Anthropic en localhost, por lo que casi todo lo que puede funcionar con estos protocolos se puede conectar.
- Simplicidad. La aplicación de escritorio y el instalador para el terminal eliminan el trabajo con dependencias, controladores y ensambladores de las fuentes.
Por otra parte, cabe destacar la entrada opcional de imágenes. El modelo puede funcionar no sólo con texto, sino también con imágenes, lo que hace que el chat local sea mucho más útil para analizar capturas de pantalla y documentos.
Modelos
La principal recomendación del proyecto es Qwen3.8-Flash-Next. Para ello se ofrecen varios conjuntos de cuantificación de diferentes proveedores:
- ISTA-DASLab – opción recomendada: Q2_0, IQ2_XS, IQ3_XXS, IQ3_S, y para el código un Coder IQ1_M separado.
- Unsloth – UD-IQ4_XS, UD-Q4_K_XL, UD-Q5_K_XL, UD-Q6_K_XL, Q8_0.
- Gyro de agentionai – Gyro-S y Gyro-M: menos memoria, pero más lento.
Además del modelo insignia, se admiten Qwen3.6-35B-A3B y DeepSeekV4.1-Flash-1017. Esto último es interesante porque las partes del modelo que no caben en la memoria se leen directamente desde el SSD, por lo que requiere mucho espacio libre en el disco. Hay opciones para 239, 257 y 274 GB, así como una versión ligera de Coder de aproximadamente 191 GB, donde se han eliminado la mitad de los expertos.
El inicio de DeepSeek desde la terminal tiene este aspecto:
strata launch --family deepseek41 --model ist-das-2.00bpw --plan
La bandera –plan muestra el plan de inicio antes de que comience la descarga. Para conjuntos grandes, esto es útil: puede ver inmediatamente cuánta memoria y disco se necesitarán.
Requisitos de hardware
Strata admite una amplia gama de equipos:
- NVIDIA GeForce RTX series 20, 30, 40 y 50.
- AMD Radeon RX 7700, 7800, 7900, RX 9060, 9070 y AI PRO R9700.
- AMD Radeon RX 6800 y 6900 – experimental.
- Intel Arc para Linux.
- Apple Silicon desde M1 y posteriores.
- AMD Ryzen AI Max (Strix Halo).
- NVIDIA DGX Spark para Linux.
Como referencia, aquí hay algunas mediciones de DeepSeekV4.1-Flash en un equipo de 2,00 bpw. En la columna “salida”, la velocidad de generación de la respuesta, en la columna “mensaje”, la velocidad de lectura de su entrada.
- RTX 5070 12 GB, 64 GB de RAM: de 4 a 6 tokens/s, aproximadamente 110 tokens/s.
- RTX 3060 12 GB, 46 GB de RAM: de 9 a 11 tokens/s, aproximadamente 155 tokens/s.
- 1x Radeon AI PRO R9700, 251 GB de RAM: 21 a 25 tokens/s, solicitud de 320 a 360 tokens/s.
- 4x Radeon AI PRO R9700: 74–77 tokens/s, solicita 400–450 tokens/s.
- Ryzen AI Max+ 395 (Strix Halo), 128 GB de memoria combinada: 19 a 21 tokens/s en código y 11 en chat.
Si no está seguro de qué es adecuado, el proyecto tiene una guía separada para elegir un modelo según la cantidad de memoria.
Instalar una aplicación de escritorio
La forma más sencilla es descargar el instalador listo para usar desde la página de lanzamientos. Cada sistema tiene su propio archivo:
Strata-0.2.13-windows-x64-setup.exe
Strata-0.2.13-linux-x86_64.AppImage
Strata-0.2.13-macos-arm64.dmg
Instala la aplicación, selecciona un modelo y comienza a comunicarte. Cuando inicia la aplicación por primera vez, descarga automáticamente el motor de su tarjeta de video. No es necesario configurar controladores por separado ni compilar nada de las fuentes.
En la ventana de la aplicación, el chat, los archivos y la vista previa del código en vivo se encuentran cerca, lo cual es conveniente cuando se trabaja en un proyecto.
Instalación en el terminal
Si prefiere la consola, instale Strata con el script de instalación y luego ejecute el comando de inicio de Strata.
En Linux y macOS:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
En Windows PowerShell:
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
Una vez instalado en Windows, abra una nueva ventana de terminal y ejecute:
strata launch
El programa hará preguntas, descargará el modelo deseado y lo ejecutará. Durante el funcionamiento, se muestran la actividad, la velocidad, el consumo de memoria y las últimas solicitudes del modelo, lo que resulta útil para comprender lo que está sucediendo con el hardware.
Para aquellos que quieran compilar todo ellos mismos, hay una compilación desde el código fuente, una opción a través de Docker y una guía de instalación detallada.
Conexión de instrumentos
La principal fortaleza de Strata es que expone una API local que es compatible con OpenAI y Anthropic. Gracias a esto, se conectan a él herramientas de agentes populares: Claude Code, Codex CLI, OpenCode, oh-my-pi, pi.dev, Hermes Agent, OpenClaw y otros.
Para saber cómo configurar una herramienta específica, simplemente ejecute:
strata connect
El equipo le mostrará instrucciones listas para usar para su solicitud. Entonces todo es igual que con un proveedor de nube normal: el punto final local Strata se especifica como dirección base y lo que produce el motor se especifica como clave. No se requiere Internet para realizar inferencias.
A qué prestar atención
Ejecutar localmente es una compensación y vale la pena tenerlo en cuenta de antemano.
- La velocidad depende del hardware. En tarjetas de video débiles, los modelos grandes responderán lentamente, especialmente si parte de los pesos se leen desde el disco. Las medidas anteriores dan una idea aproximada.
- Los modelos siguen siendo grandes. El disco y la memoria son los principales limitadores. DeepSeek requiere cientos de gigabytes de espacio libre.
- Calidad de cuantificación. Los conjuntos altamente comprimidos ahorran memoria, pero pueden perder calidad. Si su hardware lo permite, elija la opción con un bpw mayor.
- Descarga inicial. En el primer inicio, se descargan tanto el motor como los pesos del modelo, por lo que necesita una conexión estable y espacio en disco.
Al mismo tiempo, obtienes control total: sin límites, suscripciones ni fugas de datos. Todo cuenta con tu máquina.
¿Para quién es esto?
Strata tiene sentido si desea mantener sus datos de trabajo locales, no depender de planes en la nube o simplemente le gusta experimentar con IA local. Para un programador, esta también es una forma de conectar un agente familiar a un modelo que trabaja cerca, sin demoras en la red y sin pagar por cada solicitud.
El proyecto se está desarrollando activamente: decenas de miles de estrellas, miles de bifurcaciones, lanzamientos frecuentes y documentación detallada para cada tipo de hardware. La forma más sencilla de empezar es con la aplicación de escritorio y luego, si te gusta, ir al terminal y conectar tus herramientas.
Enlaces
https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/releases/latest
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/TERMINAL_LAUNCH.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md
https://github.com/Niko1221/Strata/blob/main/docs/TROUBLESHOOTING.md
Fuentes
https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/blob/main/README.md
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/AMD_HIP.md
https://github.com/Niko1221/Strata/blob/main/docs/STRIX_HALO.md
Leave a Reply