Strata – IA poderosa no seu computador

Written by

in

Strata é um mecanismo de código aberto para executar grandes modelos de linguagem em hardware comum. O projeto tem um objetivo simples: fazer com que o poderoso modelo funcione localmente, sem nuvem, sem conta e sem pagar por tokens. A instalação fica reduzida a um instalador, e após o lançamento você conversa, trabalha com código e até recebe imagens no seu computador.

Nos bastidores, o Strata possui seu próprio mecanismo de inferência e, externamente, expõe uma API compatível com OpenAI e Anthropic em um endereço local. Isso significa que você pode conectar suas ferramentas favoritas a ele – Claude Code, Codex CLI, OpenCode e outros agentes – e eles pensarão que estão conversando com o provedor de nuvem. Os dados não saem da sua máquina.

Neste post, detalharei o que o Strata pode fazer, quais modelos são suportados, como instalá-lo e como conectá-lo aos seus instrumentos.

O que é isso

Strata é um projeto gratuito sob licença do MIT. Resolve três problemas:

  • Lançamento local de modelos. O mecanismo foi projetado para placas de vídeo de consumo e memória combinada, e não para aceleradores de servidor.
  • Interface única. Externamente, esta é uma API compatível com OpenAI e Anthropic em localhost, portanto, quase tudo que pode funcionar com esses protocolos pode ser conectado.
  • Simplicidade. O aplicativo desktop e o instalador do terminal eliminam o trabalho com dependências, drivers e assembly das fontes.

Separadamente, vale destacar a entrada opcional de imagens. O modelo pode funcionar não apenas com texto, mas também com imagens, o que torna o chat local muito mais útil para analisar capturas de tela e documentos.

Modelos

A principal recomendação do projeto é Qwen3.8-Flash-Next. Vários conjuntos de quantização são oferecidos por diferentes fornecedores:

  • ISTA-DASLab – opção recomendada: Q2_0, IQ2_XS, IQ3_XXS, IQ3_S, e para o código um Coder IQ1_M separado.
  • Despreguiça – UD-IQ4_XS, UD-Q4_K_XL, UD-Q5_K_XL, UD-Q6_K_XL, Q8_0.
  • Gyro da agentionai – Gyro-S e Gyro-M: menos memória, mas mais lento.

Além do modelo principal, Qwen3.6-35B-A3B e DeepSeekV4.1-Flash-1017 são suportados. Este último é interessante porque partes do modelo que não cabem na memória são lidas diretamente do SSD, por isso requer muito espaço livre em disco. Há opções de 239, 257 e 274 GB, além de uma versão leve do Coder, de aproximadamente 191 GB, de onde foram retiradas metade dos especialistas.

Iniciar o DeepSeek a partir do terminal é assim:

strata launch --family deepseek41 --model ist-das-2.00bpw --plan

O sinalizador –plan mostra o plano de inicialização antes do início do download. Para conjuntos grandes isso é útil: você pode ver imediatamente quanta memória e disco serão necessários.

Requisitos de hardware

Strata oferece suporte a uma ampla gama de equipamentos:

  • NVIDIA GeForce RTX séries 20, 30, 40 e 50.
  • AMD Radeon RX 7700, 7800, 7900, RX 9060, 9070 e AI PRO R9700.
  • AMD Radeon RX 6800 e 6900 – experimental.
  • Intel Arc para Linux.
  • Apple Silicon do M1 e mais recentes.
  • AMD Ryzen AI Max (Strix Halo).
  • NVIDIA DGX Spark para Linux.

Para referência, aqui estão algumas medições do DeepSeekV4.1-Flash em um conjunto de 2,00 bpw. Na coluna “saída” – a velocidade de geração da resposta, na coluna “prompt” – a velocidade de leitura de sua entrada.

  • RTX 5070 12 GB, 64 GB de RAM – 4–6 tokens/s, solicita cerca de 110 tokens/s.
  • RTX 3060 12 GB, 46 GB de RAM – 9–11 tokens/s, solicita cerca de 155 tokens/s.
  • 1x Radeon AI PRO R9700, 251 GB de RAM – 21–25 tokens/s, prompt 320–360 tokens/s.
  • 4x Radeon AI PRO R9700 – 74–77 tokens/s, prompt 400–450 tokens/s.
  • Ryzen AI Max+ 395 (Strix Halo), 128 GB de memória combinada – 19–21 tokens/s no código e 11 no chat.

Se você não tem certeza do que vai caber, o projeto traz um guia separado para escolha de um modelo de acordo com a quantidade de memória.

Instalando um aplicativo de desktop

A maneira mais fácil é baixar o instalador pronto na página de lançamentos. Cada sistema possui seu próprio arquivo:

Strata-0.2.13-windows-x64-setup.exe
Strata-0.2.13-linux-x86_64.AppImage
Strata-0.2.13-macos-arm64.dmg

Instale o aplicativo, selecione um modelo e comece a se comunicar. Quando você inicia o aplicativo pela primeira vez, ele baixa automaticamente o mecanismo da sua placa de vídeo. Não há necessidade de configurar drivers separadamente ou compilar nada dos fontes.

Na janela do aplicativo, o bate-papo, os arquivos e a visualização do código ao vivo estão localizados nas proximidades, o que é conveniente ao trabalhar em um projeto.

Instalação no terminal

Se você preferir o console, instale o Strata com o script de instalação e execute o comando de inicialização do strata.

No Linux e macOS:

curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh

No Windows PowerShell:

irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex

Uma vez instalado no Windows, abra uma nova janela de terminal e execute:

strata launch

O programa fará perguntas, baixará o modelo desejado e iniciará. Durante a operação, são mostradas a atividade do modelo, velocidade, consumo de memória e solicitações mais recentes – conveniente para entender o que está acontecendo com o hardware.

Para quem deseja construir tudo sozinho, existe um build from source, uma opção via Docker e um guia de instalação detalhado.

Conectando instrumentos

O principal ponto forte do Strata é que ele expõe uma API local compatível com OpenAI e Anthropic. Graças a isso, ferramentas de agente populares estão conectadas a ele: Claude Code, Codex CLI, OpenCode, oh-my-pi, pi.dev, Hermes Agent, OpenClaw e outros.

Para saber como configurar uma ferramenta específica, basta executar:

strata connect

A equipe mostrará instruções prontas para sua aplicação. Então, tudo é igual a um provedor de nuvem normal: o endpoint local Strata é especificado como o endereço base e o que o mecanismo produz é especificado como a chave. Não é necessária Internet para inferência.

No que prestar atenção

Operar localmente é uma troca e vale a pena estar ciente disso com antecedência.

  • A velocidade depende do hardware. Em placas de vídeo fracas, modelos grandes responderão lentamente, especialmente se parte dos pesos for lida do disco. As medidas acima dão uma ideia aproximada.
  • Os modelos ainda são grandes. Disco e memória são os principais limitadores. DeepSeek requer centenas de gigabytes de espaço livre.
  • Qualidade de quantização. Conjuntos altamente compactados economizam memória, mas podem perder qualidade. Se o seu hardware permitir, escolha a opção com um bpw mais alto.
  • Download inicial. Na primeira inicialização, tanto o mecanismo quanto os pesos do modelo são baixados, portanto, você precisa de uma conexão estável e espaço em disco.

Ao mesmo tempo, você obtém controle total: sem limites, assinaturas ou vazamentos de dados. Tudo conta na sua máquina.

Para quem é isso?

Strata faz sentido se você deseja manter seus dados de trabalho locais, não depende de planos de nuvem ou apenas gosta de experimentar IA local. Para um programador, essa também é uma forma de conectar um agente familiar a um modelo que trabalha próximo, sem atrasos na rede e sem pagar por cada solicitação.

O projeto está em desenvolvimento ativo: dezenas de milhares de estrelas, milhares de garfos, lançamentos frequentes e documentação detalhada para cada tipo de hardware. A maneira mais fácil de começar é com o aplicativo desktop e depois, se gostar, vá até o terminal e conecte suas ferramentas.

Links

https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/releases/latest
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/TERMINAL_LAUNCH.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md
https://github.com/Niko1221/Strata/blob/main/docs/TROUBLESHOOTING.md

Fontes

https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/blob/main/README.md
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/AMD_HIP.md
https://github.com/Niko1221/Strata/blob/main/docs/STRIX_HALO.md

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *

DemensDeum
Privacy Overview

This website uses cookies so that we can provide you with the best user experience possible. Cookie information is stored in your browser and performs functions such as recognising you when you return to our website and helping our team to understand which sections of the website you find most interesting and useful.