Strata est un moteur open source permettant d’exécuter de grands modèles de langage sur du matériel standard. Le projet a un objectif simple : faire fonctionner le modèle puissant localement, sans cloud, sans compte et sans payer de tokens. L’installation est réduite à un seul installateur et après le lancement, vous pouvez discuter, travailler avec du code et même recevoir des images sur votre ordinateur.
Sous le capot, Strata possède son propre moteur d’inférence et, à l’extérieur, il expose une API compatible avec OpenAI et Anthropic à une adresse locale. Cela signifie que vous pouvez y connecter vos outils préférés – Claude Code, Codex CLI, OpenCode et autres agents – et ils penseront qu’ils parlent au fournisseur de cloud. Les données ne quittent pas votre machine.
Dans cet article, je vais expliquer ce que Strata peut faire, quels modèles sont pris en charge, comment l’installer et comment le connecter à vos instruments.
Qu’est-ce que c’est
Strata est un projet gratuit sous licence MIT. Cela résout trois problèmes :
- Lancement local des modèles. Le moteur est conçu pour les cartes vidéo grand public et la mémoire combinée, et non pour les accélérateurs de serveur.
- Interface unique. En externe, il s’agit d’une API compatible OpenAI et Anthropic sur localhost, donc presque tout ce qui peut fonctionner avec ces protocoles peut être connecté.
- Simplicité. L’application de bureau et l’installateur du terminal suppriment le travail avec les dépendances, les pilotes et l’assemblage des sources.
Par ailleurs, il convient de noter la saisie facultative d’images. Le modèle peut fonctionner non seulement avec du texte, mais également avec des images, ce qui rend le chat local beaucoup plus utile pour analyser des captures d’écran et des documents.
Modèles
La principale recommandation du projet est Qwen3.8-Flash-Next. Plusieurs ensembles de quantification sont proposés par différents fournisseurs :
- ISTA-DASLab – option recommandée : Q2_0, IQ2_XS, IQ3_XXS, IQ3_S et pour le code, un codeur séparé IQ1_M.
- Unsloth – UD-IQ4_XS, UD-Q4_K_XL, UD-Q5_K_XL, UD-Q6_K_XL, Q8_0.
- Gyro d’agentionai – Gyro-S et Gyro-M : moins de mémoire, mais plus lent.
En plus du modèle phare, Qwen3.6-35B-A3B et DeepSeekV4.1-Flash-1017 sont pris en charge. Ce dernier est intéressant car les parties du modèle qui ne rentrent pas dans la mémoire sont lues directement depuis le SSD, cela nécessite donc beaucoup d’espace disque libre. Il existe des options pour 239, 257 et 274 Go, ainsi qu’une version légère de Coder d’environ 191 Go, où la moitié des experts ont été supprimés.
Le lancement de DeepSeek depuis le terminal ressemble à ceci :
strata launch --family deepseek41 --model ist-das-2.00bpw --plan
L’indicateur –plan affiche le plan de démarrage avant le début du téléchargement. Pour les grands ensembles, cela est utile : vous pouvez immédiatement voir la quantité de mémoire et de disque qui seront nécessaires.
Exigences matérielles
Strata prend en charge une large gamme d’équipements :
- NVIDIA GeForce RTX séries 20, 30, 40 et 50.
- AMD Radeon RX 7700, 7800, 7900, RX 9060, 9070 et AI PRO R9700.
- AMD Radeon RX 6800 et 6900 – expérimental.
- Intel Arc pour Linux.
- Apple Silicon à partir de M1 et versions ultérieures.
- AMD Ryzen AI Max (Strix Halo).
- NVIDIA DGX Spark pour Linux.
Pour référence, voici quelques mesures de DeepSeekV4.1-Flash sur un ensemble de 2,00 bpw. Dans la colonne “sortie” – la vitesse de génération de la réponse, dans la colonne “invite” – la vitesse de lecture de votre entrée.
- RTX 5070 12 Go, 64 Go de RAM – 4 à 6 jetons/s, invite environ 110 jetons/s.
- RTX 3060 12 Go, 46 Go de RAM – 9 à 11 jetons/s, invite environ 155 jetons/s.
- 1 x Radeon AI PRO R9700, 251 Go de RAM – 21 à 25 jetons/s, invite 320 à 360 jetons/s.
- 4 x Radeon AI PRO R9700 – 74 à 77 jetons/s, invite 400 à 450 jetons/s.
- Ryzen AI Max+ 395 (Strix Halo), 128 Go de mémoire combinée – 19 à 21 jetons/s sur le code et 11 sur le chat.
Si vous n’êtes pas sûr de ce qui conviendra, le projet propose un guide distinct pour choisir un modèle en fonction de la quantité de mémoire.
Installer une application de bureau
Le moyen le plus simple consiste à télécharger le programme d’installation prêt à l’emploi à partir de la page des versions. Chaque système possède son propre fichier :
Strata-0.2.13-windows-x64-setup.exe
Strata-0.2.13-linux-x86_64.AppImage
Strata-0.2.13-macos-arm64.dmg
Installez l’application, sélectionnez un modèle et commencez à communiquer. Lorsque vous lancez l’application pour la première fois, elle télécharge automatiquement le moteur de votre carte vidéo. Il n’est pas nécessaire de configurer séparément les pilotes ou de compiler quoi que ce soit à partir des sources.
Dans la fenêtre de l’application, le chat, les fichiers et l’aperçu du code en direct sont situés à proximité, ce qui est pratique lorsque vous travaillez sur un projet.
Installation dans le terminal
Si vous préférez la console, installez Strata avec le script d’installation, puis exécutez la commande de lancement de strata.
Sous Linux et macOS :
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
Sous Windows PowerShell :
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
Une fois installé sous Windows, ouvrez une nouvelle fenêtre de terminal et exécutez :
strata launch
Le programme posera des questions, téléchargera le modèle souhaité et le lancera. Pendant le fonctionnement, l’activité, la vitesse, la consommation de mémoire et les dernières requêtes du modèle sont affichées – ce qui est pratique pour comprendre ce qui se passe avec le matériel.
Pour ceux qui souhaitent tout construire eux-mêmes, il existe une version à partir des sources, une option via Docker et un guide d’installation détaillé.
Connexion des instruments
La principale force de Strata est qu’elle expose une API locale compatible avec OpenAI et Anthropic. Grâce à cela, des outils d’agent populaires y sont connectés : Claude Code, Codex CLI, OpenCode, oh-my-pi, pi.dev, Hermes Agent, OpenClaw et autres.
Pour savoir comment configurer un outil spécifique, il suffit de lancer :
strata connect
L’équipe vous montrera des instructions prêtes à l’emploi pour votre candidature. Ensuite, tout est comme avec un fournisseur de cloud classique : le point de terminaison local Strata est spécifié comme adresse de base et ce que le moteur produit est spécifié comme clé. Aucun Internet n’est requis pour l’inférence.
À quoi faire attention
Fonctionner localement est un compromis, et il vaut la peine d’en être conscient à l’avance.
- La vitesse dépend du matériel. Sur les cartes vidéo faibles, les grands modèles répondront lentement, surtout si une partie des poids est lue à partir du disque. Les mesures ci-dessus donnent une idée approximative.
- Les modèles sont encore volumineux. Le disque et la mémoire sont les principaux limitateurs. DeepSeek nécessite des centaines de gigaoctets d’espace libre.
- Qualité de quantification. Les ensembles hautement compressés économisent de la mémoire, mais peuvent perdre en qualité. Si votre matériel le permet, prenez l’option avec un bpw plus élevé.
- Téléchargement initial. Au premier lancement, les poids du moteur et du modèle sont téléchargés. Vous avez donc besoin d’une connexion et d’un espace disque stables.
En même temps, vous bénéficiez d’un contrôle total : pas de limites, d’abonnements ou de fuites de données. Tout compte sur votre machine.
À qui est-ce destiné ?
Strata est logique si vous souhaitez conserver vos données professionnelles locales, ne comptez pas sur des forfaits cloud ou si vous aimez simplement expérimenter l’IA locale. Pour un programmeur, c’est aussi un moyen de connecter un agent familier à un modèle qui travaille à proximité, sans délais de réseau et sans payer pour chaque requête.
Le projet se développe activement : des dizaines de milliers d’étoiles, des milliers de forks, des versions fréquentes et une documentation détaillée pour chaque type de matériel. Le moyen le plus simple de commencer est d’utiliser l’application de bureau, puis, si vous l’aimez, d’accéder au terminal et de connecter vos outils.
Liens
https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/releases/latest
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/TERMINAL_LAUNCH.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md
https://github.com/Niko1221/Strata/blob/main/docs/TROUBLESHOOTING.md
Sources
https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/blob/main/README.md
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/AMD_HIP.md
https://github.com/Niko1221/Strata/blob/main/docs/STRIX_HALO.md
Leave a Reply