{"id":216,"date":"2026-11-11T09:58:18","date_gmt":"2026-11-11T05:58:18","guid":{"rendered":"https:\/\/demensdeum.com\/blog\/2026\/11\/11\/strata-local-ai\/"},"modified":"2026-11-11T09:58:18","modified_gmt":"2026-11-11T05:58:18","slug":"strata-local-ai","status":"publish","type":"post","link":"https:\/\/demensdeum.com\/blog\/de\/2026\/11\/11\/strata-local-ai\/","title":{"rendered":"Strata \u2013 leistungsstarke KI auf Ihrem Computer"},"content":{"rendered":"<p>Strata ist eine Open-Source-Engine zum Ausf\u00fchren gro\u00dfer Sprachmodelle auf Standardhardware. Das Projekt hat ein einfaches Ziel: das leistungsstarke Modell lokal zum Laufen zu bringen, ohne Cloud, ohne Konto und ohne Bezahlung von Token. Die Installation ist auf ein Installationsprogramm beschr\u00e4nkt, und nach dem Start k\u00f6nnen Sie chatten, mit Code arbeiten und sogar Bilder auf Ihrem Computer empfangen.<\/p>\n<p>Unter der Haube verf\u00fcgt Strata \u00fcber eine eigene Inferenz-Engine und stellt au\u00dfen eine mit OpenAI und Anthropic kompatible API unter einer lokalen Adresse bereit. Das bedeutet, dass Sie Ihre Lieblingstools damit verbinden k\u00f6nnen \u2013 Claude Code, Codex CLI, OpenCode und andere Agenten \u2013 und diese denken, dass sie mit dem Cloud-Anbieter sprechen. Die Daten verlassen Ihren Rechner nicht.<\/p>\n<p>In diesem Beitrag werde ich erl\u00e4utern, was Strata kann, welche Modelle unterst\u00fctzt werden, wie man es installiert und wie man es an Ihre Instrumente anschlie\u00dft.<\/p>\n<h2>Was ist das?<\/h2>\n<p>Strata ist ein kostenloses Projekt unter der MIT-Lizenz. Es l\u00f6st drei Probleme:<\/p>\n<ul>\n<li><b>Lokale Einf\u00fchrung von Modellen.<\/b> Die Engine ist f\u00fcr Consumer-Grafikkarten und kombinierten Speicher konzipiert und nicht f\u00fcr Serverbeschleuniger.<\/li>\n<li><b>Einzelne Schnittstelle.<\/b> \u00c4u\u00dferlich handelt es sich hierbei um eine OpenAI- und Anthropic-kompatible API auf localhost, sodass fast alles angebunden werden kann, was mit diesen Protokollen arbeiten kann.<\/li>\n<li><b>Einfachheit.<\/b> Die Desktop-Anwendung und das Installationsprogramm f\u00fcr das Terminal machen die Arbeit mit Abh\u00e4ngigkeiten, Treibern und Assemblys aus Quellen \u00fcberfl\u00fcssig.<\/li>\n<\/ul>\n<p>Unabh\u00e4ngig davon ist die optionale Eingabe von Bildern erw\u00e4hnenswert. Das Modell kann nicht nur mit Text, sondern auch mit Bildern arbeiten, wodurch der lokale Chat zum Parsen von Screenshots und Dokumenten wesentlich n\u00fctzlicher wird.<\/p>\n<h2>Modelle<\/h2>\n<p>Die Hauptempfehlung des Projekts ist <b>Qwen3.8-Flash-Next<\/b>. Daf\u00fcr werden von verschiedenen Anbietern mehrere Quantisierungssets angeboten:<\/p>\n<ul>\n<li><b>ISTA-DASLab<\/b> &#8211; empfohlene Option: Q2_0, IQ2_XS, IQ3_XXS, IQ3_S und f\u00fcr den Code ein separater Coder IQ1_M.<\/li>\n<li><b>Unsloth<\/b> \u2013 UD-IQ4_XS, UD-Q4_K_XL, UD-Q5_K_XL, UD-Q6_K_XL, Q8_0.<\/li>\n<li><b>Gyro von agentionai<\/b> \u2013 Gyro-S und Gyro-M: weniger Speicher, aber langsamer.<\/li>\n<\/ul>\n<p>Neben dem Flaggschiffmodell werden <b>Qwen3.6-35B-A3B<\/b> und <b>DeepSeekV4.1-Flash-1017<\/b> unterst\u00fctzt. Letzteres ist interessant, da Teile des Modells, die nicht in den Speicher passen, direkt von der SSD gelesen werden und somit viel freien Speicherplatz ben\u00f6tigen. Es gibt Optionen f\u00fcr 239, 257 und 274 GB sowie eine leichte Coder-Version mit etwa 191 GB, bei der die H\u00e4lfte der Experten entfernt wurde.<\/p>\n<p>Das Starten von DeepSeek vom Terminal aus sieht folgenderma\u00dfen aus:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism undefined-numbers lang-unknown\" data-lang=\"unknown\"><code>strata launch --family deepseek41 --model ist-das-2.00bpw --plan\n<\/code><\/pre>\n<\/div>\n<p>Das Flag &#8211;plan zeigt den Startplan an, bevor der Download beginnt. Bei gro\u00dfen Mengen ist das praktisch: Sie sehen sofort, wie viel Speicher und Festplatte ben\u00f6tigt werden.<\/p>\n<h2>Hardwareanforderungen<\/h2>\n<p>Strata unterst\u00fctzt eine breite Palette von Ger\u00e4ten:<\/p>\n<ul>\n<li><b>NVIDIA GeForce RTX 20, 30, 40 und 50 Serien.<\/b><\/li>\n<li><b>AMD Radeon RX 7700, 7800, 7900, RX 9060, 9070 und AI PRO R9700.<\/b><\/li>\n<li><b>AMD Radeon RX 6800 und 6900<\/b> \u2013 experimentell.<\/li>\n<li><b>Intel Arc<\/b> f\u00fcr Linux.<\/li>\n<li><b>Apple Silicon<\/b> ab M1 und neuer.<\/li>\n<li><b>AMD Ryzen AI Max<\/b> (Strix Halo).<\/li>\n<li><b>NVIDIA DGX Spark<\/b> f\u00fcr Linux.<\/li>\n<\/ul>\n<p>Als Referenz finden Sie hier einige Messungen von DeepSeekV4.1-Flash an einem 2,00-bpw-Set. In der Spalte \u201eAusgabe\u201c \u2013 die Geschwindigkeit, mit der die Antwort generiert wird, in der Spalte \u201eEingabeaufforderung\u201c \u2013 die Geschwindigkeit, mit der Ihre Eingabe gelesen wird.<\/p>\n<ul>\n<li><b>RTX 5070 12 GB, 64 GB RAM<\/b> \u2013 4\u20136 Token\/s, prompt ca. 110 Token\/s.<\/li>\n<li><b>RTX 3060 12 GB, 46 GB RAM<\/b> \u2013 9\u201311 Token\/s, prompt etwa 155 Token\/s.<\/li>\n<li><b>1x Radeon AI PRO R9700, 251 GB RAM<\/b> \u2013 21\u201325 Token\/s, prompt 320\u2013360 Token\/s.<\/li>\n<li><b>4x Radeon AI PRO R9700<\/b> \u2013 74\u201377 Token\/s, prompt 400\u2013450 Token\/s.<\/li>\n<li><b>Ryzen AI Max+ 395 (Strix Halo), 128 GB kombinierter Speicher<\/b> \u2013 19\u201321 Token\/s im Code und 11 im Chat.<\/li>\n<\/ul>\n<p>Wenn Sie nicht sicher sind, was passt, gibt es im Projekt eine separate Anleitung zur Auswahl eines Modells f\u00fcr die Speichergr\u00f6\u00dfe.<\/p>\n<h2>Installieren einer Desktop-Anwendung<\/h2>\n<p>Am einfachsten ist es, das fertige Installationsprogramm von der Release-Seite herunterzuladen. Jedes System hat seine eigene Datei:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism undefined-numbers lang-unknown\" data-lang=\"unknown\"><code>Strata-0.2.13-windows-x64-setup.exe\nStrata-0.2.13-linux-x86_64.AppImage\nStrata-0.2.13-macos-arm64.dmg\n<\/code><\/pre>\n<\/div>\n<p>Installieren Sie die Anwendung, w\u00e4hlen Sie ein Modell aus und beginnen Sie mit der Kommunikation. Wenn Sie die Anwendung zum ersten Mal starten, l\u00e4dt sie automatisch die Engine f\u00fcr Ihre Grafikkarte herunter. Es ist nicht erforderlich, Treiber separat zu konfigurieren oder etwas aus Quellen zu kompilieren.<\/p>\n<p>Im Anwendungsfenster befinden sich Chat, Dateien und Live-Code-Vorschau in der N\u00e4he, was bei der Arbeit an einem Projekt praktisch ist.<\/p>\n<h2>Installation im Terminal<\/h2>\n<p>Wenn Sie die Konsole bevorzugen, installieren Sie Strata mit dem Installationsskript und f\u00fchren Sie dann den Strata-Startbefehl aus.<\/p>\n<p>Unter Linux und macOS:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism undefined-numbers lang-unknown\" data-lang=\"unknown\"><code>curl -fsSL https:\/\/github.com\/Niko1221\/Strata\/releases\/latest\/download\/install.sh -o install.sh && sh install.sh\n<\/code><\/pre>\n<\/div>\n<p>In Windows PowerShell:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism undefined-numbers lang-unknown\" data-lang=\"unknown\"><code>irm https:\/\/github.com\/Niko1221\/Strata\/releases\/latest\/download\/install.ps1 | iex\n<\/code><\/pre>\n<\/div>\n<p>\u00d6ffnen Sie nach der Installation unter Windows ein neues Terminalfenster und f\u00fchren Sie Folgendes aus:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism undefined-numbers lang-unknown\" data-lang=\"unknown\"><code>strata launch\n<\/code><\/pre>\n<\/div>\n<p>Das Programm stellt Fragen, l\u00e4dt das gew\u00fcnschte Modell herunter und startet es. W\u00e4hrend des Betriebs werden Aktivit\u00e4t, Geschwindigkeit, Speicherverbrauch und aktuelle Anfragen des Modells angezeigt \u2013 praktisch, um zu verstehen, was mit der Hardware passiert.<\/p>\n<p>F\u00fcr diejenigen, die alles selbst bauen m\u00f6chten, gibt es einen Build aus dem Quellcode, eine Option \u00fcber Docker und eine ausf\u00fchrliche Installationsanleitung.<\/p>\n<h2>Instrumente anschlie\u00dfen<\/h2>\n<p>Die Hauptst\u00e4rke von Strata besteht darin, dass es eine lokale API bereitstellt, die mit OpenAI und Anthropic kompatibel ist. Dadurch sind beliebte Agenten-Tools damit verbunden: <b>Claude Code<\/b>, <b>Codex CLI<\/b>, <b>OpenCode<\/b>, <b>oh-my-pi<\/b>, <b>pi.dev<\/b>, <b>Hermes Agent<\/b>, <b>OpenClaw<\/b> und andere.<\/p>\n<p>Um herauszufinden, wie Sie ein bestimmtes Tool konfigurieren, f\u00fchren Sie einfach Folgendes aus:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism undefined-numbers lang-unknown\" data-lang=\"unknown\"><code>strata connect\n<\/code><\/pre>\n<\/div>\n<p>Das Team zeigt Ihnen vorgefertigte Anleitungen f\u00fcr Ihre Bewerbung. Dann ist alles wie bei einem regul\u00e4ren Cloud-Anbieter: Als Basisadresse wird der lokale Endpunkt Strata angegeben und als Schl\u00fcssel wird angegeben, was die Engine produziert. F\u00fcr die Schlussfolgerung ist kein Internet erforderlich.<\/p>\n<h2>Worauf Sie achten sollten<\/h2>\n<p>Der lokale Betrieb ist ein Kompromiss, und es lohnt sich, sich dar\u00fcber im Voraus im Klaren zu sein.<\/p>\n<ul>\n<li><b>Die Geschwindigkeit h\u00e4ngt von der Hardware ab.<\/b> Auf schwachen Grafikkarten reagieren gro\u00dfe Modelle langsam, insbesondere wenn ein Teil der Gewichte von der Festplatte gelesen wird. Die obigen Ma\u00dfe geben einen ungef\u00e4hren Eindruck.<\/li>\n<li><b>Die Modelle sind immer noch gro\u00df.<\/b> Festplatte und Speicher sind die Hauptbegrenzer. DeepSeek ben\u00f6tigt Hunderte Gigabyte freien Speicherplatz.<\/li>\n<li><b>Quantisierungsqualit\u00e4t.<\/b> Stark komprimierte S\u00e4tze sparen Speicherplatz, k\u00f6nnen jedoch an Qualit\u00e4t verlieren. Wenn Ihre Hardware es zul\u00e4sst, w\u00e4hlen Sie die Option mit einem h\u00f6heren Bpw.<\/li>\n<li><b>Erster Download.<\/b> Beim ersten Start werden sowohl die Engine als auch die Modellgewichte heruntergeladen, daher ben\u00f6tigen Sie eine stabile Verbindung und Speicherplatz.<\/li>\n<\/ul>\n<p>Gleichzeitig erhalten Sie die volle Kontrolle: keine Limits, Abonnements oder Datenlecks. Auf Ihrer Maschine z\u00e4hlt alles.<\/p>\n<h2>F\u00fcr wen ist das?<\/h2>\n<p>Strata ist sinnvoll, wenn Sie Ihre Arbeitsdaten lokal halten m\u00f6chten, sich nicht auf Cloud-Pl\u00e4ne verlassen m\u00f6chten oder einfach gerne mit lokaler KI experimentieren m\u00f6chten. F\u00fcr einen Programmierer ist dies auch eine M\u00f6glichkeit, einen vertrauten Agenten mit einem Modell zu verbinden, das in der N\u00e4he arbeitet, ohne Netzwerkverz\u00f6gerungen und ohne f\u00fcr jede Anfrage zu bezahlen.<\/p>\n<p>Das Projekt entwickelt sich aktiv weiter: Zehntausende Sterne, Tausende Forks, h\u00e4ufige Ver\u00f6ffentlichungen und detaillierte Dokumentation f\u00fcr jeden Hardwaretyp. Der einfachste Weg ist, mit der Desktop-Anwendung zu beginnen. Wenn Sie m\u00f6chten, gehen Sie dann zum Terminal und verbinden Sie Ihre Tools.<\/p>\n<h2>Links<\/h2>\n<p><a href=\"https:\/\/github.com\/niko1221\/strata\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/niko1221\/strata<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/releases\/latest\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/releases\/latest<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/INSTALL.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/INSTALL.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/MODELS.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/MODELS.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/TERMINAL_LAUNCH.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/TERMINAL_LAUNCH.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/DEEPSEEK41.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/DEEPSEEK41.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/HOW_IT_WORKS.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/HOW_IT_WORKS.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/TROUBLESHOOTING.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/TROUBLESHOOTING.md<\/a><\/p>\n<h2>Quellen<\/h2>\n<p><a href=\"https:\/\/github.com\/niko1221\/strata\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/niko1221\/strata<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/README.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/README.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/INSTALL.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/INSTALL.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/MODELS.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/MODELS.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/DEEPSEEK41.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/DEEPSEEK41.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/AMD_HIP.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/AMD_HIP.md<\/a><br \/>\n<a href=\"https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/STRIX_HALO.md\" rel=\"noopener\" target=\"_blank\">https:\/\/github.com\/Niko1221\/Strata\/blob\/main\/docs\/STRIX_HALO.md<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Strata ist eine Open-Source-Engine zum Ausf\u00fchren gro\u00dfer Sprachmodelle auf Standardhardware. Das Projekt hat ein einfaches Ziel: das leistungsstarke Modell lokal zum Laufen zu bringen, ohne Cloud, ohne Konto und ohne Bezahlung von Token. Die Installation ist auf ein Installationsprogramm beschr\u00e4nkt, und nach dem Start k\u00f6nnen Sie chatten, mit Code arbeiten und sogar Bilder auf Ihrem [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[],"class_list":["post-216","post","type-post","status-publish","format-standard","hentry","category-notes"],"translation":{"provider":"WPGlobus","version":"3.0.6","language":"de","enabled_languages":["en","ru","zh","de","ja","fr","es","pt","hi"],"languages":{"en":{"title":true,"content":true,"excerpt":false},"ru":{"title":true,"content":true,"excerpt":false},"zh":{"title":true,"content":true,"excerpt":false},"de":{"title":true,"content":true,"excerpt":false},"ja":{"title":true,"content":true,"excerpt":false},"fr":{"title":true,"content":true,"excerpt":false},"es":{"title":true,"content":true,"excerpt":false},"pt":{"title":true,"content":true,"excerpt":false},"hi":{"title":true,"content":true,"excerpt":false}}},"_links":{"self":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts\/216","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/comments?post=216"}],"version-history":[{"count":0,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts\/216\/revisions"}],"wp:attachment":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/media?parent=216"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/categories?post=216"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/tags?post=216"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}