Strata は、汎用ハードウェア上で大規模な言語モデルを実行するためのオープンソース エンジンです。このプロジェクトにはシンプルな目標があります。それは、クラウドやアカウント、トークンの支払いをせずに、強力なモデルをローカルで動作させることです。インストールは 1 つのインストーラーに減らされ、起動後にチャット、コードの操作、さらにはコンピューター上の画像の受信が可能になります。
Strata は内部的には独自の推論エンジンを備えており、外部では OpenAI および Anthropic と互換性のある API をローカル アドレスで公開しています。これは、お気に入りのツール (Claude Code、Codex CLI、OpenCode、その他のエージェント) を接続できることを意味し、エージェントはクラウド プロバイダーと通信していると認識します。データはマシンから流出しません。
この記事では、Strata でできること、サポートされているモデル、インストール方法、楽器への接続方法について詳しく説明します。
それは何ですか
Strata は、MIT ライセンスに基づく無料のプロジェクトです。これにより、次の 3 つの問題が解決されます。
- モデルのローカル発売。 このエンジンは、サーバー アクセラレータではなく、消費者向けビデオ カードと複合メモリ向けに設計されています。
- 単一のインターフェイス。 外部的には、これはローカルホスト上の OpenAI および Anthropic と互換性のある API であるため、これらのプロトコルで動作できるほぼすべてのものを接続できます。
- シンプルさ。 デスクトップ アプリケーションとターミナルのインストーラーにより、ソースからの依存関係、ドライバー、アセンブリに関する作業が削除されます。
これとは別に、オプションの画像入力にも注目してください。このモデルはテキストだけでなく画像も扱うことができるため、スクリーンショットやドキュメントの解析にローカル チャットがさらに便利になります。
モデル
このプロジェクトの主な推奨事項はQwen3.8-Flash-Next です。さまざまなサプライヤーからいくつかの量子化セットが提供されています。
- ISTA-DASLab – 推奨オプション: Q2_0、IQ2_XS、IQ3_XXS、IQ3_S、およびコードの場合は別の Coder IQ1_M。
- ナマケモノ – UD-IQ4_XS、UD-Q4_K_XL、UD-Q5_K_XL、UD-Q6_K_XL、Q8_0。
- agentionai の Gyro – Gyro-S および Gyro-M: メモリは少ないですが、速度は遅くなります。
フラッグシップモデルに加えてQwen3.6-35B-A3B やDeepSeekV4.1-Flash-1017 にも対応しています。 The latter is interesting because parts of the model that do not fit into memory are read directly from the SSD, so it requires a lot of free disk space. There are options for 239, 257 and 274 GB, as well as a lightweight Coder version of approximately 191 GB, where half of the experts have been removed.
ターミナルから DeepSeek を起動すると次のようになります。
strata launch --family deepseek41 --model ist-das-2.00bpw --plan
–plan フラグは、ダウンロードが開始される前の起動計画を示します。大規模なセットの場合、これは便利です。必要なメモリとディスクの量がすぐにわかります。
ハードウェア要件
Strata は幅広い機器をサポートしています。
- NVIDIA GeForce RTX 20、30、40、50 シリーズ。
- AMD Radeon RX 7700、7800、7900、RX 9060、9070、および AI PRO R9700。
- AMD Radeon RX 6800 および 6900 – 実験版。
- Linux 用のインテル Arc。
- M1 以降のApple シリコン
- AMD Ryzen AI Max (Strix Halo)。
- Linux 用の NVIDIA DGX Spark
参考として、2.00 bpw セットでの DeepSeekV4.1-Flash の測定値をいくつか示します。 「出力」列は応答を生成する速度、「プロンプト」列は入力を読み取る速度です。
- RTX 5070 12 GB、64 GB RAM – 4～6 トークン/秒、約 110 トークン/秒を要求します。
- RTX 3060 12 GB、46 GB RAM – 9～11 トークン/秒、約 155 トークン/秒を要求します。
- 1x Radeon AI PRO R9700、251 GB RAM – 21 ～ 25 トークン/秒、プロンプト 320 ～ 360 トークン/秒。
- 4x Radeon AI PRO R9700 – 74 ～ 77 トークン/秒、プロンプト 400 ～ 450 トークン/秒
- Ryzen AI Max+ 395 (Strix Halo)、合計 128 GB のメモリ – コードで 19 ～ 21 トークン/秒、チャットで 11 トークン
何が適合するかわからない場合は、プロジェクトにメモリ量に応じたモデルを選択するための別のガイドが用意されています。
デスクトップ アプリケーションのインストール
最も簡単な方法は、リリース ページから既製のインストーラーをダウンロードすることです。各システムには独自のファイルがあります。
Strata-0.2.13-windows-x64-setup.exe
Strata-0.2.13-linux-x86_64.AppImage
Strata-0.2.13-macos-arm64.dmg
アプリをインストールし、機種を選択して通信を開始します。アプリケーションを初めて起動すると、ビデオ カードのエンジンが自動的にダウンロードされます。ドライバーを個別に構成したり、ソースから何かをコンパイルしたりする必要はありません。
アプリケーション ウィンドウでは、チャット、ファイル、ライブ コード プレビューが近くに配置されているため、プロジェクトで作業するときに便利です。
端末へのインストール
コンソールを使用する場合は、インストール スクリプトを使用して Strata をインストールし、strata 起動コマンドを実行します。
Linux および macOS の場合:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
Windows PowerShell の場合:
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
Windows にインストールしたら、新しいターミナル ウィンドウを開いて次を実行します。
strata launch
プログラムは質問をし、目的のモデルをダウンロードして起動します。動作中、モデルのアクティビティ、速度、メモリ消費量、最新のリクエストが表示されるため、ハードウェアで何が起こっているかを理解するのに便利です。
すべてを自分で構築したい人のために、ソースからのビルド、Docker 経由のオプション、および詳細なインストール ガイドがあります。
機器の接続
Strata の主な強みは、OpenAI および Anthropic と互換性のあるローカル API を公開していることです。このおかげで、Claude Code、Codex CLI、OpenCode、oh-my-pi、pi.dev、Hermes Agent、OpenClaw などの一般的なエージェント ツールが接続されています。
特定のツールの構成方法を確認するには、次を実行してください。
strata connect
チームはあなたのアプリケーション向けに既成の手順を示します。その後は、すべてが通常のクラウド プロバイダーと同じになります。ローカル エンドポイント Strata がベース アドレスとして指定され、エンジンが生成するものがキーとして指定されます。推論にインターネットは必要ありません。
注意すべきこと
ローカルでの実行にはトレードオフが伴うため、事前に認識しておく価値があります。
- 速度はハードウェアに依存します。 弱いビデオ カードでは、特に重みの一部がディスクから読み取られる場合、大きなモデルの応答が遅くなります。上記の測定値は大まかな目安を示します。
- モデルはまだ大きいです。 ディスクとメモリが主な制限です。 DeepSeek には数百ギガバイトの空き容量が必要です。
- 量子化の品質。 高度に圧縮されたセットはメモリを節約しますが、品質が低下する可能性があります。ハードウェアが許可する場合は、より高い bpw のオプションを選択してください。
- 初期ダウンロード。 最初の起動時に、エンジンとモデルのウェイトの両方がダウンロードされるため、安定した接続とディスク容量が必要です。
同時に、制限、サブスクリプション、データ漏洩なしで完全に制御できます。すべてはマシン次第です。
これは誰に向けたものですか?
仕事用データをローカルに保存したい場合、クラウド プランに依存したくない場合、または単にローカル AI を実験したい場合には、Strata が理にかなっています。プログラマーにとって、これは、ネットワークの遅延や各リクエストの料金を支払うことなく、使い慣れたエージェントを近くで動作するモデルに接続する方法でもあります。
このプロジェクトは活発に開発が行われており、数万のスター、数千のフォーク、頻繁なリリース、各種類のハードウェアの詳細なドキュメントが作成されています。最も簡単な方法は、デスクトップ アプリケーションから始めることです。その後、必要に応じてターミナルに移動し、ツールを接続します。
リンク
https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/releases/latest
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/TERMINAL_LAUNCH.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md
https://github.com/Niko1221/Strata/blob/main/docs/TROUBLESHOOTING.md
ソース
https://github.com/niko1221/strata
https://github.com/Niko1221/Strata/blob/main/README.md
https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
https://github.com/Niko1221/Strata/blob/main/docs/DEEPSEEK41.md
https://github.com/Niko1221/Strata/blob/main/docs/AMD_HIP.md
https://github.com/Niko1221/Strata/blob/main/docs/STRIX_HALO.md
Leave a Reply