v0.1.41

125B クラスの AI を自分の PC で

NVIDIA / AMD · VRAM 12GB+ · Windows & Linux

ワンクリックセットアップ v0.1.41 の新機能コミュニティ · Issues & PR ハードウェアベンチマーク GitHub

v0.1.41

Strata v0.1.41

Faster on more than one GPU, faster short prompts on NVIDIA, about twice as fast prompts on Windows with little RAM, and a long list of fixes. Two defaults change: --batch on a layer split now runs one pipeline group per GPU, and short prompt chunks on one NVIDIA GPU get help fro…

リリースアプリベンチマーク Pulse · 24

今読む

Old Ethereum mining GPUs got a new job: running a 125B model.
@ElmoVT · 一昨日 · ベンチマーク
125B params at 94 tok/s on a 12GB RTX 5070. Strata runs Qwen 3.8 Flash Next on a gaming PC with 64GB RAM, Q2 quant. a year ago this needed a rack. https://t.co/…
@arnabkarmkr · 一昨日 · ベンチマーク
Time for test results of Qwen3.8-flash-next-GSQ-RSO-IQ3_S on my 3090
@ItsmeAjayKV · 一昨日 · ベンチマーク
Forget the top-tier 5090. The PNY RTX 5080 Slim is on an incredible deal, offering massive value. Even better, the RTX 5070 Ti delivers nearly the same performa…
@thetechnotice · 一昨日 · ベンチマーク

Pulse

データは PC から出ません

セットアップ後もモデルと会話はこの PC に残ります。

RTX 5070 級で 60+ tok/s

ベンチマークで日次トークン、電力、損益分岐を比べます。

OpenAI 互換 API

エンジンを入れて、Cursor や Codex を 127.0.0.1:8080 に向けます。

AI にインストールさせる

Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.

作者フィード

Strix Halo / Qwen3.8-Flash-Next など

すべて