EthanLab 软件开发 · 产品管理 · 科技评测
返回研究笔记

Strata 模型比较与实测成绩:IQ2_XS、IQ3_XXS 的速度、分数与内存

整理 RTX 5060 Ti 16GB、64 GiB RAM 运行 Qwen3.8-Flash-Next 的九次实测,对照 Strata 作者的速度,并比较 ISTA 量化分数、模型大小与 RAM 用量。

64 GiB 内存搭配 RTX 5060 Ti 16GB,运行原版 Qwen3.8-Flash-Next IQ3_XXS 的最新实测中位数:Prefill 1,665.73、Decode 51.65 tokens/s。以下整理模型品质、内存用量,以及本机与 Strata 作者的速度比较。

Strata 系列:模型比较与实测 · 硬件公式与验证 · 升级成本与效益

最新实测:Strata 0.1.43.1

2026 年 10 月 13 日,以 i7-11700、RTX 5060 Ti 16GB、64GB DDR4-3200 双信道主机,沿用 0.1.41 的提示与设置,各测九次;下表单位均为 tokens/s。

原版 IQ3_XXS:两版九次中位数比较
测试 0.1.41 0.1.43.1 速度变化 新版最低~最高
Prefill/名义 32K 1,666.44 1,665.73 −0.04% 1,642.28~1,672.80
Decode/名义 4K 51.30 51.65 +0.68% 51.23~52.43
0.1.43.1 九次完整结果,未剔除较慢样本
次数 Prefill/名义 32K Decode/名义 4K
1 1,672.80 51.65
2 1,672.26 51.65
3 1,665.73 51.23
4 1,667.96 51.50
5 1,642.28 51.75
6 1,655.38 51.24
7 1,655.48 51.77
8 1,669.69 52.43
9 1,655.81 51.77

测试使用 65,536 上下文、INT8 KV、KV resident 32,768、显存预留 1,500 MiB、专家缓存与 Prefill auto、MTP spec 4/min-p 0.5、greedy。每次启动全新引擎并输出 256 tokens;停止 HTTP 与看图服务,不重用提示缓存,未清除操作系统文件缓存,计时不含模型加载。

名义 32K/4K 的实际提示为 31,566/3,562 tokens;Prefill 计时涵盖 31,565/3,561 tokens,最后一个提示 token 留给首步 Decode。提示为保存的替代原代码,并非作者未公开的原文。两版中位数接近,但背景活动与温度无法完全重建;以下跨主机比较及 v4 公式仍沿用 0.1.41 基准。

本机与作者的同模型比较

硬件配置
项目 本机 Strata 作者
CPU Intel Core i7-11700 AMD Ryzen 5 7600
GPU RTX 5060 Ti 16GB RTX 5070 12GB
显卡连接 PCIe 4.0 ×8 PCIe 5.0 ×16
RAM 64GB DDR4-3200,双信道 64GB DDR5-5200,信道未确认

IQ2_XS 双方均使用 Swift 1.5;IQ3_XXS 双方均使用原版 Qwen。本机为 2026 年 10 月 11 日各九次的中位数,作者每格为单次测量。下表秒数统一按 51,200 输入+4,096 输出 tokens换算。

速度与换算耗时;速度单位 tokens/s,时间单位秒
模型/项目 本机速度 作者速度 作者速度提升 本机秒数 作者秒数 作者耗时减少
Swift IQ2_XS/Prefill 1,622.10 2,092.02 +29.0% 31.6 24.5 22.5%
Swift IQ2_XS/Decode 65.55 78.60 +19.9% 62.5 52.1 16.6%
Swift IQ2_XS/合计 — — — 94.1 76.6 18.6%
原版 IQ3_XXS/Prefill 1,666.44 1,745.16 +4.7% 30.7 29.3 4.5%
原版 IQ3_XXS/Decode 51.30 61.64 +20.2% 79.8 66.5 16.8%
原版 IQ3_XXS/合计 — — — 110.6 95.8 13.4%

耗时减少=1−作者秒数÷本机秒数;速度提升=作者 tokens/s÷本机 tokens/s−1,均以未四舍五入数值计算。这是模型推论时间换算,不是完整 coding-agent 任务的实测耗时。

作者使用 Strata 0.1.26、英语 MTP 词汇表;本机使用 0.1.41、CJK MTP 词汇表,提示及上下文/KV 条件也不完全相同,因此不能把差距全归因于硬件。本机原版 IQ3_XXS 比 Swift IQ2_XS 的 Prefill 快 2.7%、Decode 慢 21.7%,同时涉及模型变种与量化差异。

ISTA 量化品质:LiveCodeBench v6

以下为 ISTA-DASLab 的原版量化评测,不包含 Swift 1.5。分数越高越好;下载大小使用十进位 GB,不等于运行时 RAM 用量。

Qwen3.8-Flash-Next 各量化版本 LiveCodeBench v6 分数
Qwen3.8-Flash-Next 各量化版本 LiveCodeBench v6 分数,点图可查看原尺寸。
模型下载大小与程序题得分
版本 下载大小(GB) LiveCodeBench v6
Q2_0 66.4 81.14
IQ2_XS 68.0 83.43
IQ3_XXS 75.8 86.29
IQ3_S 83.6 86.86
Coder IQ1_M,裁剪 50% 专家 58.4 86.28
BF16 原版基准 — 87.43

IQ3_XXS 到 IQ3_S 增加 7.8 GB 下载量,得分提高 0.57 分。Coder 是独立的专家裁剪版本,不能视为单纯降低量化精度。图表纵轴从 80 分起以放大差异;程序题分数不代表完整 coding-agent 任务成功率。来源:ISTA 原版量化评测、Coder 模型卡。

64 GiB RAM 还剩多少?

2026 年 10 月 13 日,IQ3_XXS、65,536 上下文、激活看图;本节容量统一为 GiB。

本机 RAM 容量与模型用量
项目 GiB
安装总容量 64.00
Windows 可使用总容量 63.84
官方 RAM 概估 45.63
扣除官方概估后剩余 18.20
本机卸载/重载实测增量,含看图 44.12
扣除实测增量后剩余 19.72

剩余容量仍包含 Windows 与其他程序已使用的部分,不是当下空闲 RAM。44.12 GiB 是整机卸载/重载前后差值,受缓存与背景活动影响,不是进程独占用量;官方与实测两列分别计算,不重复扣除。差额以未四舍五入数值计算。官方依据:Strata 模型内存概估。

测速来源

留言讨论

留下你的想法

你的电子邮件不会公开。