[luffffyz]

User-consented public MoE4All report. Awaiting maintainer review; no automatic merge. Format validation is not an independent reproduction.

[github-actions]

Benchmark 摘要

模型	GPU／显存	RAM	引擎	策略	KV	实际 ubatch
Ornith-1.5-35B-A3B.APEX-I-MiniPlus-V2.1.gguf	AMD Radeon RX 9070 / 15.9G	31.8G	1.1.0	自动保守	none/none	未知

测试速度

单位：tok/s，多路为聚合速度。

上下文	项目	前段	中段	后段	平均	状态
6K	Prefill	—	—	—	2698.4	完成
6K	Decode x1	96.2	96.1	96.1	96.1	完成
6K	Decode x2	119.2	119.0	118.0	118.7	完成
6K	Decode x3	138.1	134.1	133.0	135.0	完成
6K	Decode x4	137.3	133.0	131.1	133.7	完成
30K	Prefill	—	—	—	2140.4	完成
30K	Decode x1	69.1	68.5	68.2	68.6	完成
30K	Decode x2	84.4	84.0	83.7	84.0	完成
30K	Decode x3	93.3	91.3	91.5	92.0	完成
30K	Decode x4	92.5	90.1	90.9	91.2	完成
150K	Prefill	—	—	—	903.4	完成
150K	Decode x1	31.1	31.1	30.7	31.0	完成
150K	Decode x2	34.0	34.2	33.5	33.9	完成
150K	Decode x3	36.1	35.4	34.9	35.5	完成
150K	Decode x4	36.3	35.7	35.0	35.7	完成

历史对比

上下文／项目	本次	历史参考	差异	匹配条件	提示
6K Prefill	2698.4	—	—	无匹配记录	暂无参考
6K Decode x1	96.1	—	—	无匹配记录	暂无参考
6K Decode x2	118.7	—	—	无匹配记录	暂无参考
6K Decode x3	135.0	—	—	无匹配记录	暂无参考
6K Decode x4	133.7	—	—	无匹配记录	暂无参考
30K Prefill	2140.4	—	—	无匹配记录	暂无参考
30K Decode x1	68.6	—	—	无匹配记录	暂无参考
30K Decode x2	84.0	—	—	无匹配记录	暂无参考
30K Decode x3	92.0	—	—	无匹配记录	暂无参考
30K Decode x4	91.2	—	—	无匹配记录	暂无参考
150K Prefill	903.4	—	—	无匹配记录	暂无参考
150K Decode x1	31.0	—	—	无匹配记录	暂无参考
150K Decode x2	33.9	—	—	无匹配记录	暂无参考
150K Decode x3	35.5	—	—	无匹配记录	暂无参考
150K Decode x4	35.7	—	—	无匹配记录	暂无参考

报告原件 · 检查 aa18212fc58a · 历史 7d388159018d