下载客户端

《魔塔》AI服务器怎么选?IBM AC922 6卡V100 96G显存实测,8000元性价比拉满,本地大模型运行速度分享

2026-06-12 14:38:50
转载

导读

本文实测IBM AC922 6卡V100 AI服务器,该服务器总显存96G,售价8000元,运行多款大模型速度表现良好,兼容主流AI工作流,性价比突出,但约30%依赖库需手动编译,不推荐新手购买。

IBM AC922 8335-GTW 服务器配置6卡V100 16G显存并搭载NvLINK 2.0,总显存高达96G。 上手实测性能表现: 使用llama.cpp运行gpt-oss-120b模型,首轮生成速度可达70+ tokens/s,多轮对话稳定在50tokens/s左右。 运行qwen3-next-80b模型,量化后速度稍慢,约为30tokens/s。 运行qwen3-vl-30b-instruct模型,首轮速度70 tokens/s,4轮后仍能保持60 tokens/s。 兼容性测试: ComfyUI wan2.2、Qwen Image Edit、Flux Kontext等官方工作流全部运行正常,生图、生视频性能强劲。目前暂未遇到无法解决的依赖问题,相关插件在视频中也有展示。 对于仅8000元的售价来说,这款服务器的性价比堪称拉满。 注意事项:大约30%的依赖库需要手动编译安装,因此不推荐新手小白购买。性价比虽高,但需具备一定的动手能力,请务必量力而行。

评论

共0条评论
face
inputImg
相关阅读
最新更新

最新更新