Dell PowerEdge R750 + 4×AX650N 本地大模型测试学习记录
本文记录在 Dell PowerEdge R750 上部署四张 AX650N、安装与升级 AXCL、编译 ax-llm、准备量化模型，以及进行单卡和四卡并发推理测试的完整流程。 本文只描述正常安装和测…
本文记录在 Dell PowerEdge R750 上部署四张 AX650N、安装与升级 AXCL、编译 ax-llm、准备量化模型，以及进行单卡和四卡并发推理测试的完整流程。 本文只描述正常安装和测…