在快速发展的AI普及浪潮中,各大芯片和设备企业皆心怀紧迫感,唯恐在竞争中掉队。如今,苹果生态正在此赛道上遥遥领先,近期爱范儿对Mac Studio的评测显示,凭借强大的M3 Ultra芯片和高达512GB的统一内存,成功在本地部署并运行了DeepSeek Q4量化版671B及70B模型,展现非凡的token吞吐能力。对此,x86阵营中的AMD正努力加速追赶。
尽管参数量极大,过往对硬件要求也极高,远超过去业界对于移动计算设备本地推理能力的认知上限——笔记本电脑现在也可以顺利且轻松地运行数百亿参数量的大模型了。 AMD 这样做的目的,是确保基于大模型的企业级应用和科研能力,能够被普及到 x86 阵营的笔记本 ...