物理AI落地的竞争，正在从单纯比拼峰值算力，转向对模型体积、推理成本、能效、实时性与持续学习能力的系统优化。物理 AGI 企业星凡智能 XFEON 选择了一条“算法—推理引擎—芯片架构”协同演进的技术路径，并试图将低比特量化、稀疏计算与片上学习能力直接沉淀到芯片底层。

AI正在加速进入机器人、无人系统、低空设备和星载平台等真实场景。但与云端大模型不同，物理AI系统很难依赖无限扩展的服务器资源。设备端往往受到显存、功耗、散热、成本和响应时延等多重限制。模型不仅要“跑起来”，还要在有限资源下持续、稳定地完成感知、推理、决策和行动。

这也意味着，物理AI计算的核心矛盾，已经不只是算力是否足够，而是每一单位算力能否被更有效地使用。

从星凡智能近期披露的技术体系来看，这家公司并未将解决方案停留在增加通用计算资源上，而是从算法入手，依次向推理引擎、芯片架构和系统产品延伸，尝试建立一套贯穿软件与硬件的计算优化体系。

从模型压缩入手，降低物理AI部署门槛

大模型部署面临的第一道门槛，通常不是计算，而是存储。

参数规模达到数百亿甚至千亿级后，模型权重会占用大量显存。如果简单采用统一低精度量化，虽然能够显著压缩模型，却可能对关键权重造成较大影响，最终损害推理精度。

星凡智能采用的混合精度量化方案，是根据不同权重对模型结果的影响程度分配数据精度：对敏感权重保留相对较高的精度，对低敏感权重则使用INT2、INT3或INT4等低比特格式。

从技术逻辑上看，这种方法的重点不只是“把模型变小”，而是在模型规模、硬件占用与推理精度之间寻找更优平衡。

根据星凡智能披露的数据，其相关方案可将模型部署体积最高压缩约85%，硬件成本降低约50%，同时将精度损失控制在较低水平。

与量化技术配合的，是稀疏化优化。

大模型中并非所有参数都会对每一次推理产生同等贡献。通过识别低贡献权重，并在计算过程中跳过部分无效运算，可以降低实际计算量和内存访问压力。星凡智能的技术体系原生支持2:4和1:4等稀疏模式，试图将模型稀疏性转化为可感知的推理性能与能效收益。

量化解决的是“用更少的数据位表示模型”，稀疏化解决的是“减少不必要的计算”。两者结合，才可能真正降低物理AI设备在显存、带宽和功耗方面的负担。

推理引擎的价值，在于把算法优势转化为实际吞吐

模型完成量化，并不意味着硬件能够自动发挥最佳性能。

不同精度的数据格式、不同稀疏结构以及不同硬件平台，都需要推理引擎完成算子调度、内存管理和任务并行。如果软件栈缺乏针对性优化，模型压缩带来的理论收益，很可能在实际运行中被调度和数据搬运开销抵消。

因此，星凡智能在算法之外，自研了支持1至8 bit混合精度的推理引擎，并围绕量化模型进行软硬件协同调度。

其披露的一组测试具有一定代表性：在DeepSeek-V2-Coder 236B稀疏模型、输入长度为512 token的条件下，采用星凡智能推理引擎的8张RTX 4090平台，与8张H20参考平台进行比较。前者硬件采购成本约为后者的18%，而在batch 1至32的不同并发条件下，生成吞吐达到参考平台的74%至120%。

其中，在batch 1至4的低并发场景，RTX 4090平台的生成吞吐高出约10%至20%；batch 8时两者大致持平；随着并发继续提高，其吞吐分别达到参考平台的89%和74%。

这组结果结合测试条件反映出一个关键问题：推理性能并不完全由芯片的理论规格决定，模型压缩、算子优化、并发调度和内存管理同样会显著影响最终结果。

对于本地化部署而言，企业真正关心的往往不是单张芯片的峰值参数，而是在既定预算下能够获得多少有效吞吐。星凡智能正是通过软件优化重新释放相对低成本硬件的计算潜力。

从高效推理进一步走向低资源学习

物理AI与传统云端推理的另一个差异，是系统需要持续适应真实环境。

机器人进入不同工厂、家庭或仓储场景后，会面对环境变化、任务变化以及本体差异。如果所有数据都需要上传云端重新训练，再将完整模型下发，成本、时延与数据安全都会成为问题。

因此，片上自学习能力正在成为物理AI芯片的重要演进方向。

在与西安交通大学自主系统与智能芯片研究团队的合作中，星凡智能将研究重点放在无知识遗忘训练和低资源消耗训练上，希望解决受限环境中的训练成本、归一化层开销与稀疏模式不一致等问题。按照披露的测试结果，相关方法可减少约40%的浮点运算量，并将EMA相关成本降低约39%。

其技术意图并非在端侧重新完成一次大规模预训练，而是使设备能够在有限算力、存储和功耗条件下进行局部优化、增量学习与任务适配。

如果这一能力在产品中得到充分验证，物理AI系统将可能从“部署后能力固定”，逐步转向“运行中持续适应”。这也是星凡智能提出从数据采集、自监督训练到能力提升闭环的重要技术基础。

算法优化之后，为什么还需要定制芯片

只依靠软件优化，仍然存在效率上限。

通用芯片需要兼容多种计算任务，其架构很难完全贴合混合精度、结构化稀疏和在线学习等特定负载。模型运行过程中产生的软件调度、指令转换、缓存读写和数据搬运，都会带来额外延迟和能耗。

星凡智能下一阶段的技术重点，是将已经验证的算法能力进一步固化到芯片电路中。

这里所谓的“硬件原生加速”，并不是简单增加计算核心数量，而是让芯片内部的不同计算单元，直接匹配物理AI模型中的不同任务。

其异构多核芯片架构主要包括三类能力：

第一，混合精度计算原生化。芯片内部集成INT2、INT3、INT6等低比特计算单元，使相应模型无需完全依赖软件模拟或格式转换，减少调度开销。

第二，稀疏计算硬件化。原生支持2:4、1:4等稀疏模式，在硬件层面识别和跳过部分无效计算，降低显存带宽占用及数据搬运功耗。

第三，学习能力片上化。通过集成梯度计算与非结构化参数更新电路，为设备端的局部训练和在线优化提供硬件基础。

从本质上看，星凡智能试图做的，是将算法中已经明确的计算规律直接映射到硬件架构，使芯片不再被动运行通用指令，而是主动适配物理AI模型的计算特征。

技术领先性，不只体现在单项指标

根据星凡智能披露的信息，其规划中的异构多核芯片INT8算力可达到280T，综合等效算力超过420T；片上自学习相关架构的等效面积效率为41.2 GOPS/mm²，等效能量效率达到90.63 TOPS/W。

但相比单项算力指标，更值得关注的是其技术体系的完整性。

星凡智能的路线并非先完成芯片，再寻找适配算法；而是先从模型量化、稀疏化和低资源学习中提炼关键计算需求，再通过推理引擎验证软件效率，最终将高频、稳定的算法模式转化为芯片原生能力。

这一思路可概括为：

算法定义计算需求，推理引擎验证系统效率，芯片架构沉淀规模化能力。

技术成果之外，星凡智能披露，其大模型稀疏化与定制化芯片相关成果获得科技成果评价；自主研发的Text2SQL技术在相关全球榜单中取得精度第9、效率第8的成绩，相关论文也被ACL收录。

这些成果覆盖了模型算法、自然语言处理、芯片设计和系统实现多个层面，也从侧面说明，星凡智能的技术积累并非集中在单一硬件产品，而是已经延伸至算法与芯片协同设计。

从“更大算力”走向“更高有效算力”

当前AI芯片市场仍在大量讨论制程、核心数量和峰值算力，但物理AI真正进入机器人、无人系统、太空计算和低空设备后，评价标准正在发生变化。

有限功耗下能完成多少任务，有限显存中能运行多大模型，设备能否长期稳定运行，以及部署后能否持续学习，可能比单一峰值参数更重要。

从目前披露的技术路径看，星凡智能已经形成了较为清晰的差异化方向：

不是依靠通用算力的简单堆叠，而是通过混合精度、稀疏计算、推理引擎和定制芯片之间的协同，提高单位硬件资源所能释放的有效性能。

当然，从实验数据、技术成果走向大规模产品应用，仍需要更多真实场景和长期运行结果进行验证。但在物理AI计算仍处于架构重构期的当下，星凡智能从算法一路深入到芯片底层的技术选择，已经体现出较强的系统研发能力和前瞻性。

当越来越多AI能力开始进入真实世界，行业竞争的焦点或许不再是谁拥有最大的模型或最高的理论算力，而是谁能够用更低的成本、更少的能耗和更稳定的系统，将智能真正部署到每一台设备之中。

责任编辑：kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com