商汤发布 SenseNova Loop-9B 大模型,4bit 量化部署显存最低控制在 10GB 以内

商汤科技在 11 月 17 日晚间正式推出 SenseNova Loop-9B 正式版,这款模型采用创新 Loop 循环 Transformer 架构,总参数规模约 9B,依靠参数复用、流形约束超连接 mHC 技术提升计算深度,4bit AWQ 量化之后模型权重只有 4.9GB,短上下文场景下整机部署显存需求可以做到 10GB 以内,兼顾大模型能力和低硬件门槛,适合本地 PC、边缘卡、私有化小集群部署。常规大模型想要变强大多是直接增加参数、叠加解码层,会持续拉高显存门槛,而 SenseNova Loop-9B 思路不一样,固定 32 个物理解码层,中间共享层循环运行,单次前向推理可以完成 56 次层计算,用 9B 参数实现接近 27B 级别模型在 Agent、数据分析、代码任务上的表现。模型支持图文输入、文本输出,最大上下文窗口达到 512K tokens,本次发布同步开放权重与代码,寒武纪、沐曦、天数智芯等国产 AI 芯片厂商已经完成首日适配,方便开发者在国产算力硬件上直接跑起来。

SenseNova Loop-9B 核心参数清单

  1. 总参数量:约 9B
  2. 架构特点:Loop 循环 Transformer + mHC 流形约束超连接
  3. 解码层设计:32 个物理层,循环执行得到 56 次层计算
  4. 量化版本:官方 AWQ 4bit,权重大小约 4.9GB
  5. 显存门槛:短上下文场景部署显存低至 10GB 内
  6. 上下文上限:最高 512K tokens
  7. 输入输出:文本 + 图像输入,文本输出,多模态能力
  8. 开放形式:权重、配套代码开源

主打能力方向

  • Agent 智能体、工具调用
  • 数据分析、表格推理
  • 代码生成、代码理解
  • 长文档摘要、长文本问答
  • 图文理解多模态任务

SenseNova Loop-9B 和同类型模型对比表

项目SenseNova Loop-9B常规 9B 大模型传统 27B 大模型
物理参数9B9B27B
计算方式层复用循环计算单层单次执行单层单次执行
4bit 权重体积约 4.9GB约 4.5~5GB13GB 左右
显存门槛(短上下文)≤10GB10~12GB20GB 以上
Agent、数据分析能力对标 27B 级别偏弱强

【相关 FAQ】

问题 1:商汤 SenseNova Loop-9B 模型,为什么部署显存需求可以做到 10GB 以内?

回答 1:商汤 SenseNova Loop-9B 模型采用 Loop 循环架构复用参数,官方 AWQ 4bit 量化后权重仅 4.9GB,短上下文场景下 KV 缓存占用不高,整体部署显存需求低至 10GB 以内。

问题 2:商汤 SenseNova Loop-9B 是多少参数的模型,核心架构是什么?

回答 2:商汤 SenseNova Loop-9B 总参数约 9B,核心是 Loop 循环 Transformer 架构,搭配 mHC 流形约束超连接,32 个物理解码层循环运算实现 56 次层计算,在小参数下拉高模型推理能力。

问题 3:商汤 SenseNova Loop-9B 支持多长上下文,是不是多模态模型?

回答 3:商汤 SenseNova Loop-9B 最高支持 512K tokens 上下文,属于多模态模型,支持文本、图像作为输入,输出文本内容,适合长文档处理和图文理解场景。

问题 4:商汤 SenseNova Loop-9B 在哪些任务上对标 27B 大模型?

回答 4:商汤 SenseNova Loop-9B 在 Agent 智能体、数据分析、代码调用这类任务上对标 27B 级别大模型,AIDABench 评测分数甚至高于对照的 Qwen3.8-27B。

问题 5:商汤 SenseNova Loop-9B 能不能在国产 AI 芯片上部署?

回答 5:可以,商汤 SenseNova Loop-9B 发布首日,寒武纪、沐曦、天数智芯等国产 AI 芯片厂商就完成适配,开发者可以在国产算力卡上加载开源权重运行。

【参考资料】

[2026-11-17](商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内)IT 之家

[2026-11-17](SenseNova 发布 Loop-9B 正式版 参数约 9B 权重约 4.9GB)新浪财经

[2026-11-17](商汤科技发布 SenseNova Loop-9B 大模型)北京商报

[2026-11-18](寒武纪 Day 0 完成商汤 SenseNova Loop-9B 适配,打通新型循环计算架构推理链路)IT 之家

【免责声明】

本文基于商汤 SenseNova Loop-9B 官方发布信息、媒体评测资讯整理,10GB 以内显存为短上下文条件下的指标,上下文拉长后显存占用会上升;评测结果为厂商自评基准,不同硬件、推理框架、量化策略会影响实际效果,内容不构成硬件采购、模型商用落地建议,正式上线前建议自行实测验证。

本文来自作者[脉冲信标]投稿,不代表新新网立场,如若转载,请注明出处:https://wap.xxcmw.com/kuaixun/202611/4054.html

赞 (1)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 脉冲信标
    脉冲信标 2026年11月18日

    我是新新网的签约作者“脉冲信标”!

  • 脉冲信标
    脉冲信标 2026年11月18日

    希望本篇文章《商汤发布 SenseNova Loop-9B 大模型,4bit 量化部署显存最低控制在 10GB 以内》能对你有所帮助!

  • 脉冲信标
    脉冲信标 2026年11月18日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 脉冲信标
    脉冲信标 2026年11月18日

    本文概览:商汤科技在 11 月 17 日晚间正式推出 SenseNova Loop-9B 正式版,这款模型采用创新 Loop 循环 Transformer 架构,总参数规模约

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们