lch
发布于 2026-04-09 / 0 阅读
0

节省龙虾 40% Token 消耗!ClawChips 加持 Firefly-RK1828 端云协同

随着 AI Agent逐步走向实际业务场景,客户的关注点也在发生变化。相比单纯的模型能力展示,客户更关心的是:Agent能否真正落地到设备侧、场景侧和交互侧,并在成本、体验与适配性之间取得有效平衡?

针对这些问题, 瑞芯微 推出一套端云协同的龙虾解决方案ClawChips,为龙虾Agent的本地化、场景化开发提供了强力支持。

5a6b37e4-33fc-11f1-ab55-92fbcf53809c.jpg



什么是ClawChips?

ClawChips属于“端侧智能路由插件方案”,是在瑞芯微边缘设备上,把本地模型、云端模型、记忆路由和可视化运维面板整合起来,让龙虾在端侧更省钱、更实用、更可控,相较于完全依赖云端模型的处理方式,系统能够根据任务复杂度,对请求进行本地与云端分流,本地处理占比有了显著提升。这意味着一部分高频、轻量、实时性要求更高的任务,可以优先在本地完成处理,从而减少不必要的云端调用压力,让云端资源更多用于复杂理解和高质量生成等任务。


关于ClawChip更详细的介绍,可参考瑞芯微电子原文链接:瑞芯微龙虾平台“ClawChips”——端云协同·安全省耗·高效适配

5a7d4e98-33fc-11f1-ab55-92fbcf53809c.png

(图片资料来源: 瑞芯微龙虾平台“ClawChips”



节省云端Token消耗

ClawChips搭载自研本地智能路由机制,实现交互成本的高效管控。系统收到请求后,优先复用记忆库基于 Pi nchBench实测,可节省 40% 云端模型消耗,实现本地推理零成本,云端调用更高效。

5a8af912-33fc-11f1-ab55-92fbcf53809c.png

(资料来源: 瑞芯微龙虾平台“ClawChips”



简易指令,龙虾开箱即用

ClawChips已完成多项基础功能的集成与落地,兼顾实用性与开发性,内置通用型+客户定制型首批Skils,将设备调试、图像分析、模型测试等核心需求封装为简易指令,降低 开发者 初期使用门槛,让龙虾可以到手直接使用。



应用场景: 编程 助手

在编程助手这一典型应用场景中,ClawChips展现出 “简单任务本地优先、复杂任务云端补充” 的协同优势。像代码注释翻译、短代码说明、函数命名优化等轻量任务,可以优先在本地完成,而对于报错排查、根因分析、修复建议、测试设计等更复杂的开发任务,则借助云端能力进一步提高处理质量。对于开发者而言,能够在效率、成本与能力之间取得有效平衡。

5a948694-33fc-11f1-ab55-92fbcf53809c.png



应用场景: 语音识别

除了端云协同之外,ClawChips所具备的ASR语音识别交互能力,实现复杂环境下的语音指令快速识别与解析。能够适用于 机器人 智能家居 、智能终端、语音控制设备等高频的语音自然交互场景。

5aa48c7e-33fc-11f1-ab55-92fbcf53809c.png



ClawChips多元场景适配

ClawChips在 “本地承载 + 协同推理 + 云端补充” 的思路下,展现出较好的工程落地潜力。尤其对于通用行业场景而言,这种端侧可部署、端云可协同、交互能力可扩展的方案形态,结合实际业务需求,实现高效的场景化适配。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41173

    浏览量

    302626
  • 瑞芯微
    瑞芯微
    +关注

    关注

    27

    文章

    855

    浏览量

    54669
  • 智能路由
    智能路由
    +关注

    关注

    0

    文章

    10

    浏览量

    7238