新闻动态
News
首页 > 新闻动态 > 新闻资讯
返回

硬核实操|在DGX Spark上用本地推理大模型GLM-4.7“养龙虾”,我们搞定了企业办公3大核心痛点

在企业级AI落地的当下,我们总会遇到两个绕不开的难题:

  • 一边是核心业务数据不敢上传公网AI工具,销售数据、报价体系、客户资料全是公司命脉,数据泄露的风险谁也担不起;

  • 另一边是AI工具门槛高,运维、销售、商务岗的同事不会写代码、搭环境,再好的技术也落不了地。

图片

最近我们在英伟达DGX Spark上完成了一套“全本地化AI方案”的部署:

Ollama管理并运行GLM-4.7-Flash:latest大模型,搭配OpenClaw(圈内俗称“养龙虾”)智能体平台,实打实跑通了3个企业日常高频场景——从服务器运维、销售数据分析到定制化报价单生成全程数据不出本地,不用写一行代码,普通员工也能上手。今天就把完整的实操案例和技术选型心得全部分享给大家。


环境信息

图片


先搞懂:

我们的技术栈,为什么选这“三件套”?

先给新朋友做个极简科普,避免技术门槛劝退:

容天

DGX Spark

英伟达原厂轻量化边缘AI超算,巴掌大小的机身里集成了满血AI算力,原厂CUDA优化拉满,不用专门机房,办公室桌面就能部署,是本地大模型稳定运行的“黄金底座”。

容天

Ollama

一款极简的本地大模型管理工具,一行命令就能下载、运行、切换模型,完美支持Windows/Linux/macOS,搭配DGX Spark的算力,能把GLM-4.7-Flash的推理速度拉满。

容天

GLM-4.7-Flash:latest

智谱AI开源的轻量级大模型,对中文理解能力极强,推理速度快、显存占用低,非常适合本地部署;在企业文档分析、逻辑推理、结构化输出(比如报价单、报表)上表现亮眼,是我们实测后性价比最高的选择。

容天

OpenClaw(养龙虾)

可完全本地化部署的AI智能体工作流平台,不用依赖公网API,能直接对接本地Ollama的模型接口,支持无代码搭建业务流程,把AI能力直接嵌入日常办公。

这套“DGX Spark算力底座+Ollama模型管理+GLM-4.7-Flash本地推理+OpenClaw业务落地”的组合,既解决了数据安全的核心顾虑,又把AI的门槛降到了最低,这也是我们能快速跑通3个核心场景的关键。


硬核实操

3个落地案例,全是企业真需求

案例一:AI智能运维,系统配置巡检+大文件清理,告别手动踩坑


做AI服务器运维的朋友都懂这个痛点:DGX这类算力设备长期跑模型、存数据,很容易被日志文件、缓存包、过时的模型镜像占满磁盘,手动清理不仅耗时,还很容易误删系统文件、业务数据,轻则服务中断,重则造成不可逆的损失。

这次我们用OpenClaw对接本地Ollama+GLM-4.7-Flash,搭建了一套完整的服务器智能巡检&清理工作流,全程不用写一条shell脚本:

容天

给AI智能体设定规则

优先完成系统全配置巡检,覆盖GPU状态、CUDA驱动版本、内存/磁盘占用、系统服务运行状态、端口安全等核心维度,生成标准化巡检报告;

容天

设定大文件扫描规则

GLM-4.7-Flash会智能区分系统核心文件、业务文件、冗余缓存/日志/过期模型,标注可清理文件的风险等级,绝不盲目删除;

容天

执行清理

执行清理后,自动生成清理前后的磁盘占用对比、文件清理明细,留存完整运维日志。

图片

落地效果

原来运维同事半小时才能完成的人工巡检+清理,现在AI 2分钟就能搞定(GLM-4.7-Flash的本地推理速度功不可没),零误操作风险,哪怕是非运维岗的同事,也能一键完成服务器日常维护,彻底解放了技术团队的重复劳动。

案例二:核心销售数据智能分析,数据不出门,效率翻十倍


销售数据是To B企业的核心命脉,我们的销售周报、业绩报表、客户跟进记录、产品销售明细,全散在不同的Excel、PPT、文档里。以往每个月做业绩复盘,销售主管+财务要花整整2天手动汇总、核对、做分析,不仅耗时耗力,还很容易出现数据错漏;更关键的是,这些核心数据绝对不能上传到公网AI工具,数据安全的红线不能碰。

基于本地部署的Ollama+GLM-4.7-Flash+OpenClaw,我们完美解决了这个难题:

容天

隔绝公网泄露风险

把公司全量的销售相关文档、报表、业绩台账,全部导入OpenClaw本地知识库,全程数据不出DGX Spark,完全隔绝公网泄露风险

容天

给AI设定分析维度

各销售月度/季度业绩完成率、TOP客户贡献占比、各产品品类销售结构、业绩缺口预警、同比环比增长分析,同时要求标注异常数据、给出可落地的业务优化建议;

容天

GLM-4.7-Flash

GLM-4.7-Flash凭借强大的中文理解和逻辑推理能力,自动跨文档提取、核对数据,直接生成带可视化图表的完整销售分析报告,不用手动拉函数、做透视表。

图片

落地效果

原来2天的人工分析工作,现在10分钟就能完成,彻底告别了手动核对的繁琐;更重要的是,全程私有化运行,核心销售数据零接触公网,彻底打消了数据安全的顾虑。

案例三:10分钟生成专业报价单,定制化硬件方案零出错


作为英伟达官方授权代理商,我们日常高频收到客户的定制化服务器需求,比如这次的8卡RTX5090服务器报价单。以往销售做一份完整的报价单,要核对硬件配置、产品单价、供货周期、质保条款、增值服务,还要匹配客户的使用场景做方案优化,手动改模板至少要半天,还很容易出现漏项、报错、价格体系不符的问题。

这次我们用OpenClaw对接本地GLM-4.7-Flash,实现了报价单的智能生成,全程零手动出错:

容天

导入本地知识库

把公司的产品价目表、硬件配置规范、报价单模板、质保服务条款、历史合规报价案例,全部导入本地知识库

容天

输入核心需求

基于给定资料,生成一份符合公司规范的8卡RTX5090服务器完整报价单,覆盖硬件明细、规格参数、单项报价、合计总价、供货周期、质保条款、配套服务,同时匹配AI训练/本地大模型部署的场景做方案优化;

容天

GLM-4.7-Flash

GLM-4.7-Flash自动核对价格体系、匹配配置规范,生成可直接发给客户的标准化报价单,支持按需快速调整配置、修改方案,秒级更新内容。

落地效果

原来半天的报价单制作工作,现在10分钟就能完成,严格贴合公司的价格体系和商务规范,零错漏;销售同事不用再反复核对配置和价格,能把更多精力放在客户对接上,成单效率大幅提升。

图片

容天龙虾一号生成的报价单excel格式

图片

容天龙虾一号txt格式

图片


企业级AI落地

从来都不是炫技,而是解决真问题

这三个案例,没有复杂的技术炫技,全是我们公司日常运营中天天会遇到的真实需求。而“DGX Spark+Ollama+GLM-4.7-Flash+OpenClaw”的组合,真正解决了企业AI落地的两大核心痛点:数据绝对安全+全员可用的低门槛。

对于企业来说,AI从来都不是技术团队的专属工具,而是能给运维、销售、商务、管理全岗位提效的生产力。一套能放在办公室里、数据不出本地、普通员工也能轻松上手的私有化AI方案,才是当下大多数企业真正需要的。

如果您也想体验DGX Spark的原厂算力,想搭建基于Ollama+GLM-4.7-Flash的私有化AI办公体系,或是想了解定制化AI服务器解决方案,欢迎在评论区留言或是私信我们,我们会一一为您解答


上一篇:容天AIX SPARK,震撼上市。重新定义桌面AI研发极限