澜码科技-基于大语言模型的企业级AI Agent平台公司，赋能LLM应用落地

澜码CEO受邀出席新消费科技论坛，分享AI Agent如何赋能新零售

在消费经济占据国民GDP比重逐年递增的大背景下，新消费行业的数字化转型也逐渐成为企业的重中之重。

2024年1月17日，以“坚定走出迷雾经济周期、回归以消费者为中心”为主题的《WRE＆雅各布专栏新消费科技论坛2024》在上海召开，来自全国消费品行业的300多位CEO、CIO、CDO、CTO出席，探讨新零售行业的数字化和智能化应用与实践。

作为赋能大语言模型应用落地的先锋企业，澜码科技CEO周健受邀出席《WRE＆雅各布专栏新消费科技论坛2024》，与零售行业的先锋企业代表共同探讨AI Agent如何赋能新零售。

以下为演讲全文，以飨读者：）

过去一年，澜码在 AI Agent领域进行探索和实践，积累和沉淀了一些感悟，也跟零售行业客户一起联合打造了一些场景应用，很高兴今天可以跟零售业的各位分享。

零售业几乎是数字化程度最高的行业，刚才大家谈到很多数字化应用，比如帮线下做数字化，为线上做数据分析等。

但是今天零售行业的数字化和智能化面临三个大问题：一是技术越来越复杂，技术门槛越来越高。2023年讲了很多大语言模型的进展，很多新词汇出现，RAG技术、Fine Tune、多模态大模型等等，大家也追得很累；

第二是对人员的技能要求越来越高。大家也都听说过一个说法，“我们不会被 AI 替代，而是会被使用AI工具的人替代”。

第三点最重要，就是成本和收益，特别是今天在应用大语言模型时，算力是一个极大的挑战。

澜码希望能在落地大语言模型的过程中，帮助大家解决各类挑战，最终把先进技术应用到业务中去。

算力加进去，生产力“长”出来

大家应该有听过，比尔·盖茨、OpenAI 的CEO 最近都说过，大语言模型把算力变成了一种智力，智力作为一种基础设施，面临着所谓新的摩尔定律——每 18个月大语言模型推理成本会降低到原来的1/10，大语言模型训练的成本能降低到原来的1/4。这是一件影响力极大的事情。

澜码的企业级AI Agent的第一步，就是在企业服务领域把企业里的专家知识灌进去，这里最重要的一步，是让企业内部各种各样的知识能够被大语言模型所理解。

因为知识是企业私域的，很多企业并不愿意将它们开放到OpenAI。事实上，目前已经有负面案例，比如Jasper把自己架在OpenAI之上，然后被 OpenAI给“消灭”掉了。

这里有一个很重要的门槛——我们把专家知识灌进去，智力就变成了一种自动化能力，就相当于我们为大语言模型这样一个“高中生”或者“大专生”，做了一个职业培训。

比如像财务、HR等岗位的员工，经过职业培训之后进入企业，还是需要进行进一步的On Job Training，企业内部会有自己的SOP知识、业务流程、活动、任务等，经过封装，专家知识和大语言模型就会变成生产力，这里有巨大的效应——算力加进去，生产力长出来。

把专家知识赋能给 AI Agent

过去，在企业中，专家时间是瓶颈，集团总部会有专家指导店长做陈列、培训店员，但专家时间是有限的，一天也只有24个小时，那我们能不能有办法加上 10 张显卡，使得这个专家的知识就变成了240小时？加上100张显卡，它就变成2400小时？

在零售行业我们与一家咨询公司联合打造了一个应用。他们有一款 SaaS 应用，能够把咨询顾问的经验和一些培训工作变成一个SaaS服务，这样就可以让一线的店员、店长每天都能得到总部专家的辅导。

我曾经做过RPA、超级自动化，也分析过很多场景和流程。我发现其实一线的业务员工（这里强调是一线员工，不是专家、管理者）处理的绝大部分是数据、文档。

RPA可以去操作不同的应用，我们可以针对应用，比如金蝶、用友、SAP、淘宝等，封装标准化的动作。

那么文档也是类似的。在业务部门，有合同、简历、JD、招标书、投标书，这些也都可以把专家的、行业的专业知识灌进去，通过大模型的能力，把信息抽出来，从而回答基层业务员工的问题。

数据这侧也一样。维度表、事实表、指标库、dashboard、多维分析、数据仓库、数据集市、根因分析等等，这些都可以被封装起来，变成能够处理数据、文档、应用、流程的技能。

然后在任务中心，用类似低代码的方式，把这些技能通过“拖、拉、拽”封装起来，变成一个个AI Agent。

未来，随着大语言模型能力的不断进化，我们完全可以实现，专家只用自然语言就能够把自己的经验、SOP教会AI Agent。

这里是一个例子，我们帮助一家企业做供应链、供货商、经销商等方面的财务健康度评估。

首先是专家经验输入。对于三张报表，已经有大量教科书关于会计科目、应收账款等各种各样的财务分析办法，澜码本身灌入了一部分知识，在企业内部，专家会有自己的独特行业经验，比如当增长率为30%是高还是低？风险评估的知识输入之后，实际上Agent就拥有了辅助一线业务员工的能力。

比如有应收账款要求、账期要求、利润要求，那么 AI Agent就能够在收到这份报表时，给出推荐意见，并根据专家提前制定的标准，自动生成诸如“利润率为10%低于标准的15%、亮黄灯”这样的反馈，之后由一线业务员工再根据具体情况去判断。

这里还会有一个好处，因为本身它是会被记录下来的，过去专家在描述自己的 SOP规则之后，大部分系统并不能把它们一条条记录下来，所以专家也不知道他曾经的经验是否适合此时此刻的情况。

但今天有了AI Agent，就能把这些数据沉淀下来，让专家去对风控执行过程有反馈。

同时，这个过程又给了管理者一个抓手，可以实时看到甚至可以去复测，比如能不能把3月的策略跑一遍，把2月的策略再跑一遍，通过过去一年的数据比对一下哪里有问题，有没有意外风险等等。

这些都是今天有了大语言模型之后可以去做的，也是我们一个北京客户正在做的。

愿天下没有难做的工作

在零售行业，今天大语言模型最适合的是做运营分析，一方面可以通过对话式BI发现问题，再结合专家知识进行辅助诊断。

另一方面，由于本身有自动化的实现能力，就能够通过集成 RPA等工具把动作给执行掉。

通过大量实践，我们看到今天有那么多模型6B、13B等等，有一张4090的显卡就可以得到自助数据BI的能力。

但如果希望得到对话式BI的能力、专业的Text To SQL，就需要类似文心一言、通义千问等至少是70B这样规模的模型。如果想要做到生成式BI、自己生成代码去解决，现在只能通过GPT-4，好在国内大语言模型的进步很快，国内半年到一年之内就能追上GPT-4。

我们认为，成功构建AI Agent需要这几个要素，一是需要把知识能放进去，二是能够构建CUI，让机器适应人，随着大语言模型不断进步，企业内部会有多个Agent，未来Agent互相之间会进行互动、协作，以及Agent跟人进行协作，把企业运营管理做好。

另外一侧，对于企业来讲，跟大语言模型切分开很重要的一件事，是建立自己的业务领域模型。

不只是过去所谓的知识图谱，也不是过去的大数据，而应该是把过去的大数据跟大语言模型技术结合在一起，才能形成自己的业务领域模型，也许三、五年后，十亿美金以上的企业都应该有自己的领域模型。

回到演讲开始时的话题，未来所有人不会被AI替代，而是被会使用AI的人替代。也愿天下没有难做的工作，当把算力加进去，生产力就能提上来，把知识输进去，领域的扩展性就能扩出去。

未来在零售行业，会有更多场景可以落地AI Agent，期待与更多企业携手共建零售行业的 AI Agent的标准。

上一篇

下一篇

算力加进去，生产力“长”出来

把专家知识赋能给 AI Agent

愿天下没有难做的工作

最新新闻