本文4040字,约5.8分钟
作者 | 顾白 编辑 | 吾人
来源 | 融中财经
2024年上半年的某一天,如往常一样刚刚上班的澜码员工,接到了某金融基金公司打来的一通电话。他们通过400电话主动找到澜码,想要让他们参与公司某项目竞标。而在后续发展中,在项目的概念验证(PoC)中,澜码经过一番激烈角逐,最终打败了资金和资源都十分雄厚的某大厂,赢下这个项目。目前,该项目已经完成采购和验收交付。如今来看,这也是澜码科技发力AI Agent市场卡位非常重要的一个里程碑。
近两年,大模型风潮云涌,国内总计300余款大模型扎堆涌现,意味着人工智能技术发展进入了新阶段,以大模型拓展全新赛道正在成为各行业的普遍机遇。
澜码科技创始人周健告诉融中,“大模型改变的其实是人机交互的范式。从过去情况看,只有程序员才能做到理解机器能够处理的代码或者文字符号。但在今天,大模型发展带来的改变,是我们能够通过对话的方式让机器直接输出人可以理解、可以处理的指令。”不过,周健对记者强调,“就目前来看,大模型距离应用落地还有一段距离。这个距离就是我们一直在讲的专家知识和业务数据。”
澜码科技定位于赋能大语言模型应用落地的中间层公司。对于如何理解“中间层应用”,周健从大模型的发展和应用落地对记者详细谈起。
01
从做软件到直接服务用户
确定大模型最适配的客户场景
企业数字化这一概念其实大多数人并不陌生。但由于传统软件的自然语言理解能力不足,导致很多产品缺少对于企业业务流程中的员工关注,大量关键信息存在于半结构化的文档以及人与人之间的对话中而被丢失。伴随ChatGPT的走红,大模型技术被各行各业视作数字化转型的关键力量。
澜码科技基于底层大语言模型,研发了连接人与系统的企业级AI Agent平台“AskXBOT”。在这个平台上,专家通过传统的拖、拉、拽以及新兴的对话交互的方式,教会机器去协助一线员工高效率、高质量地完成日常工作。更重要的是,平台能够将人与系统连接、交互过程中的数据进行有效沉淀,并抽取、挖掘出对企业有业务价值的信息或数据,进一步重塑业务流程,提升效率。
“简单来讲,大模型时代有了提示词工程,但准确率不够,澜码相当于做到了这一层的‘翻译’,让机器和人在更高的维度上进行对话,让机器帮助人类完成更复杂、更抽象的任务。”周健解释,“中间层实际是把业务专家理解的业务规则、过程或事实,翻译成大模型或者一些传统软件能处理的语言或指令。相当于是回到human understand,让人也能理解机器能处理的代码或符号。”
在AI Agent赛道中,澜码科技尚属年轻,但综合实力可谓“强悍”。据记者了解,澜码在成立仅3个月的时间里就完成了第一个上市公司大客户——金山办公的项目交付。这对一家创业公司而言非常难得,尤其是在全新大模型时代刚开启的2023年之初。
谈及此次项目的快速完成交付,周健表示,“GPT-4出来之后,至少见了十多位上市公司的董事长、CEO,做了近20个POC。第一个标杆客户,让我们完整经历了一遍大模型应用落地所面临的挑战,使得我们对大模型落地的理解更深刻,认知也比其他公司更前瞻。也是基于对GPT- 4能力的预判及对行业整体发展节奏的把握,团队开始逐渐将产品定位从做软件公司调整为了直接服务于最终用户。”
像是在某国有大银行项目中,澜码会在各业务部门收集大量需求,同时挑选合适的大模型去适配这些场景,并确保能达到足够高的准确率。也就是说澜码能够和企业客户共同探索场景,并为他们提供更实质的应用落地价值。
“客户可能会提出100个场景,但在他们现有的算力和模型条件限制下,可能有些场景无法实现。我们会帮他们厘清在现有条件限制下能够落地的场景,并确保这些场景的应用能够实现,从而带来业务价值。”周健说到。
这样果断的自我变革,离不开产品和技术的实力支撑,也让澜码在大部分AI大模型企业还在依赖资本输血的时候,过去一年实现了数千万营收规模,且客户复购率和续费率处在行业较高水平。这样的成绩更是取决于澜码解决的核心问题是帮助客户验证场景,能够确定大模型在哪些场景能够落地以及如何落地。最近,周健带领团队又开启了新一轮“革新”——在业务层面,做深度的行业聚焦。
“我们观察到,金融行业在大模型相关的投入相对较多,他们在算力和专家数据方面已经具备大模型落地所需要的条件。因此,我们选择聚焦在金融行业,特别是银行企业。”
比如澜码服务的一家保险客户,以前公司的保险代理只能通过盲打电话推销新的保险产品,成功率非常低。现在可以根据体检情况生成个性化保险产品,推荐给对应的体检客户,且产品符合他的健康情况,大大提高了销售转化率。
此外,还有一家银行客户,近期推出了面向中小科技企业的普惠贷款服务。但是在发放普惠贷款过程中,银行难以全面了解借款企业信息和还款能力,尤其是对缺乏完善财务记录的中小企业和个体工商户。银行客户经理要花费大量时间收集和分析各类资料,对申请企业进行尽职调查,并撰写尽调报告。接到企业需求以后,澜码基于大语言模型构建了尽调报告Agent,可自动给出分析结论、生成报告,辅助一线银行客户经理的工作,节省了客户经理80%报告撰写时间,同时全面降低了客户资料审核的错误率,大幅度提升了员工工作质量和效率。
02
发力AI Agent
大模型热潮以来,其实有关ToB和ToC以及通用还是专业模型的争端一直存在,两者呈现不同的商业化路径。
在周健看来,短期之内,ToC对于创业公司其实是伪命题,根本原因还是C端的成本和价值难以匹配。而在B端,有两方面优势:一方面是国家政策和社会的支持,在大模型和新质生产力的热潮下,大家对B端的创新有一定容忍度,并且愿意投入成本。也意味着产品理念在落地时遇到的阻力更小。另一方面,在B端,各企业之间可以进一步达成生态合作。
澜码定义的AI Agent是专家知识、数据、模型和算力的组合。对于创业公司而言,最多只能抢占知识领域,而数据、算力和模型都在大厂。但像澜码这样的创新企业可以和模型厂商、算力厂商合作,从而分摊一部分成本,同时在业务落地时可以产生利润。总结来说,本质上是因为B端资源是分散的,C端的资源更容易形成垄断。
那么,为什么澜码科技能做好中间层应用?
首先,从澜码核心团队来看,创始人周健年少成名,2002年获得ACM国际大学生程序设计竞赛世界冠军,是首个在此项竞赛夺冠的亚洲团队成员。创办澜码之前,周健还曾有过两段创业经历:第一段是在“CV四小龙”依图科技,他是第十号员工,完整经历了AI1.0时代从0到1再到100的技术发展和商业化落地过程。2019 年时又加入弘玑Cyclone,聚焦RPA从自动化视角提升生产效率。两家公司的历练,让周健做好了Agent技术商业化的准备。
其次,澜码的企业服务背景。创业之初,澜码想做数字员工,基于过往的AI从业经验,熟悉掌握企业的业务流程,这就支撑其团队能够通过AI能力“翻译”业务流程语言,实现业务流程的自动化。
周健告诉记者,“澜码的护城河正是在于能够把企业内部的专家知识、领域知识翻译成对不同模型和工具的调用,形成我们自己的产品。如果用专业术语来讲,就是‘编译器’。传统的编译器是把程序员写出来的程序翻译成机器语言,我们则是把一些专家知识,特别是过程性的、领域性的知识,翻译成大模型能够处理的语言。当大模型处理的知识类型和数量都达到一定量级以后,就会成为我们的壁垒,让我们成为某个领域的特定‘专业翻译’,使得我们的产品速度更快、性能更好。”
所以,在澜码科技,发力AI Agent,最重要的一点,就是专家知识的赋能。将 AI Agent部署到各大企业,帮助一线业务人员提升工作效能的同时,也能基于业务流程获取专家知识的数据沉淀。最后,让AI能够具备社会智力(指个体了解他人及与他人相处的能力),进一步对企业有更深入的理解,形成自己的大行动模型(large action model)。
03
赋能千行百业
成为“大行动模型”
“从我们的视角看,AI Agent就是一种新质生产力。我们将算力和数据转化为专家时间,赋能大语言模型应用落地,这本身就符合新质生产力的定义。”周健说到。
任何的成功都没有一蹴而就,于科技创新而言,更是如是。事实上,从技术跟产品层面来看,澜码也是历经了多次重要迭代。例如,经过一段时间的探索后,团队发现当时即便是性能最强的大语言模型ChatGPT-4由于达不到直接支撑企业级应用的程度,也并不能作为AI Agent的核心,因此需要AI Agent沉淀领域知识。再比如,澜码的Master Agent产品,在实际落地中发现,只有使用GPT-4才能发挥它的价值。但在一些企业内部,可以直接使用小模型,通过专家知识以及工作流,就能实现业务场景的落地,所以他们对模型的要求并没那么高,这就需要改变产品模式。不过,每一次所谓的“碰壁”都会带来思路或方法的改变,用新的方式去解决过去的问题。
随着AI浸润到各行各业,一个全民生产力爆发的时代似乎已迎来黎明。谈及行业发展,周健认为,目前国内AI大模型面临的最大挑战一定是算力和人才。这里的人才指的是做过大模型及相关产品和应用的人才,特别是从0到1创新型突破的稀缺人才。
AI大模型是一个需要强资本投入的领域,海外在人才方面的投入明显比国内大很多,国内的AI人才目前与海外相比仍存在3-4个档次的能力差距。诸如Open AI、谷歌、亚马逊等企业已经率先吸纳了全球最顶尖的人才,而且这些企业在过去可能并未将经济效益置于首位,因此它们拥有大量从事过大规模计算和数据处理项目的专业人才,相比之下,国内处理过同等规模项目的人才更少,大约比国外小一到两个数量级。
谈到和国外的主要差距,周健表示,“创新有风险。这不仅是时间的问题,也有资本的问题。如果国内在算力、数据等方面能投入更多,有更多颠覆性的变化发生,以及更多从0到1的创新型人才,再去对比国外的发展,我们是有弯道超车机会的。”