龙年开工大吉!
刚过去的春节假期,Sora的突然出现刷屏朋友圈,人们热烈地讨论着这项新技术对内容生成行业的影响。周鸿祎认为AGI的实现可能从10年缩短到1年。
大语言模型带来生产力革命
和生产关系重塑
大语言模型应用落地的
四大关键成功要素
1
大模型提供的是通用的语言理解能力和特定领域有限的推理能力,因此从过去无法利用的非结构化、半结构化文档中抽取出事实并能够有效的被检索到是最容易落地的场景。当然,解决大模型的幻觉问题,还是需要依靠专家知识赋能之后的RAG技术来大大提高准确率。
2
GPT-4的表现确实十分惊艳,但在企业业务场景下,算力成本和数据安全问题也十分关键,所以通过极大模型来微调小模型用来解决专业场景是解决上述问题的不二法则。
3
企业私域的知识和数据是通用大模型所不具备的,落地大模型应用的关键是怎样有效的集成这些知识和数据,从而解决大模型的学习问题。
4
对话式UI不仅仅只是我们看到的对话框,还需要整合低代码、BI、RPA等手段来达到降低使用门槛的目的,这样才能端到端地将专家技能赋能数字员工,实现业务价值的提高。
2024年是大语言模型
应用落地的关键年
1
闭源模型将在多模态和推理能力上展开激烈的竞争,而且竞争会扩散到类似GPTs 的生态。
OpenAI在春节期间发布Sora的预览,让大家进一步看到了创意执行的业务员工被替代的可能性,但是Sora的不足也让我们看到了人类努力的方向。其他的顶尖玩家例如谷歌,Anthroptic等肯定也不会轻易放弃,我们可以期待龙年仍然会有很多惊喜和惊吓。
2
开源模型也将进一步推进。
扎克伯格近期透露,Meta 正在训练的 Llama 3 将具有更强代码生成能力。
企业应用大语言模型的成本大致分为三部分:算力、大语言模型本身以及应用落地的成本。开源模型的进一步推进意味着企业用户应用大语言模型的成本将有机会大幅下降,同时对算力的要求和成本也将大大降低,如果预训练了很多开源模型,整个生态也会获得进一步的扩充。
3
Apple将发布端侧模型,以解决大模型在个人消费端被应用的问题。
Apple公司近期发表了一篇在手机内存上运行大模型的硬核论文《LLM在闪存中:内存有限的高效大型语言模型推理》,也拉满了业界对端侧大模型的期待。
端侧大模型的实现,意味着个人信息无需上传云端,大大降低隐私泄露和数据安全的风险。当大语言模型接入本地数据库和个人信息,有望实现更加个性化定制小模型,提供更个性的用户服务。
4
国内大语言模型厂商追平GPT-4;
5
大语言模型应用在企业服务领域百花齐放。
NVIDIA 开发者关系副总裁Richard Kerris 也预测,不久之后几乎所有人都能够成为开发者。以前的开发者必须掌握并熟练使用特定的开发语言才能开发应用或服务,随着计算基础设施越来越多地在软件开发语言上训练,任何人都将能够提示机器创建应用、服务、设备支持等,在文本输入或语音提示的帮助下,人们与计算机的交互将变得像口述指令一样简单。
1
增强型人类员工:
(1) 基于业务数据的辅助决策
① 通过对业务场景的深度理解,普及用数据来辅助一线员工决策:例如我们正在和超级导购协作赋能一线导购更好地卖货。
② 更多非结构化、半结构化数据的涌入,也给予管理者新的视角去理解过去无法高效处理的信息,例如周报、会议纪要等等。
(2) 对流程知识和经验的积累与利用
① 大模型应用上线之后,新的交互方式使得更多员工可以通过它来完成任务,那么这些过去无法被数字化的员工行为,可以进一步被利用起来、帮助管理者/专家监控并优化流程的运转情况。
2
重塑企业自动化:
澜码一直推崇“数字员工”的概念,这是一种革新的方式。从流程的视角来连接员工与员工、系统与系统、以及员工与系统。这种方法的核心在于AI在增强和连接上的潜在能力和场景。
我们的数字员工是由AI驱动的实体,可以无缝地融入现有的工作流程,打破信息孤岛,促进有效的协作。他们作为桥梁,实现了不同系统之间,以及人类与系统之间的顺畅交互。这不仅简化了流程,也为操作效率揭示了新的可能性。
AI的真正潜力在于其增强人类能力的能力。我们的数字员工旨在补充人类的智能,提供数据驱动的洞察,自动化日常任务,让人类员工有更多的时间专注于他们工作的更具战略性、创新性的方面。
最终的结果是一个和谐的工作环境,人类员工和众多的数字员工一起协作。这种共生关系提高了整体的生产力,能帮助我们的企业客户实现前所未有的增长和创新。
3
解决企业级平台的构建挑战:
企业在落地大语言模型应用的过程中,会遇到各类企业级的问题,例如显卡、连接和权限等等。澜码自主研发的AskXBOT平台符合企业级的要求,同时也具备很强的易用性。而基于过去一年的实践,澜码已经积累了大量处理和解决这些企业级问题的经验、方法与工具。
我们希望能够用最经济和高效的方式,助力企业实现大语言模型应用落地,赋能企业提效增质甚至实现业务模式变革。
Gartner预测,到2026年,全球超过80%的企业将使用生成式AI的API或生成式AI模型,或者在生产环境中部署支持生成式AI的应用,目前这一比例不足5%。
而2024年将成为大语言模型应用落地的关键年份,同时也是AI Agent飞速发展的爆发年。人工智能技术将更深入地融入到各类场景下的生产力提效中,为各行各业带来前所未有的变革。
作为国内探索大语言模型应用落地和AI Agent的先行者,澜码科技将继续致力于构建整个大语言模型落地的生态,推动数字员工概念的落地,助力企业实现数字化转型和数智化跃进。