首页 导报现场 正文

北京灵奥科技:帮助企业解决数据问题,打通大模型企业端落地“最后一公里”

2024-05-13 16:04 中国发展网 成静
北京灵奥科技 亚马逊云科技

摘要:作为一家快速成长的初创企业,北京灵奥科技(Vanus)致力于推动生成式AI技术的普及,将大模型优势和业务数据无缝结合,帮助企业解决数据问题,从而加速企业的商业成功。

中国发展网讯 记者成静报道 目前,数据问题已成为企业落地大模型的核心挑战之一。这主要体现在四个方面:首先,模型需要深入理解企业多样化的业务数据,然而数据的类型繁多、格式杂乱且来源无法统一;其次,业务数据随着企业运营实时变化,模型需不断学习不同来源的、持续变化的业务信息;第三,数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据,又需要做到安全合规;最后,数据偏见和公平性问题:不同大语言模型由于训练数据来源不同,侧重点有差异,导致模型会存在偏见。因此,企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。

作为一家快速成长的初创企业,北京灵奥科技(Vanus)致力于推动生成式AI技术的普及,将大模型优势和业务数据无缝结合,帮助企业解决数据问题,从而加速企业的商业成功。

“我们提供了帮助构建AI Agent的SaaS平台。我们坚信,未来AI Agent将成为推动企业业务快速增长的关键力量。公司先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS产品,累计服务全球30,000+用户。目前已经获得靖亚资本、PNP等机构的多轮融资。”北京灵奥科技CEO 厉启鹏说。

厉启鹏介绍说,大模型中间件介于大模型和应用之间,帮助企业解决数据问题,打通大模型企业端落地最后一公里,是企业构建AI应用的必备组件。在神经网络层,Vanus Connect可以连接企业不同的数据源,实时感知企业业务事件的变化,并推送给神经中枢,然后接收神经中枢的指令去做执行。在神经中枢层,Vanus AI结合知识库(向量数据库)和大模型,帮助企业做业务的决策。

同时,大模型中间件Vanus将大模型优势和企业数据无缝结合,提供Claude 3等多模型选择,实现商品数据自动同步,包括商品数据自动更新、Shopify数据自动接入等,还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成,助力企业灵活定制机器人,自定义聊天风格、欢迎词、外感颜色等等。

厉启鹏举了一个关于Vanus AI为国内某ERP企业客服人员构建AI Copilot的例子。该企业各部门沉淀大量内部数据,但是跨部门知识共享效率低,需花费大量时间对客服进行培训。同时,客服人员基于传统搜索方式获取知识,响应时间长导致用户的投诉率较高。“Vanus基于Amazon S3、数据库等云服务,帮助用户从文档、数据库、SaaS软件等多个数据源中实时抽取数据,构建统一的企业知识库;并借助AmazonBedrock等服务,为企业客服人员构建AI Copilot,基于全域业务数据实时推理,为客服人员秒级提供回复建议,大大降低了客服响应时间。现在,客服人员将问题回复时间从分钟级降至秒级。AI Copilot将客服团队的人效提高70%,很大程度降低了客服投入的成本。”厉启鹏说。

另外一个则是VanChat服务南美州某服饰类电商企业的例子。该电商企业拥有两个Shopify电商独立站,10000+ SKU。客户每天有大量产品、退换货、物流等问题咨询,需要很多客服人员,管理成本高。而且客服人员下班后仍然有很多客户询问,延时回复不仅导致客户满意度下降,还因此错失了很多商机。Vanus通过基于Amazon Bedrock、Amazon S3等云服务为Shopify电商客户构建客服类AgentVanChat,为网站购物者提供7*24小时即时问题回复,为企业节省大量人力资源,提高客户满意度。此外,通过VanChat提供的用户意图识别、产品推荐等功能加速用户产品购买,提升网站的销售额。VanChat为该客户带来快速的营收增长,仅上线首月ROI高达611%;同时,了解用户主要关注的产品以及最近常被提及的问题,提供客户洞察。

“Vanus绝大部分的技术问题在亚马逊云科技上都能找到答案,找到相关的云产品。这些产品能够增强性能、提升稳定性,为我们提供强有力的支撑。”厉启鹏表示。

事实上,Vanus整个平台都是基于亚马逊云科技构建的,利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务,为企业构建AI Agent平台,现已服务全球数万家用户。亚马逊云科技为Vanus提供了几个显著优势:

一是弹性可扩展。利用Amazon Elastic KubernetesService(Amazon EKS)基于网络流量的弹性扩展能力,Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩。帮助企业平均成本降低30%,性价比提高20%。

二是提高系统可用性。通过Amazon DocumentDB原生的3可用区、6副本的设计,提高可用性和可靠性,可以达到不低于99.99%正常运行时间的服务等级协议(SLA)。

三是降低回复延时。借助Amazon Simple Storage Service(Amazon S3)及数据库高并发数据查询能力提高大模型上下文加载时间,同时借助亚马逊云科技全球网络节点加速能力,整体将Agent回复系统延时降低40%。

四是推理能力强。通过Amazon Bedrock提供的Claude模型,为Vanus平台的AIAgent提供非常强的语言理解和逻辑推理能力。

谈到为何选择亚马逊云科技作为合作伙伴,厉启鹏表示,亚马逊云科技提供使用简单、功能强大的云服务,这是合作的基础。而且,亚马逊云科技还提供全方位的技术服务,包含技术方案和架构师等,加速Vanus的产品落地。同时,通过亚马逊云科技合作伙伴网络(APN)提供全面的推广资源和支持,加速产品进入市场。

“我认为亚马逊云科技是最值得信赖的云服务提供商。作为全球最大的一朵云,它有非常强大的运营经验,能够帮助我们更好地服务分布在不同区域、不同国家的客户。同时,它也是我们首选的一朵云,经过了全球最多用户的打磨,是最安全的云。”厉启鹏说。

责任编辑:成静


返回首页
相关新闻
返回顶部