RTE2024 AI 专场:从大模型厂商到B/C端的应用 生成式AI的新质生产力

时间:2024-12-24 02:57:36来源:意料之外网 作者:时尚

生成式AI的大模端的高速发展,不仅持续驱动着大模型本身的型厂新质变革,更为各行各业创造了无数令人激动和无限想象的商到生成式A生产空间。

在生成式 AI 的应用驱动下,实时互动体验正在迈向一个全新的大模端的高度。

RTE2024 AI 专场:从大模型厂商到B/C端的应用  生成式AI的新质生产力

企业新的型厂新质竞争力=基座模型+组织+数据资产+业务场景。

AI 社交将成为社交新方式的商到生成式A生产补充。

IM产品有望借助大模型的应用能力,满足用户对社交产品的大模端的期望......

从情绪价值到新质生产力、从社交新方式到社交新构想。型厂新质一场围绕 AI 自身进化与赋能的商到生成式A生产 RTE2024 AI 专场10月25日在北京成功举办。声网 AI RTE 产品线负责人姚光华、应用阿里云智能集团 通义千问高级产品架构师辛晓剑、大模端的智谱解决方案负责人吴同、型厂新质MiniMax 商务总监王苏、商到生成式A生产Soul App AI算法技术总监刘忠亮、环信 IM 产品负责人王璨等嘉宾齐聚一堂,分别站在RTE行业、大模型厂商、B端以及C端视角,带来了他们对AI大模型发展的分享和预判。

实时互动进入AI+RTE的全新时代

作为离生成式 AI 最近的行业,实时互动正在迈向一个全新的高度。在RTE2024 AI 论坛上,声网 AI RTE 产品线负责人姚光华表示,在生成式AI的驱动下,实时互动带来的体验上将从“听得到”到“听得清”到“听得懂”再到今天的“听得心”,产品技术上也将完成从QoS、QoE到 MM QoE的标准革新。


图:声网 AI RTE 产品线负责人姚光华

据介绍,2014-2019年期间,声网专注于使用技术手段提升服务质量(QoS),聚焦确保文本、音频和视频等多模态内容能够进行高保真传输,进而利于终端用户进行内容消费,这一阶段被称为“SLA时代”。从2020年起,声网的产品从RTC转变成了RTE,重心从也服务质量转向了体验质量(QoE),并在2020年提出了“XLA”。在XLA时代,声网更关注用户在使用服务时感受到的流畅性、延迟和清晰度(音质、画质)等体验因素。

姚光华指出,实时互动正在进入AI+RTE的全新时代,生成式AI技术将实现跨模态的数据传输与体验优化。在未来的跨模态的 MM QoE,我们将看到音频、视频、文本模态互相转换成为可能。多模态交互和生成式AI技术的结合,将彻底改变用户的内容消费的体验方式。

从行业的情况来看,生成式 AI 时代的到来已经不同程度上刺激了需求的暴增,具体的需求内容也 RTE 转变成了AI+ RTE。据姚光华介绍,为了携手各行各业共创AI+ RTE未来,声网也正式推出了业内首个、为大模型设计的人类意图预测产品——Human Intention Prediction,其产品矩阵也逐渐演进到包含AI Streaming Service、Linux Server SDK for AI 以及 HIP(Human Intention Prediction)在内的基建、核心产品、核心服务、对外API的组合形态。

通义、智谱、MiniMax:大模型厂商谈企业级落地

自ChatGPT发布以来,全球大模型厂商的发展就迈入了百花齐放、你追我赶的历程。放眼国内市场,以通义、智谱、MiniMax 为代表的大模型厂商在技术创新与场景落地上的探索也在持续。

论大语言模型的发展速度,通义算得上首当其冲。自从阿里云发布“通义”系列模型以来,其就以惊人的速度屡次刷新行业认知。2024年9月推出了新一代模型——千问2.5,千问2.5也成为了整个开源应用技术最为广泛的模型之一。据悉,通义在很早之前就已经开始布局多模态,尤其是视觉多模态领域。不仅推出了包括音频理解、视频生成在内的多个大模型,还在模型基础之上,拓展了对话机器人等大模型原生应用。

阿里云智能集团通义千问高级产品架构师辛晓剑表示,通义的强大不止表现在大模型本身,在围绕企业级落地层面,通义千问也有着自己独特的优势。他指出,架构是否安全可信、效果如何优化、成本如何降低是大模型在企业级落地方面存在的普遍问题,针对这些问题,通义有着自己独特的解法。


图:阿里云智能集团通义千问高级产品架构师辛晓剑

在安全问题上,辛晓剑从内容安全、传输安全、数据存储安全三个方向进行了解读。内容安全上,通义千问会在模型训练环节就把原始训练语料里偏违规、有害的内容去除,并在训练后期用 强化方式做偏好对齐。此外,千问还会通过内容安全的产品去做输入/输出的安全内容拦截。传输安全上,通义千问不仅采用了私网隔离的内容传输方式,还结合了其他内容加密形式以保证传输的效率及链路安全。数据存储上,通义千问还增加了一个审计环节,用于保障端到端的传输安全。在效果以及成本优化上主要有两点,混合数据训练的方式将带来更显著的微调能力提升,按 Tokens 计费的形式也进一步降低了推理应用成本。

智谱解决方案负责人吴同也认为,大模型时代下,企业新的竞争力=基座模型+组织+数据资产+业务场景。大模型将在企业降本增效、构建新的产品和竞争壁垒层面发挥不可或缺的价值。


图:智谱解决方案负责人吴同

据悉,智谱已经形成了包括语音大模型、代码大模型、多模态大模型和超拟人大模型在内的智谱大模型矩阵,其全产品矩阵可以对标 OpenAI。

吴同介绍到,为了让更多企业在使用通用模型之外能更好的进行微调,智谱发布了新一代MaaS平台,客户仅需准备训练数据、创建微调任务、部署微调模型三个步骤就可以轻松完成模型微调。另外,智谱还发布了一款面向企业的AI Agent开发工具——智谱清流。智谱清流基于智谱全自研大模型架构底座,孵化企业级大模型Al应用开发平台,整合了多Agent的构建、工作流编排设计、开发、使用和管理,及知识沉淀功能,使得企业能够迅速定制企业级AI Agent,让企业无需专业编程即可快速构建高效行业应用,推动业务智能化和效率提升。

除了通义、智谱之外,MiniMax 也面向企业客户推出了大模型应用解决方案——MiniMax 开放平台,为企业和开发者提供安全、灵活、可靠的 API 服务,助力快速搭建 AI 应用。MiniMax 商务总监王苏介绍到,除了MiniMax 开放平台之外,MiniMax 还为企业级用户打造了专属的云上专区,为企业提供安全性及整体维度上的保障。

据介绍,MiniMax成立于2021年12月,是一家专注于推动通用人工智能技术突破的科技创业公司,致力于与用户共创智能。MiniMax 自主研发了不同模态的通用大模型,其中包括万亿参数的 MoE 文本大模型、语音&音乐大模型以及图像、视频大模型。基于不同模态的通用大模型,MiniMax还推出生产力工具海螺AI、沉浸式AI内容社区星野等原生应用。


图:MiniMax 商务总监王苏

Soul App、WPS: AI赋能 C 端场景探索无限可能

在AI的赋能之下,C 端应用又发生了哪些实践与革新呢?Soul App AI 算法技术总监刘忠亮和金山办公 WPS会议 产研负责人吴伟涛分别从社交和办公的角度,为我们解读了C 端场景下,AI 所带来的无限可能。

在社交层面,刘忠亮认为,未来一定存在AI社交的必然。在传统关系链接方式减弱、个体原子化的趋势下,AI将成为社交新方式的补充。对象多元化会让人会更注重情感质量,AI将更高效、更高质的提供情绪价值。科技普惠将让AI社交的成本急剧下降,AI可以为用户提供更个性化、更定制化的服务。 在这样的社交趋势洞察下,Soul 在AI方面的探索一直走到前列。


图:Soul App AI 算法技术总监刘忠亮

据刘忠亮介绍,自Soul 的AIGC研发工作启动以来,Soul X 垂类多模态大模型就持续在超人化、情感化、个性化和多模态方向不断升级迭代。值得一提的是,Soul 自研多模态交互系统升级到第二代后,该模型就拥有了类 GPT-4o 端到端实时音视频通话能力,且拟人化大幅度提升至接近真人程度。得益于声网RTC搭建的全双工架构,第二代自研系统可以实现用户侧端到端的延迟平均1.4秒,最快仅需1秒的效果。

刘忠亮表示,Soul未来在应用探索上将主要围绕人机协同和人机互动两大块。人机协同上,不擅长聊天破冰的用户可以借助Soul提供的AI聊天助理、AI分身等,更好、更快的聊起来,高质、高效的建立关系。人机互动上的探索主要集中在社交类、游戏类以及智能伴侣、智能房主等智能体上。

AI的大有可为不仅仅局限在社交领域,在办公协作上,WPS会议也在不断深挖AI能力,并用其惊人的能力表现为办公场景提质增效。金山办公 WPS会议产研负责人吴伟涛表示,目前大语言模型赋能在线会议的主要路径是将会后音频录制、会中实时音频通过离线/实时ASR模型转换为转文本信息,再利用LLM能力进行文字处理,最终转换为我们所看到的会议总结、智能章节、待办提取、发言人观点的提取等。

据悉,WPS会议在实践过程中已经支持云录制、AI智能章节、AI精华纪要、对话详情、智能问答等功能。为了让在线会议更轻松的被发起,WPS还在去年发布了全新的WPS 365办公新质生产力平台,并提供了WPS协作、WPS日历、WPS云文档、WPS邮箱在内的工作台,让使用者在这些场景下都可以做到轻松发起一场会议,会议的信息也可以在这些应用场景底下很轻松地流转和访问。与此同时,WPS 365办公新质生产力平台还为企业提供了各种可靠的方案,帮助他们完成灵活的部署。

吴伟涛认为,AI驱动会议协作应用场景未来的发展趋势是,大厂发挥平台作用,做好基础功能、开放能力和生态。小厂依托平台的开放能力,深入垂直场景,实现AI增值。


图:金山办公 WPS会议产研负责人吴伟涛

AI如何重新定义即时通讯

作为互联网上最为流行的通讯方式,IM 产品在生活中的应用价值无可替代。尽管如此,但IM产品在应用过程中,仍旧存在着诸多痛点。譬如,C端上历史数据利用率低 、未读消息积压 、重要信息难以查找 、群组活跃度低等问题。在B端上的主要表现为高人力投入和低运营效率 、内容管控难度大 、跨语言沟通障碍等。

针对这些问题,环信IM产品负责人王璨认为,在生成式AI时代下,IM与AI的结合一定会带来更多的创新,并且能够有效地帮助我们提升沟通效率。


图:环信IM产品负责人王璨

在RTE2024 AI论坛上,王璨不仅分享了环信助力星野业务成长的案例以及涵盖云市场、PaaS 服务、应用场景在内的环信 IM PaaS 开发工具包,还详细介绍了环信借助大模型去解决社交产品C端、B端用户痛点的解决方案。他指出,在C端的效率维度上,环信IM借助AI实现了对话摘要、日程安排、消息编写以及语言翻译等场景助力。在情感维度,AI还可以实时提供表情建议、虚拟陪聊以及回复建议等功能。在B端上,环信IM主要提供了暖场机器人、智能回答、智能推荐、智能管理员等帮助企业降本增效的选项。

王璨表示,我们完全有理由相信,IM产品有望在未来借助大模型的能力连接数字世界与实体世界,满足用户对社交产品的期望。

从多位专家和从业者的分享中不难看出,生成式 AI 正在帮助各行各业的期待从想象变为现实。我们也相信,无论是新质生产力的赋能,还是新社交方式的革新,声网与 RTE 都将在其中发挥至关重要的价值,携手共创新时代的繁荣。

 

相关内容
推荐内容