新闻中心

开云kaiyun不炼大模型的互联网公司趟出AI转型第一波经验

2024-09-10
浏览次数:
返回列表

  在以生成式AI为代表的技术驱动下,互联网行业作为云+AI应用的先锋,已经找到了新的增长点。

  9月6日,腾讯数字生态大会「互联网AI应用专场」在深圳拉开序幕,现场人从人…(头顶台风摩羯)

  RAG结合企业自有知识,无需企业花费较多人力和算力,以及对大模型SFT精调,是当前企业级AI应用落地的成熟方案。近期来多行业场景的AI Agent蓬勃发展,面向C端的原生应用,以及B端企业级业务流程自动化,将成为后续应用落地的主要方式。云计算是夯实基础的重要底座,云原生技术助力企业实现敏捷开发,以新技术、新市场的创新,实现增长突破。

  在最新内部测试中,通过AIGC生产的内容,它的点击率已经是用户生产内容的103%。

  该公司CTO王云峰坦言,一般情况下,人们不太喜欢AI生产的内容(担心虚假信息),而现在,这一点击率已经打破了旧有印象。

  按他的话说,如果AI纯粹是一个技术,那么AI应用落地可能意味着单纯使用通用模型;而实际上,AI不仅仅是生产力,很多时候它在重塑我们的生产流程。

  也就是说,不同于金融、医疗等领域有很多确定性的知识可供模型训练学习,用户消费主要凭借经验,个性化非常强。

  值得买发现,让AI帮用户去做那些以前要做很多功课才能解决的问题,用户点击率和阅读效率、阅读时长都会比通过AI单纯生成内容要好很多。

  包括1个“值得买消费大模型”(自研13B消费模型),“商品库”和“内容库”2大数据库,AIUC分析引擎、AIGC生成引擎和AGENT调度引擎3个应用构建框架,以及提供针对性的AI解决方案的4类应用AI战略。

  作为国产AI算力先行者,燧原科技副总裁任树峰一上台就回顾了创业初期面临的痛点:

  据他介绍,一个芯片设计项目的研发周期大概在1~2年,不同时间对算力的需求呈现波峰波谷状态。

  实际情况是,公司一般会集中在两三个月内做很复杂、压力很大的模拟仿真和各种运算。

  与此同时,通常大家认为芯片设计就是写IP或者写代码,但实际上,一家芯片公司还需要建机房、买服务器,以及管理服务器。

  面对扩容需求,公司需要买服务器,这个过程需要工程师等待算力;而且,整个机房的建设也属于一件很复杂的工程。

  结果就是,千万级IT开销花出去了,工程师还是因为算力不够需要等物理扩容、等算力。

  据任树峰介绍,芯片设计上云在整个行业还不太常见,原因主要是相关数据过于敏感。

  效果上,通过腾讯云保障燧原的峰值算力供给开云kaiyun,燧原验证、benchmark测试效率从2周准备环境缩短至30分钟,提升作业并发100%、缩短仿线%。

  在动画电影制作时,涉及跨城市协作且数据量达到数十至上百TB时,使用传统网络进行传输非常缓慢。

  这里要补充下,一般一个动画项目的服务公司和工作人员可能分散在全国各地,需要将四散的工程文件进行汇总并统一渲染。

  通常情形是,大家只能依赖快递U盘或硬盘给对方,跨市传输至少需要1天,跨省则需2天,而跨国协作甚至可能拖延到十几天。

  经过试验,猫眼基于腾讯云数据传输、数据存储安全方面能力打造了猫眼渲染平台。

  如此一来,工作者只需远程在集群里制作,不仅省去了素材交换下载环节,还能更好保护版权方。

  他重点分享了票房预测这一场景,当前,猫眼能够根据单个影片特征和同期大盘预估票房。

  基于腾讯云Wedata数据开发治理平台,提供数据集成,数据开发、数据资产管理等;

  基于腾讯云DLC数据湖产品,提供Serverless方式使用存储计算资源,按需自动弹性扩缩容;

  基于腾讯云DLC数据湖产品,提供统一湖格式存储、实时写入和更新数据入湖;

  腾讯云BI提供查询加速能力,联合TCHouse-D提供的高性能查询和加载报表数据到缓存,提供秒级交互式分析能力;

  数据显示,该平台可实现日均3万+离线数仓调度任务稳定运行,核心任务执行效率提升20%。

  事实上,本次大会聚齐了SaaS、文娱、社交、营销、电商、招聘等多个泛AI应用场景,到场分享的企业还有金蝶云、趣丸科技、智谱、猎聘、筷子科技……

  具体而言,企业要选一个好的基座模型,同时内部最好也有类似业务BP的角色(懂模型价值、懂业务)。

  真正好的应用还是基于业务场景当中一些原生应用,而这些应用的创新肯定是来自于自下而上的组织内部的元素。

  今天我们在大模型上落地应用,大家做的所有的指令工程和SRT的内容,随着这个场景越来越深入的探索,这就会成为我们企业自身在大模型这个时代数据的资产或者是数据的壁垒。

  最后是业务场景,前期可能适合将大模型嵌入已有工作流程;更长远的,企业需要找到一些新的场景和业务模式,然后把模型的能力使用进去。

  展开来说,刘亚丹首先提醒AI转型也要讲ROI,即“愿意为AI转型花多少?想得到怎样的成果?”。

  他们构建的《长相思》AI角色获得了成功:长相思AI角色对线亿,“相柳” 单角色热度超2亿。

  重点是,他详细介绍了不同训练方法踩过的坑,包括纯prompt法、RAG法,以及Agent法。

  据了解,腾讯云拥有广泛的全球基础设施,覆盖21个地区,运营58个可用区,全球服务器数量超过100万台,全球加速节点超过3200个,带宽储备达到200Tbps。

  一直以来,腾讯云都以深厚的公有云实力和分布式云战略,持续推动各行各业的数字化转型。

  截至目前,腾讯云AI产品已覆盖超过400家互联网头部企业,累计服务超过12万家互联网客户。

  从AI应用落地面临的挑战出发,腾讯云行业架构副总监邱浩分享了腾讯云AI全栈解决方案。

  从基础设施层、模型层、模型加速层、机器学习平台层、应用平台层和业务应用层阐述了腾讯云在计算、存储、网络,一站式AI开发平台腾讯云TI-ONE以及云原生产品等方面的能力,并给出了对应不同阶段AI应用开发的具体方案。

  腾讯云TI平台。打通从数据获取到模型训练部署、最后到AI应用开发的全流程链路;

  数据库TDSQL。涵盖金融级分布式、云原生、分析型等多引擎融合的完整数据库产品体系,支持数据库迁移;

  大数据处理套件TBDS。可在公有云、私有云、非云化环境,根据不同数据处理需求组合合适的存算分析组件;

  BTW,就在大会前一天,腾讯混元发布了全新Turbo大模型,作为新一代的旗舰模型。

  相比上一代混元pro,推理性能提升超过100%的情况下,成本降低了50%,效果对标GPT-4o。

  此外,新模型也支持角色扮演、代码生成FunctionCall,以及全新推出的支持腾讯生态整合的AI搜索联网的能力。

  特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。

  Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

  最有打工天赋的机器人出现了!一镜到底的连续大负载搬运,动态超稳,来自国产的逐际动力

  搭载ChatGPT的《星际穿越》机器人爆火,马斯克:想要! ChatGPT复刻版《星际穿越》机器人T

  机器人身穿衣服做家务被质疑!来自OpenAI押注的独角兽 因过于逼真被怀疑是真人套壳——人形机器人初

  LLM训练通信量减少10000倍!全新分布式优化器,整合世间算力训练强大AI

  AI被连续否定30次:ChatGPT越改越错,Claude坚持自我、已读不回

  大模型如何助力企业AI创新?阿里云AI专家为你解答 哪些因素影响企业用户选择模型服务平台?检索增强R

  全世界跑得最快的人形机器人,还能跳科目三 都知道波士顿动力的机器人会空翻,那你知道中国品牌宇树科技有

  一口气看完 WAIC百度智能云展台 WAIC现场百度智能云大秀绝活,一句话生成数字人,超低门槛搭建应

  Python爆火可视化插件来了!拖拽就成动态GUI,一行代码都不用,真·数据科学神器

  扫地机器人成偷窥神器!远程开摄像头麦克风,生活隐私一览无遗 在世界顶级黑客大会DEF CON上,两名开云kaiyun开云kaiyun