2025/04/12 04:40:46 5,208次浏览

机器之心报道

编辑:Panda

因为基准测试成绩与实际表现相差较大,近期开源的 Llama 4 系列模型正陷入争议的漩涡之中,但有一点却毫无疑问: MoE(混合专家) 定然是未来 AI 大模型的主流范式之一。从 Mixtral 到 DeepSeek 再到 Qwen2.5-Max 以及 Llama 4,越来越多的 MoE 架构模型正在进入世界最前沿模型之列,以至于英伟达也已开始针对 MoE 架构设计和优化自家的计算硬件。

但是,MoE(尤其是大规模 MoE)也会给 AI 基础设施带来不一样的挑战。昨天,在 AI 势能大会下午的 AI 基础设施峰会上,阿里云智能集团副总裁、阿里云智能计算平台事业部负责人汪军华就谈到了 MoE 架构特有的一些困难,包括 token drop 选择对吞吐的影响、在路由专家与共享专家之间考虑效率和效果的权衡、专家的选取数量和比例等。

汪军华表示 AI 范式正在向 MoE 和推理模型演进

阿里云已经在解决这些难题上取得了重大进展。峰会上,针对 MoE 架构的模型,阿里云宣布基于 PAI-DLC 云原生分布式深度学习训练平台推出了 FlashMoE ,这是一款支持超大规模 MoE 混合精度训练的高性能训练框架,具有多种强大特性,包括支持多种 token 路由策略、支持上下文并行与张量并行解耦等。

当然,阿里云在 AI 基础设施上的布局远不限于 MoE。无论是硬件算力的投入,还是一体化的训练和推理服务,它都在用硬核实力夯实自己的领先地位。在这场 AI 基础设施的竞赛中,阿里云已然抢占先机。

从算力到安全

阿里云这样构建 AI 基础设施

从算力基础到弹性灵活的解决方案,再到存储与网络技术,以及至关重要的安全能力,阿里云正在不断演进面向 AI 时代的基础设施,以提高其产品力和用户体验。

首先,在基础算力方面,阿里云宣布 ECS 第 9 代 Intel 企业级实例正式开启商业化 ,其基于英特尔第六代至强处理器 GNR,搭配阿里云最新 CIPU 架构,可让集群性能相对前代提升最高达 20%,同时价格较上代再降 5%。

今年也是阿里云弹性计算 15 周年,AI 驱动的阿里云基础设施将持续面向更高性能、更稳定的架构和产品深入演进。

在强大算力的基础上,阿里云还在对灵骏集群不断进行优化。阿里云智能集团副总裁、阿里云智能弹性计算、存储产品线负责人吴结生表示:「我们针对 AI 负载进行了大量优化,把灵骏集群构造成了云超级计算机。」总结起来,灵骏集群的技术体系包含 4 个创新点,包括 HPN 高性能网络、CPFS 高性能文件存储、定制化的 AI 服务器以及强大的故障检测能力。

首先,在网络技术方面,阿里云设计的 HPN 7.0 高性能网络架构是灵骏集群的核心网络技术,能让机器更高效、更紧密的合作。实际效果上,利用 HPN7.0 高性能网络架构,可实现单集群10 万张 GPU 卡互联,同时提供 3.2T 跨机带宽。

其次,值得一提的是 灵骏管控和自愈系统 ,这能降低故障频次,缩短故障恢复时间,从而增强集群的稳定性,提高算力的使用率 —— 在万卡级超大规模训练中,一个月内灵骏 GPU 集群有效训练时长占比超过 93%。

为了保证 AI 业务稳定,算力很重要,高性能且可靠的存储也必不可少。对此,阿里云给出的解答是 CPFS (Cloud Parallel File Storage)高性能存储与 OSS (Object Storage Service)对象存储服务。

其中,CPFS 适用于高性能计算,支持对数据毫秒级的访问和百万级 IOPS 的数据读写请求,能实现 40 GB/s 的单客户端吞吐性能。

CPFS 还针对 AI 应用进行了优化,在实现高性能并行的同时,还支持端侧缓存和分层存储(包括 KV Cache),从而能高效率和低成本地满足 AI 的训推需求。

OSS 则适用于存储大量非结构化数据,适用于多种计算引擎和 AI 框架,具有海量、安全、易集成、低成本、高可靠的优势。在 AI 基础设施峰会上,阿里云宣布推出高性能的 OSSFS 2.0 ,这是一款专门用于通过挂载方式高性能访问 OSS 的客户端,它具备出色的顺序读写能力,可充分发挥 OSS 的高带宽优势。此外,阿里云还宣布首次将缺省 100 Gbps 吞吐性能扩展到了海外(新加坡)。OSS 同城冗余也已在吉隆坡上线,现已覆盖全球 12 个地域。

阿里云也为 CPFS 和 OSS 之间的数据流动构建了高速、高带宽的通道,使训练或推理框架可以通过文件系统的接口访问 OSS。

安全与稳定性同样也是许多 AI 应用开发者关注的核心问题之一,而阿里云已经构建了一整套用以保障算力稳定供给和数据安全的体系,其中包括 20 多款云产品和近百项可一键开启的安全能力。

面向 MoE 结构和推理模型

AI 范式正在演进

正如开篇所说,MoE 模型架构与推理模型正在不断推动 AI 训推的范式升级,在本次发布上,阿里云人工智能平台 PAI 针对性地推出一系列新能力。

在模型构建方面,针对推理模型,阿里云推出了 PAI-Chatlearn 和 Post-training on PAI-DLC。其中前者是一种支持 RLHF、DPO、OnlineDPO、GRPO 等多种强化学习算法的大规模对齐训练框架,同时也支持用户自己开发的强化学习算法,并且适配 Megatron、vLLM、DeepSpeed 等多种框架。不仅如此,PAI-Chatlearn 还是开源的。而后者则包含 SFT 等后训练能力,支持 Ray on DLC、统一调度、Serverless、Ray Dashboard 和开发机等功能。

而对于 MoE 模型,前文已经提到了基于 PAI-DLC 的 FlashMoE,其实际表现可说是相当亮眼:在万卡规模上,可将 MoE 训练的 MFU(模型 Flops 利用率)提升到 35-40%。

而在推理加速方面,阿里云同样没有落下。直接上数据。

首先,阿里云推出的全新模型权重服务将 1-100 节点的冷启动速度提升了 21 ;如果从 50 个节点扩容到 100 个节点,则分布式推理系统的规模化扩容效率可提升 12 倍

而基于 KV Cache 的分布式推理服务 PAI-EAS 可将千万级活跃用户场景的 KV Cache 命中率提升 10 倍 !基于 3FS 的存储系统 IO 效率获得了大幅提升(读吞吐提升了 43% ,写吞吐提升了 27% )。

另外,PAI-EAS 具备负载感知的 PD 分离架构,端到端服务吞吐提升 91%

针对 MoE 模型,阿里云宣布推出了针对性的分布式推理引擎 Llumnix ,通过在请求层面、请求内和硬件并行策略方面的精心设计,相比于 Round-robin 请求调度方案,可将 TTFT(首 token 延迟)降低 92% (P99),将 TPOT(每输出 token 延迟)降低 15% (P99)。

此外,阿里云也对云原生大数据服务 MaxCompute 进行了全面的 AI 升级,发布了 AI Function ,可支撑用户构建 Data+AI 一体化工作流。

同时,阿里云在会上宣布大数据 AI 产品全面拥抱 MCP ,大数据开发治理平台 DataWorks 发布基于 MCP 的 Agent 服务,DataWokrs 和 Hologres 发布了 MCP Server。

智能时代的数据库

让数据和 AI 更近

有了高效算力和平台,要创造足够好的 AI 应用,数据也是必不可少的一环。正如阿里云智能集团副总裁、阿里云智能数据库产品事业部负责人李飞飞说的那样:数据、算法、算力是智能时代的三大要素。因此,对数据库范式的革新也必不可少。那么智能时代对数据库的最核心需求是什么呢?李飞飞认为是「对多模态数据的智能化管理」。

为此,阿里云正在不断创新。此次峰会上,阿里云重点介绍了其数据库产品的一系列重磅升级。

首先,阿里云宣布实现了 模型即算子(Model as an Operator) 的 In-DB AI 功能,也就是说可以将模型作为算子直接内嵌到数据库中。这样做具有明显的好处,包括能使用更低的推理成本获得同等的 AI 能力、可以通过 SQL 语句轻松调用、可避免企业私有数据出域。李飞飞表示,阿里云会在今年内让 PolarDB、Lindorm 和 AnalyticDB 都支持 In-DB AI。

阿里云在数据库方面的另一大重要举措是采用了 Data+AI 的设计理念。具体来说,通过统一 CPU 和 GPU 资源池,瑶池数据库实现了资源池化,支持分时分片弹性调度,进而帮助客户降本增效。

此外,阿里云还宣布将 Tair 从互联网架构演进成了面向 AI 时代的架构:通过基于 Tair 内存池的 KV Cache 多级管理,可为大模型推理提供高效的 KV Cache 存储和复用。同时, Tair KVCache 还支持多租隔离、资源配额、故障恢复等企业级管理能力。

当然,阿里云数据库产品的升级之路还将继续向前。阿里云透露将于今年下半年发布全球首款基于 CXL(Compute Express Link) 交换机的数据库专用服务器。CXL 高速互联技术可以进一步提升三层解耦架构下计算与内存之间的通信带宽与效率。与传统的 RDMA 高速网络相比,CXL 技术可将内存交互的性能提升一个数量级。

用 AI 基础设施支撑智能未来

阿里云准备好了

在 AI 迅猛发展的今天,强大的算力已成为驱动创新的核心动力。阿里云深刻洞察这一趋势,持续加大在 AI 基础设施领域的投入,致力于为全球用户提供高效、稳定的计算资源。

现在,依托于在 AI 基础设施上的创新和投入,阿里云已为开发者和企业搭建了一个坚实的平台,使他们能够专注于算法创新和应用开发,而无需过度关注底层计算资源的限制。而这正是 AI 大规模应用的重要基础。

正如吴结生说的那样:「云计算是一种公共服务。随着 AI 的发展,智能会变成一种资源,就像水和电一样。这样一来,token 就变成了一种商品。云上的算力正在以这种公共服务的方式给大家提供这种商品,从而普及 AI,让 AI 走进千行百业,让 AI 实现大众化和规模化。」

而当智能成为一种「资源」,基础设施的供给能力,也将决定 AI 能走多远、飞多高。

阿里云正携手企业和开发者,共同迈向智能化的未来。在这场奔赴未来的基建竞速中,阿里云,已在路上。

关注飞天发布时刻,及更多精彩发布内容: https://summit.aliyun.com/apsaramoment

MoE模型已成新风口,AI基础设施竞速升级
MoE模型已成新风口,AI基础设施竞速升级

现货黄金首次冲破3200美元大关

「活动」kumadaibiaotitest

0.30MB
版本V3.0.45
下载麦当娜日本写真集安装你想要的应用 更方便 更快捷 发现更多
喜欢 84%好评(42084人)
评论 77
MoE模型已成新风口,AI基础设施竞速升级截图0 MoE模型已成新风口,AI基础设施竞速升级截图1 MoE模型已成新风口,AI基础设施竞速升级截图2 MoE模型已成新风口,AI基础设施竞速升级截图3 MoE模型已成新风口,AI基础设施竞速升级截图4
详细信息
  • 软件大小: 60518.83216MB
  • 最后更新: 2025/04/12 04:40:46
  • 最新版本: V7.59393.8
  • 文件格式: apk
  • 应用分类:ios-Android 《放荡的蒂芙尼》
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 4.17830以上
应用介绍
一,午休把女同桌胸罩解开摸她胸,海角社区国产精伦在线观看
二,宋雨琦张开腿让我❌到爽,范冰冰A片张怕芝毛片
三,沙奈朵扒开腿做❌同人漫画,blackpink换脸AI被🌿
四,王子萱舞蹈作品集锦,涩涩🔞外网网站漫画
五,大胸美女穿内衣,谷雨光感水乳光甘草修护精华水
六,同人精品动漫在线无码,含羞草❤成人一天一次,国产Chinese男男GAY网站
七,做爰❌❌❌视频毛片下载蜜桃视频。
【联系我们】
客服热线:134-2881-646
加载更多
版本更新
V5.2.59
刘若琳被c到高潮下不了床
  • 国产粉嫩白富美一区二区三区

    逍遥Sm女紧缚圈坛

    metart极品人体白嫩美妇

    86433.67MB
    106好评

    逛街跳蛋调教视频

  • cc小恩雅喷水自慰

    温以凡打开双腿高潮

    永久免费🔞🔞🔞未满网

    88117.75MB
    110215好评

    老头自慰oldjapanese oldman

  • 央视公认祛斑第一名

    人獸交videos罗莉

    🌿我~慢点~好爽动漫

    13.01MB
    315好评

    公厕dayGayGay骚年老头

  • Brandilove无套猛片观看

    被❌到爽🔞流漫画视频

    性关系㊙️视频免费观看

    53.27MB
    276好评

    尤妮丝裸体㊙️无遮挡

  • 性❌❌潮喷水色欲

    与狐妖的日常生活结局CG解锁

    换脸ai一区二区刘亦菲夜蒲团

    71.63MB
    708好评

    斗罗大陆唐三摸小舞腿的视频

  • 美女JVLD潮流TV

    原神裸体裸乳🍑免费看

    美女扒开衣服㊙️网站

    83.22MB
    331好评

    玩弄死亡年轻女尸HD

  • 桃子味汽水饮料

    女人脱了精光㊙️网站

    卫鲤棵身照片高清壁纸

    23.79MB
    102好评

    51成人🔞在线观看喷潮数学

  • 扒开美女❌狂揉❌公交车

    琪亚娜成为终焉多少岁了

    9·1网站登录入口免费

    50.63MB
    920好评

    海边美女撒尿网站㊙️

  • 多强被❌c到爽🔞调教Sm视频

    希格雯失去尊严的图片

    cos自慰❌羞羞网站图片

    83.37MB
    565好评

    japanese丝袜自慰

  • 卡戴珊是什么人种

    妲己疯狂❌喷水自慰歪歪漫画

    咒术回战野蔷薇18+🔞

    83.87MB
    757好评

    农肌肉壮汉喷浓精爽H

  • 美女裸体爆乳无遮挡

    初音未来疯狂❌自慰h

    大美女🐻100

    00.43MB
    8080好评

    b站免费观看

  • 消防员挺进乖乖女h苏烨小说

    2025新澳精准正版免费大全

    4388❌全国最大色情app

    26.69MB
    740好评

    英语老师乖乖挽起裙子让我自慰

  • 成人未滿十八無🈲毛片

    FC2成年免费共享视频

    美女光屁股无内裤㊙️护士

    65.21MB
    744好评

    扒开美女❌狂揉下部

  • 亚洲AV无码乱码A片小黄书

    网禁🈲稀缺呦女1300

    51漫画♥成人无遮挡无删减

    54.77MB
    757好评

    入宫vore

  • ChineseFemdom恋足

    芙宁娜高清壁纸图片

    奶奴女帝赤裸跪爬伺候主人

    57.06MB
    684好评

    12×12的竖式计算

  • freeeXXX吴梦梦

    壮汉被书生疯狂灌满精NP

    美女又爽❌又黄❌视频毛茸茸动漫

    24.77MB
    356好评

    樱花动漫淫の方程式

  • 老公说拿烟头把我奶头烫一下

    女奥特曼被❌到爽羞羞视频

    3D动漫裸体vore丨vk

    13.69MB
    317好评

    美女下部私㊙️部位撒尿

  • 最佳影片Theborn

    被沦番cao哭的双性清冷美人

    宁红夜被啪到深处喷水漫画

    84.89MB
    214好评

    布洛妮娅AKT公司剧情哪里看

  • www自慰❌❌喷水噜噜多人

    小🐤🐤戳进🍑无遮挡3D

    3D辱动漫打屁股惩罚在线观看

    45.24MB
    732好评

    女生宿舍2初恋的滋味2

  • 古力娜扎的奶头真大

    黑暗荣耀cut沙发截了一段原声

    梦见和别人一起吃粉丝

    10.54MB
    185好评

    18禁高潮娇喘出水长时间视频

  • 英文A级是几级

    真实的国产乱ⅩXXX96

    TOKyOHOTAV无码专区次观看

    44.06MB
    360好评

    AV➕国产➕美女➕

  • 无尽女同扶她3D动漫无尽

    砂狼白子被❌高潮

    爱情岛❤️vip永久入口17c

    91.33MB
    205好评

    女人扒开㊙️喷牛奶图片

  • 2020Gay无套激情台湾

    MM131杨晨晨❌视频喷水

    男生赤裸裸的视频

    30.57MB
    903好评

    动漫裸体㊙️无遮挡屁股

  • Kellyhazellsex

    散兵大战史莱姆漫画免费观看

    TK黑土的脚心丨VK

    30.24MB
    549好评

    china少妇tube自慰2

  • 💖少妇💖自慰喷水h片

    美女露出🐻让男生揉漫画

    三生三世漫画下拉式漫画免费观看

    29.10MB
    120好评

    白袜体育生控精自慰打飞

  • 国产精品㊙️久久久久久小说

    穿jk白丝被❌视频裸体动漫

    小学生在校证明找谁开

    70.06MB
    450好评

    在线无限看❌免费茄子视频

  • 色AV➕性AV➕丰满AV国產纤夫裸体露蛋视频网站 title="女忍者忍法帖1中文" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    裸体裸乳❌美女视频

    高清偷拍女厕美女撒尿㊙️

  • 刘若琳和沈思琪照片合照成人吸乳视频 title="动漫裸体❌羞羞视频先免费看。" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    宋雨琦全昭妍演唱会打歌服

    穿蒂环后真实感受

  • 高潮刺激sexfreeXXXX女性私密spa按摩 title="苏畅按摩无码视频在线观看捉凤筋" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    澳门映画的lVk

    abc字母歌歌词 now i

歪歪漫画网免费版在线观看 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 东契奇摔到灰熊女助教身上 4天前
    欧美性潮喷XXXXX免费视频看
  • 动漫美女露小奶头❌的网站桃花岛 2天前
    ASmR娇喘颅内高潮
  • XNXX99👙video 5天前
    欧美自慰喷潮无码一区二区软件
  • 日韩欧美精品一区二区三区无码 2天前
    臆想空间舞蹈生恩雨vk
  • 妖精漫画免费版在线观看 5天前
    多强被❌c到爽🔞H小黄文
  • 肯达尔詹娜裸乳无遮挡照片 8天前
    意大利电影巜丰满的欲妇
  • chinese痞帅GAY XNXX猛一 1天前
    M·M视频·com
  • 美女下部尿囗㊙️ 7天前
    旧里番扶她部1∼5
  • 女人的手好看代表什么 2天前
    Gay cartoon yaoi
  • 古瀬玲后ろからヤル突き出た 6天前
    推到杨幂的小说