导航|地址|刷新
英特尔针对阿里云通义千问2模型进行优化-PChome

当前位置：企业中心> 信息化> 新闻

英特尔针对阿里云通义千问2模型进行优化

PChome | 编辑: 单亚凯2024-06-11 16:54:12原创

英特尔宣布其数据中心、客户端和边缘的AI解决方案为阿里云通义千问2（Qwen2）的全球发布提供支持。

一直以来，英特尔致力于与行业领先、创新的生态伙伴开展合作，并针对AI模型进行优化。近日，英特尔宣布其数据中心、客户端和边缘的AI解决方案为阿里云通义千问2（Qwen2）的全球发布提供支持。

英特尔公司副总裁兼数据中心与人工智能软件总经理Pallavi Mahajan和英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立表示，在阿里云推出通义千问2大模型的当日，英特尔即为客户和开发人员提供了针对该AI模型和软件而优化的AI解决方案。

软件优化

为了最大限度地提升诸如阿里云通义千问2的大模型效率，全面的软件优化非常重要，其中包括从高性能融合算子到平衡精度和速度的先进量化技术。此外，英特尔还采用KV Caching、PagedAttention机制和张量并行来提高推理效率。英特尔的硬件可利用软件框架和工具包进行加速，并获得出色的大模型推理性能，其中包括PyTorch和英特尔PyTorch扩展包、OpenVINO工具包、DeepSpeed、Hugging Face库和vLLM。

英特尔与阿里云在数据中心、客户端以及边缘平台上的AI软件优化，有助于构建一个创新的生态环境，且截至目前，已取得了包括ModelScope、阿里云PAI、OpenVINO等在内的诸多创新成果。得益于此，阿里云AI模型可在多样化的计算环境中进行优化。

测试结果：英特尔Gaudi AI加速器

英特尔Gaudi AI加速器专为生成式AI以及大模型的高性能加速而设计。使用最新版本的英特尔Gaudi Optimum，可以轻松部署新型号的大模型。在英特尔Gaudi 2上对70亿参数和720亿参数的通义千问2模型的推理和微调吞吐量进行了基准测试，以下为详细性能指标和测试结果。

表1. 70亿参数的通义千问2在单颗英特尔Gaudi 2加速器上的推理

表2. 720亿参数的通义千问2在8颗英特尔Gaudi 2加速器上的推理

表3. 通义千问2 FP8在英特尔Gaudi 2加速器上的推理

表4. 通义千问2在英特尔Gaudi 2加速器上的微调

测试结果：英特尔至强处理器

英特尔至强处理器作为通用计算的基石，为全球范围内的用户提供强大的算力。英特尔至强处理器具有广泛可用性，适用于各个规模的数据中心，这使其成为那些希望能够快速部署AI解决方案，又无需配备专项基础设施企业的理想选择。英特尔至强处理器的每个核心均内置了英特尔高级矩阵扩展（英特尔AMX），可处理多样化的AI工作负载并加速AI推理。下图展现了英特尔至强处理器所提供的延迟性能可满足多种用例。

图1. 在基于第五代英特尔至强可扩展处理器的阿里云ecs.ebmg8i.48xlarge实例上，通义千问2的下一个推理token延迟

AI PC

由最新英特尔酷睿Ultra处理器和英特尔锐炫显卡驱动的AI PC让AI的力量触及客户端和边缘，使开发者在本地也能部署大模型。AI PC配备了专门的AI硬件，如神经处理单元和内置的英特尔锐炫™显卡，或配备了英特尔Xe Matrix Extensions加速的英特尔锐炫A系列显卡，以处理高需求的边缘AI任务。这种本地处理能力可实现个性化的AI体验，增强隐私性，并提供快速响应时间，这对于交互式应用程序至关重要。

以下展示了15亿参数的通义千问2，在基于英特尔酷睿Ultra的AI PC上运行时所展现的强大性能。

Demo 1. 在内置英特尔锐炫显卡的英特尔酷睿Ultra 7 165H上，通义千问2的推理

表2. 在内置英特尔锐炫显卡的英特尔酷睿Ultra 7 165H AI PC上，通义千问2的下一个token延迟

表3. 在由英特尔锐炫A770 16GB限量版驱动的AI PC上，通义千问2的下一个token延迟

相关阅读

英特尔发布2026年第二季度财报 AI需求带动营收同比增长25%

英特尔亮相第四届链博会以异构计算驱动智能时代创新链

 从创新到落地：英特尔AI开发者大赛勾勒产业实践新图景

 英特尔中国四十周年 2025技术创新与产业生态大会盛大举行

 英特尔酷睿Ultra适配Qwen3-VL和Qwen3-Next新模型

 摩尔线程发布并开源大模型训练仿真工具SimuMax v1.0

英特尔Gaudi 2E AI加速器加入DeepSeek-V3.1支持

 2025英特尔人工智能创新应用大赛：从赛场到产业的跃迁

 英特尔参加第三届链博会链动生态共赢智慧未来

网友评论

每日精选

手机价格或迎来拐点：小米上调出货 OV拒涨报价

存储芯片持续涨价成为压在手机行业身上的重担，市面上所有机型售价一路走高。随着小米上调出货，OV拒绝了涨价报价，似乎手机价格要迎来拐点了。

标签：存储| 涨价| 降价| 2026-07-25

白色装机党的新答案：技嘉B850 雕妹颜值性能一次拉满

纯白ICE设计、二次元雕妹元素、16+2+2相数字供电、PCIe 5.0、Wi-Fi 7、DDR5高频支持以及完善的DIY易用性，技嘉B850 AORUS ELITE-P ICE雕妹兼顾颜值、性能与扩展能力，为AMD AM5平台白色装机玩家提供了一套均衡且具备长期升级潜力的解决方案。

标签：技嘉| B850雕妹| 主板| 导购| 2026-07-25

618拉动家用路由器销量回暖，均价回落头部格局稳固

6月中国家用路由器线上主流市场（含京东、天猫等电商平台）的销量为103.6万台，同比下降7.9%，环比增长18.8%；销额为2.6亿元，同比下降9.5%，环比增长17.3%。

标签：路由器| 618| 2026-07-25

全新米家无线洗地机5C预约中三重防缠，售价999元

小米推出了全新洗地机——米家无线洗地机5C，采用三重防缠绕技术，拥有45分钟超长续航，支持60℃热流净味透烘。

标签：小米| 米家| 洗地机| 2026-07-26

高通全系芯片涨价下半年旗舰手机涨价已成定局

据美国媒体报道，高通于当地时间7月24日向全部合作客户下发官方调价通知，宣布上调全系列芯片供货价格，整体涨幅达两位数。

标签：高通| 涨价| 2026-07-25

用户零责任！铂智7电池事故起火厂家全担责

广汽丰田推出行业首个“电池事故起火厂家全担责”政策，覆盖非品质问题，并提供三电终身质保。此举结合OTA升级与王心凌代言，彰显其扎根中国、用户为本的转型决心。

标签：铂智7| 2026-07-25

游戏手机必备骁龙8E6 Pro独占1440P超分超帧

骁龙8E6 Pro支持LPDDR6内存，独占1440P超分、AI插帧两大游戏专属功能，游戏综合体验大幅升级。

标签：骁龙| 骁龙8E6Pro| 1440P超分| 2026-07-27

2026上半年智能投影销量大跌市场连续九季度下滑

上半年，中国智能投影市场（不含激光电视）全渠道的销量为205.6万台，同比下降26.0%；销额为33.4亿元，同比下滑27.0%。自2024年第二季度起，市场已连续九个季度发生了规模的同比下滑。

标签：智能投影| 投影| 极米| 坚果| Vidda| 2026-07-27

苹果积极游说使用中国存储芯片美光强烈反对

苹果正游说美国政府，希望获准在海外销售的苹果设备中搭载中国供应链的存储产品，以此缓解全球存储供货紧张局面，还能从源头控制硬件成本，进而降低终端产品售价。

标签：苹果| 长鑫存储| 长江存储| 美光| 2026-07-27

首款机器人手机荣耀Robot Phone定档8月12日

荣耀手机正式官宣，荣耀Robot Phone将于8月12日发布，这款新品由荣耀与专业影视器材品牌阿莱（ARRI）联合研发。

标签：荣耀| 荣耀RobotPhone| 2026-07-27

点击查看更多

最新快讯

米家巨省电Pro风管机开售 APF 5.12超一级能效

 骁龙主题馆新玩法探秘从手机游戏到AI造梦

 ChinaJoy 2026 ，飞书深诺用Marvy 2.0给游戏出海划了一条新航线

 红魔携全系电竞装备亮相ChinaJoy 打造两大专属互动展区

 2026 ChinaJoy火热举行：一加带来巨型手机巡游

 雷鸟创新全系产品亮相ChinaJoy 全天候AI眼镜雷鸟iO同步登台

 涨价潮中怎么买？暑期五款高性价比PCIe 4.0 SSD推荐

 双游戏IP加持 ChinaJoy 2026荣耀展台直击

 小米汽车发布昆仑技术架构完成纯电与增程双系列布局

 讯飞AI录音卡体验：告别繁琐录音整理 AI赋能高效办公

热门文章

英特尔锐炫G3 Extreme掌机体验


至尊狂战就是荣耀WIN游戏本 H9

暑假换机首选！990g机身45W性能，华硕a豆14 Air 2026闭眼入
2026-07-21

高考后的第一台高性能笔记本怎么选？这5款让你大学四年一步到位
2026-07-16

从性能到AI全面跃升：骁龙X2重塑新一代Surface竞争力
2026-07-15

第三代英特尔酷睿5加持，华硕无畏16SE 2026暑期学习办公娱乐一机搞定
2026-07-08

三大AI PC平台：骁龙X/酷睿Ultra/锐龙AI选购指南
2026-06-19

618换机优选华硕无双系列，大屏、便携、性能全都要
2026-06-12

618AI轻薄本优选，华硕无畏14SE 2026学习办公两宜
2026-06-09

最新软件

知到app

TikTok Lite

MT管理器最新版

小红书海外版(REDnote)

气象计算

精准测距仪大师

作业帮家长版新版本

剪映老版本11.9(CapCut)

英孚教育

万师傅师傅版

繁花剧场

起点读书国际版(Webnovel)

豆包人工智能助手

模拟钢琴手机版

乐视视频新版

美食天下

科普中国

深圳航空

国学上下五千年

XAPK安装器

首页手机数码相机笔记本游戏DIY硬件硬件外设办公中心数字家电平板电脑

------
导航页打开网址