浪潮发布的最新AI服务器将GPU资源利用率提升至前所未有的水平

geckosuk 97美金 2022-02-09 16:02:52 gpu资源出售

  服务器NF5468M6和NF5468A5,为AI用户提供兼具超强性能与灵活性的极致AI计算平台。

  得益于敏捷而强大的产品设计开发能力,浪潮在业界最早实现了对NVIDIA® Ampere架构GPU的快速跟进,并构建起完善且富有竞争力的新一代AI计算平台,能够通过NVSwitch实现8到16颗NVIDIA A100Tensor Core GPU的高速互联,提供高达每秒40 PetaOPS的AI计算性能以及600GB/秒的GPU间P2P带宽。目前,浪潮支持Ampere架构的AI服务器已率先实现量产供货。

  最新发布的浪潮AI服务器NF5468M6、NF5468A5实现了诸多创新设计,兼顾了超强性能与灵活性,可以满足日趋复杂且多元的AI计算需求,并可在高性能计算/云应用上能发挥超强的计算性能。

  NF5468M6、NF5468A5均可在4U空间内配置8块双宽尺寸的PCIe A100,支持最新PCIe Gen4,双向通信带宽高达64GB/秒,相比PCIe Gen3,功耗不变,但通信性能提升1倍,具备更高计算性能,可应对最复杂的数据科学、高性能计算和人工智能挑战。此外,40GB的HBM2内存将内存带宽提高70%,达到1.6TB/秒,可以承载更大的深度学习模型训练。独特的NVLINK Bridge设计可在2块GPU卡间提供最高达600GB/秒的P2P通信性能,训练效率可获得数量级提升;面向多任务训练与开发场景,MIG功能(Multi-Instance GPU)可以将单个A100划分为多达七个独立的GPU实例并分别处理不同的计算任务,通过更细粒度的GPU资源切割,能够为用户提供更精确的加速计算量,将GPU资源利用率提升至前所未有的水平。

  浪潮是全球领先的AI服务器厂商,拥有丰富的AI产品阵列,并和AI客户紧密合作帮助在语音、语义、图像、视频、搜索等各方面取得数量级的AI应用性能提升。据IDC数据报告显示,浪潮AI服务器在中国AI基础架构设施领域已连续三年保持50%以上市场份额。

  AI设计主要参与方都是功能强大的CPU,GPU和FPGA等。微型微控制器与强大的人工智能(AI)世界....

  电子发烧友网报道(文/吴子鹏)美东时间2月7日,外媒援引三位知情人士的消息称,由于美、英、欧盟严格的....

  树莓派ROS stm32 slam Freertos VFH+A避障路径如何规划?

  树莓派ROS stm32 slam Freertos VFH+A避障路径如何规划?...

  由教育部国际合作与交流司、科学技术与信息化司和高等教育司指导,教育部中外人文交流中心主办,英特尔(中....

  上周,英特尔成都主办第一次人工智能论坛,邀请到全国各地多所高校的专家学者及40多位英特尔资深工程师出....

  近两年世界各大知名MCU厂商也都在陆续推出自家功能更强并支持AI功能的MCU和MPU芯片,ARM新推....

  在技术发展的历史上,技术先独立发展再相互融合以改变世界的例子比比皆是。

  2月7日,广州国际健康驿站迎来开站后的第17波旅客。截至目前,驿站运营方已累计为近5000人次旅客提....

  类脑芯片被诸多低功耗边缘应用看好,而传统的密集型云端计算的重任仍然担在传统的AI芯片的肩上。

  小编说:在这个技术快速更迭的时代,人工智能的可能性在逐渐拓宽。为了让大家可以更好的理解人工智能在智能....

  关键词:RISC-V开发板、RVB2601、WiFi&BLE,低功耗,玄铁E906,AliOS Things,RISC-V MCU,上手 好用,...

  2022年1月31日,天地在线】首个虚拟人“元启“亮相。随着元启的诞生,开启....

  年终岁尾,多项权威机构与行业媒体评选的奖项结果纷纷揭晓!主线科技凭借领先的技术实力与优秀的商业化落地....

  天津港港口自动驾驶示范区(二期)正式揭牌。天津市交委领导,天津港集团、上海振华重工、三一海洋重工出席....

  主线科技与激光雷达企业探维科技在北京举行战略合作发布会,正式宣布双方在自动驾驶商用车及智能物流展开全....

  Celestial AI是一家人工智能加速器公司,拥有专属的机器学习芯片组软硬件平台。该公司今天宣布....

  工业人工智能及应用研究现状及展望   来源:《自动化学报》,作者李杰等 摘 要 工业4.0 将工业制....

  1月26日,正值十周年之际,数之联正式推出一款基于深度学习的创新型硬件产品——追光AI-AOI。作为....

  为应用选择的放大器的数据手册同时规定了小信号带宽和大信号带宽,它们是相当不同的规格。那么如何确定信号....

  本文是对NCNN社区int8模块的重构开发,再也不用担心溢出问题了,速度也还行。作者:圈圈虫首发知乎....

  2019年已经过半,今年人工智能-计算机视觉方向在边缘计算、移动终端、嵌入式终端的产品落地进入白热化....

  随着网络模型层数越来越深,参数越来越多,减少他们的大小和计算损耗至关重要,特别是对于在线学习和增强学....

  ArmNN是一个性能十分强劲的inference框架,本文主要分享下对ArmNN的编译。首发:[链接....

  微信“扫一扫”识物已上线一段时间,在公司内外均受到极大的关注。相比于行内相关竞品的“拍”,“扫一扫”....

  人脸关键点检测是一个非常核心的算法业务,其在许多场景中都有应用。比如我们常用的换脸、换妆、人脸识别等....

  在专栏之前的文章,我们介绍过ArmNN,详情可参考被低估的ArmNN(一)如何编译。这里,我们给大家....

  就在今年初,浙江大学医学院附属第二医院通过“脑机接口技术”让张先生可以用「意念」控制机械臂,经过系统....

  如果早知道,CES 2020会是今年四月之前所能看到的唯一一场全球科技展会,我一定会好好珍惜,每种新....

  自从Tengine 2017年底首次在GitHub尝试开放源代码,得到很多开发者的关注和肯定。202....

  最近调研了一些关于CNN网络量化的论文,结合之前基于MNN的使用感受,打算跟大家谈一谈MNN中的模型....

  之前的文章跟大家介绍过如何使用mxnet和MNN做产品化部署,选取的案例为MNIST手写数字识别的项....

  今年年初,中国就业培训技术指导中心发布了《关于拟发布新职业信息公示的通告》,对外公示了16个新职业信....

  据分析机构最新数据,因数据中心对市场产生的带动作用影响,2019年第四季度的NAND Flash的总....

  物体检测技术是解决许多业务问题的关键性技术,如ADAS中的FCW(前碰预警)中,需要借助物体检测技术....

  引言ADAS(advanced driver assistance systems),既高级智能行车....

  近两年,国家出台了许多鼓励ADAS产品的行标和政策,对一些大型货运车辆、特殊行业车辆进行了明确的要求....

  老人的新闻视频,大人的远程会议,孩子的在线课堂,全家的娱乐休闲……在与网络相濡以沫的时光里,想必这样....

  之前我们有跟大家讨论过如何DIY一个轻型的Mobilenet SSD的物体检测器,本专栏的其他文章亦....

  NVIDIA China SAE (Solution Architect Enterprise)是N....

  之前我们介绍过CNN inference框架的基本结构,如何从tensorflow的graph中提取....

  今天我们给大家介绍的是CNN中一个重要的组成模块---池化层,也叫pooling。我们本文跟大家一起....

  作者:与子同袍首发:物联网前沿技术观察最近新型冠状病毒肆虐,大家都宅在家里,度过了一个注定会载入史册....

  AI开源浪潮的领军力量!OPEN AI LAB Edge AI推理框架Tenigne全解读

  最近,国内的人工智能(AI)开源生态突然热闹了起来,这厢清华大学刚开源了一个强化学习平台,那边华为和....

  人脸姿态检测Fine Grained Head Pose Estimation Without Keypoint

  人脸姿态估计算法,主要用以估计输入人脸块的三维欧拉角。一般选取的参考系为相机坐标系,即选择相机作为坐....

  首发:[链接]作者:张新栋最近打通了mxnet在research线和产品线上的应用流程,关于产品线的....

  最近由于项目和研究需要,需要选用一些开发更加灵活的框架。在tensorflow、keras和mxne....

  之前的知乎专栏中给大家介绍过BlazeFace人脸检测器 BlazeFace: 亚毫秒级的人脸检测器....

  小年,通常指扫尘、祭灶的日子。小年被视为“忙年”的开始。从这一天开始,人们准备年货、扫尘、祭灶等,以....

  由 NVIDIA 中国隆重推出的人工智能类音频节目再次开讲啦,在这里,你将与 NVIDIA 共同见证....

  使用raspberry pi Pico的原因在硬件产品(单片机)的开发中我们往往需要借助一些额外的仪器/设备进行产品的辅助测试, 假设我们需要...

  如何通过esp8266与其他模块配合来实现远程操控灯带呈现出不同的效果

  提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言 一、硬...

  大家好,我是痞子衡,是正经搞技术的痞子。今天痞子衡给大家分享的是MCUXpresso IDE下在线调试时使用不同复位策略的现象总...

  关注、星标公众号,不错过精彩内容编辑:Mo来源:电脑报工程师在开发一个电路系统,往往会需要用到中央处理器,比如单片机、FP...

  关注+星标公众号,不错过精彩内容编排 strongerHuang微信公众号 嵌入式专栏学习单片机的同学,或多或少都听说过ISP、IAP...

  前言1 干扰对单片机应用系统的影响1.1测量数据误差加大1.2 控制系统失灵1.3 影响单片机RAM存储器和E2PROM等1.4 程序运行...

  i.MXRT上使能NOR Flash的Continuous read模式在软复位后无法正常启动问题的解决

  大家好,我是痞子衡,是正经搞技术的痞子。今天痞子衡给大家介绍的是i.MXRT上使能NOR Flash的Continuous read模式在...

分享: