【新智元导读】近日,AMD 和英伟达接到消息,美国政府要求其对中国区断供高端 GPU。
8 月 31 日晚,集微网突然发布消息称,AMD 和英伟达中国区已相继接到总部通知,要对中国区客户断供用于人工智能和数据中心的顶级计算芯片。- 暂停对中国区所有 MI100 和 MI200 发货;
- 统计中国区 MI200 已发货客户清单和发货明细。
- 暂停对中国区所有客户所有代理商的 A100 和 H100 的发货,其它 GPU 卡不受影响;
- 各服务器 OEM 库存的 A100 可以对各自的行业客户继续交付, 英伟达中国区目前没有对 OEM 发任何 Letter。
目前,英伟达 H100 在今年 GTC 大会上刚刚发布还未出货。但已经出货 2 年的 A100 在最新 MLPerf 中,打破 16 项性能记录领跑。可见,仅英伟达这两款高端 GPU 的断供,直接打击了智能计算以及 AI 大模型的训练。根据英伟达向美国证券交易委员会提交的一份文件,美国政府已于 8 月 26 日对英伟达下发了通知,对现有的 A100 和即将推出的 H100 提出了新的出口管制许可,并立即生效。此外,DGX 或任何其他采用 A100 或 H100 和 A100X 的系统,以及未来任何能够在峰值性能和 I/O 性能达到或高于 A100 的,都在新的许可证要求范围之内。文件显示,该禁令针对的地区为中国大陆、中国香港和俄罗斯。不过,英伟达在俄罗斯并没有付费客户。英伟达表示,此举可能会影响到 H100 的开发,以及支持 A100 现有客户的能力,并可能进一步要求公司将某些业务从中国转移出去。目前,英伟达正与美国政府接触,试图为公司的内部开发和支持活动寻求豁免。英伟达发言人也表示,「我们正在与中国客户商讨对策,以满足他们计划或未来购买替代产品的需求。如果客户需要的替代产品不足,我们会为客户寻求豁免或许可证,但不能保证美国政府会批准,或及时回应。」受该禁令的影响,英伟达股价开盘后下跌近 6.6%。在 8 月 24 日英伟达曾预计,第三财季销售额约为 59 亿美元,然而禁令一出,英伟达第三季度在中国的潜在销售额可能会损失 4 亿美元,如果客户不想购买替(旧)代(的)产品,而美国政府不及时或拒绝向重要客户发放许可证的话。此外,据 AMD 的一位发言人称,美国政府也已经通知他们说要停止向中国出口顶级的人工智能芯片。AMD 表示,新的许可要求将阻止 MI250 芯片运往中国,但 MI100 芯片应该不会受到影响。AMD 认为,新规并不会对其业务产生实质性影响。但股价仍在开盘后下跌了。近年来,美国不仅针对中国不断地加强芯片的出口限制,并且还试图将制造业带回本土。拜登已经正式签署《芯片与科学法案》,美国商务部向中国断供了可用于 14nm 以下先进制程芯片制造的设备,实施了对 EDA 软件工具的出口管制,且美国正在促成与其他国家的结盟。而美国此次对英伟达和 AMD 实施芯片的出口禁令,除了阻碍英伟达在中国高达 4 亿美元的业务以外,还会影响国内 AI 领域的研究。不过目前来看,对消费电子领域的影响并不严重。除了这两家的芯片,还有像高通、联发科、三星等芯片可用。但是,大多数国内服务器离不开这两家都芯片。显然,美国的这番断供就是冲着算力去的,目的就是阻碍中国在人工智能领域领先世界。建设强大的智算中心就需要高端 GPU,如果没有智算,智慧交通、智慧城市、工业互联等众多领域都会受到影响。因此,芯片断供将会直接影响国内的云计算产业及人工智能产业的发展。根据 6 月份最新全球超算 TOP500 榜单,排在前十的超算中基本上都用到了 AMD、英伟达、英特尔的处理器或技术。其中,中国神威·太湖之光超级计算机用的是我们自主研发的神威 26010 众核处理器。天河二号超级计算机则是使用基于英特尔集成众核架构的 Xeon Phi 31S1P 协处理器。因此,断供 AMD 和英伟达对我国最有影响力的两大超算并未造成影响。然而,对于国内提供服务器的企业来讲,就不那么幸运了。服务器都是企业用得多,比如数据中心、云计算。目前,国内像阿里等公司都在开始自研云原生处理器,这是值得肯定的。要知道,GPU 是元宇宙核心计算资源的底座。未来,元宇宙市场规模或超 4700 亿美元。元宇宙中有大量的程序需要计算,构成元宇宙的虚拟内容、区块链网络、人工智能技术都离不开算力的支撑。因此,元宇宙中更加真实的建模与交互需要更强的算力作为前提,更加说明我们自研 GPU 的重要性。另外,如果没有英伟达和 AMD 等公司的芯片,国内在图像、语音识别以及其他机器学习方面的任务也将受到严重的影响。2020 年大火的 GPT-3 参数规模达到 1750 亿,而且,其训练数据集规模也超过 500GB。训练这么大的 AI 模型,必然会吃很大的算力,仅 GPT-3 就消耗了 10000 块 GPU,花了 30 天才完成。那么,断供高端 GPU 将如何影响国内 AI 模型的训练呢?拿英伟达 A100 来举例,它的深度学习性能在 2021 年的实测中可达 V100 的 3.5 倍。而在最新的 AI 芯片跑分大赛结果中,A100 打破了 16 项性能纪录。相比于「只有」540 亿个晶体管的前辈 A100,英伟达在 H100 中装入了 800 亿个晶体管,并采用了定制的台积电 4nm 工艺。在算力上,H100 的 FP16、TF32 以及 FP64 的性能都是 A100 的 3 倍,分别为 2000 TFLOPS、1000 TFLOPS 和 60 TFLOPS。此外,H100 还增加了对 FP8 的支持,算力高达 4000 TFLOPS,比 A100 快 6 倍。在 AI 训练中,如果采用 H100 来训练 GPT-3 的话,就可以将速度提升 6.3 倍,如果结合新的精度、芯片互联技术和软件,则可以提升至 9 倍。
此外,在新的 Hopper 架构加持下,大型模型的训练可以在数天甚至数小时内完成。
其中,Transformer Engine 可以用 2 倍于 FP16 的速度打包和处理 FP8 数据,于是模型的每一层可以用 FP8 处理的数据都可以提升 2 倍的速度。
如果美国真的对高端 GPU 断供,国产 GPU 是否有可行的替代方案呢?「芯智讯」在一篇较为详尽的总结中表示,从整体来看,目前国产 GPU 仍处在一个发展的初期。在图形显卡领域,只有景嘉微取得了一些成绩,但与英伟达和 AMD 还有较大的差距。而对于此次断供影响到的高性能计算领域,文章分析称,仅天数智芯、壁仞科技和芯动科技有推出相应的产品。其中,根据壁仞科技官方公布的数据,BR100 在 AI 算力方面已经超过了英伟达的 A100。不过,由于该产品才刚刚推出,所以仍需要市场来检验。一直以来美国对国内不断打压,国产 GPU 厂商也在加速自身研发,就是为了在紧要关头能够实现自给自足。https://mp.weixin.qq.com/s/V7X2gRVZchHVg9WTrI_P-ghttps://laoyaoba.com/n/831077https://www.reuters.com/technology/nvidia-says-us-has-imposed-new-license-requirement-future-exports-china-2022-08-31/https://www.reuters.com/technology/amd-says-us-told-it-stop-shipping-top-ai-chip-china-2022-08-31/崔庆才的新书《Python3网络爬虫开发实战(第二版)》已经正式上市了!书中详细介绍了零基础用 Python 开发爬虫的各方面知识,同时相比第一版新增了 JavaScript 逆向、Android 逆向、异步爬虫、深度学习、Kubernetes 相关内容,同时本书已经获得 Python 之父 Guido 的推荐,目前本书正在七折促销中!
内容介绍:
扫码购买
还没有评论,来说两句吧...