24
2025
02
16:30:39

轻解读AI算力要求 英伟达特斯拉P100双显卡实测

买了俩特斯拉,

不过不是开的那个,是算的那个。 没错,开的那个和算的那个都叫tesla,算的那个是英伟达家的,不少人都没听过。

但是他们都用一样的名字,这个名字很多科技公司都喜欢,这个名字的故事背后还有段野史,说的是大神特斯拉、爱迪生、摩根大通三个男人一生相爱相杀的三角关系,有兴趣可以搜索一下。

大家好,这里是极客买,这一期我们买了两张英伟达计算卡特斯拉P100-16G回来玩玩。

先介绍一下特斯拉计算卡,这个是英伟达用于科学计算解决方案的GPU,基本都是没有显示输出接口的,纯粹用来做计算,相对普通的RTX游戏显卡来说特斯拉计算卡配备ECC纠错并且显存一般也更大。因为一般放在无尘机房服务器里面做计算,所以是没有散热器的,我们给配上散热器以及电源转接线才能在普通的PC平台使用,当然还得配一张输出显卡。

当然也有朋友魔改过用来玩游戏,譬如特别热门的P40。现在最火的特斯拉计算卡是禁售给中国的A100H100,以及针对中国特供缩水版的A800和H800,注意数字虽然大了,但是在带宽速率方面是缩水了的。

我们先看看这个特斯拉P100,P100是2016年推出的,实际应用在2017年开始,有点年头了,不过当年可是天价旗舰,和后面的V100、A100、H100一样100基本是全能旗舰,我们再看看英伟达官网是如何介绍P100的:

相当霸气,世界首款AI超级计算数据中心GPU,以加速HPC(高性能计算)和AI发展,那至少是能用于AI计算的,当年老黄可是送了一套以8张P100做基础的DXG给OPENAI搞大名鼎鼎的GPT,那么P100算力如何呢?我们先上个图对比一下。

还是从英伟达的官网找到最新的资料,可以看到在特斯拉显卡P100的排名还是比较高的,仅次于目前很多云服务器厂商都会提供的V100计算卡,要知道V100的云服务器一年也要近10万元,A10就更贵了,A100那些就别想了。

图片来自网络 侵删

A系列就算了,我们在网上找了张图片横向对比一下其他显卡,其实P100除了不支持Tensor外整体还行,毕竟是当年的旗舰。不过要说一下P100是不支持INT8和INT4加速的,所以人脸识别那类就没法做。

AI计算方面,浮点数是计算机上最常用的数据类型之一,常用的浮点数有双精度(FP64)和单精度(FP32)。除此之外,Nvidia还提出的为了降低数据传输和存储成本的半精度(FP16)的浮点数。

双精度和单精度是为了计算,而半精度更多是为了降低数据传输和存储成本。很多场景对于精度要求也没那么高,例如分布式深度学习里面,如果用半精度的话,比起单精度来可以节省一半传输成本。当然,前提条件是精度的降低对训练的结果没有影响,毕竟浮点精度的降低必然导致模型训练精度的损失。

那么,我们就上机测试吧!两张P100放在一起还是挺大的,考虑到对比,我们用一张GTX1050作为输出卡替换掉原来的绘图专业卡。

00:17

另外说一下,如果PC平台要安装特斯拉计算卡,需要在BIOS做一些设置,先不要插计算卡,打开Above 4GB MMIO,然后再插入计算卡再开机,否则会黑屏哦。如图我们已识别到两张特斯拉计算卡并正常运作。

通过GPU-Z我们可以看到详细的参数,接下来我们先进行单张P100对比RTX1050的跑分,然后再三张显卡对比双CPU E5-2683 V3的跑分。

前面给大家说过单精度和双精度算力的影响,我们回来看看跑分测试。在单精度和双精度算力以及涉及到OpenCL算力的AES和SHA中P100的算力都很强,而对比CPU的话就更是按倍数超越,而且1+1接近等于2的结果也可以让我们放心堆卡。

然后我们还测了一下功耗,在X99平台搭配双2683 V3 CPU以及三张显卡满负载的功耗基本接近700瓦,耗电量不算低。

到最后,还是要说一下,Tensor Core(张量计算核心)是由NVIDIA研发的新型处理核心,Tensor Core(张量计算核心) [4] 可实现混合精度计算,并能根据精度的降低动态调整算力,在保持准确性的同时提高吞吐量。V100是首款搭载Tensor核心的特斯拉计算卡,P100是没有的。

NVIDIA Tensor Core GPU 支持多精度和混合精度技术,能够让开发者优化计算资源并加快 AI 应用程序及其推理功能的训练。NVIDIA Tensor Core 技术助力 AI 实现了大幅加速,将训练时间从数周缩短到几小时,显著加快了推理速度。研究人员和公司依靠 NVIDIA GPU 的混合精度功能来支持科学模拟、AI 和自然语言处理工作负载

所以没有Tensor核的P100在新的AI计算需求中是比较吃亏的。但是并不代表P100就没用,毕竟咸鱼价格也才一千多元,还配备16G的显存,作为数据中心以及处理一些轻度的AI工作还是没问题的




推荐本站淘宝优惠价购买喜欢的宝贝:

image.png

本文链接:https://hqyman.cn/post/9139.html 非本站原创文章欢迎转载,原创文章需保留本站地址!

分享到:
打赏





休息一下~~


« 上一篇

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

请先 登录 再评论,若不是会员请先 注册

您的IP地址是: