用于训练自动驾驶 AI 特斯拉发布新的超级计算机

行业 (86) 2021-06-23 03:33 星期三 1个月前

近日,根据外媒报道,特斯拉推出了新的超级计算机,据称是全球第五大超级计算机,也是特斯拉即将推出的新超级计算机 Dojo 的“先行版本”。

用于训练自动驾驶 AI 特斯拉发布新的超级计算机

该超级计算机将用于训练为特斯拉 Autopilot 和即将推出的自动驾驶人工智能神经网络 。在过去几年中,特斯拉一直将重点放在汽车内外部的计算能力上。在内部,它需要足够强大的计算机来运行其自动驾驶软件;而在外部, 需要超级计算机训练由神经网络支持的自动驾驶软件,这些神经网络会接收来自车队的大量数据。

特斯拉的 Dojo 项目由计算速度达每秒百万万亿次(exaFLOP)的超级计算机组成,使其成为全球最强大的计算机之一。过去几年内,特斯拉一直在研究 Dojo,特斯拉首席执行官埃隆·马斯克(Elon Musk)曾表示 Dojo 应于今年年底准备投用。

日前,在 2021 年计算机视觉与模式识别大会上,特斯拉 AI 主管 Andrej Karpath 介绍了该公司的最新超级计算机。Karpathy 展示了特斯拉的第三个超级计算机集群,特斯拉声称该新集群具有一些相当疯狂的参数,应该会使其成为全球第五的计算机:

  • 8x A100 80GB 的 720 个节点(总共 5760 个 GPU)
  • 1.8 EFLOPS(720 节点 * 312 TFLOPS-FP16-A100 * 8 gpu/节点)
  • 10 PB 的“热层”NVME 存储 @ 1.6 TBps
  • 640 Tbps 的总交换容量 

Karpathy 表示:

 “我们有一个神经网络架构网络和一个 1.5 pb 的数据集,需要大量的计算。对我们而言,计算机视觉是使自动驾驶成为可能的基本要素。为了让其更好地工作,我们需要掌握来自车队的数据,训练大量的神经网络,并进行大量实验,因此,我们在计算上投入了很多。在本例中,我们展示的是使用 720 个 80GB 版本的 8x A100 节点构建的集群。这是一台巨大的超级计算机,就每秒浮点运算次数而言,我认为它可能是全球第五的超级计算机。”

Karpathy 不想详细介绍 Dojo 项目,但他表示,与特斯拉目前的集群相比,Dojo 将是一台更适合神经网络训练的超级计算机。马斯克此前还表示,特斯拉计划最终将其超级计算机提供给其他公司,以便这些公司训练自己的神经网络。

发表评论