首页 科技资讯 业界

美光科技CEO:存储领域的AI芯片战已然打响

上周,当全球最大的存储芯片制造商之一美光科技(Micron Technology)收购人工智能硬件和软件初创公司Fwdnxt时,我一直在关注此事。

此举可能会非常有趣,如果成功的话,Fwdnxt可能会让美光与英特尔和英伟达等合作伙伴展开直接竞争,因为美光相信,内存和人工智能计算正在融合到同一个架构中。

美光负责这个项目的其中一位高管是Steve Pawlowski,并非偶然,他曾是英特尔的芯片设计师,拥有数十项专利。Pawlowski现在在美光公司担任高级计算解决方案副总裁。

Fwdnxt将与美光的存储芯片进行结合,帮助美光探索数据分析所需的深度学习人工智能解决方案,特别是在物联网和边缘计算方面。也许美光也会生产基于人工智能的内存芯片,或者包括人工智能在内的内存芯片。

总部位于博伊西的美光公司正在做这项工作,该公司首席执行官Sanjay Mehrotra说,因为“曾经的计算架构并不适合未来的发展趋势……从长远来看,我们认为计算最好在内存中完成。”

外媒在上周Micron Insights的活动上采访了Steve Pawlowski,以下是经过编辑整理的采访实录,由猎云网编译。

Steve Pawlowski:2014年我离开英特尔的时候,我来到了美光,他们问我:“你想做什么?”我说:“我认为,为了提高性能效率和降低延迟,计算和内存的融合是必要的。你们是一家存储公司,你们有技术,DRAM即将到来,我想在这一领域作出改变。”然后他们说:“好吧!”

我有一个小团队,专注于在计算和内存方面发现问题——我们可以开始测试概念,然后将概念引入产品,但不会增加成本。我在英特尔学习到的,一件我永远都不会忘记的事情,我们曾经有算数协同处理器,80287,80387,然后我们在387上赚了一大笔钱。当时我们有了一个聪明的想法,如果我们把协处理器集成到486中,我们可以做得更快更好。我们做到了,但突然间我们就没有足够的足迹了。那些不需要它的人说:“你不会为了那个死亡区域向我收费”,而那些需要它的人说:“会像其他人一样付给我钱,因为我是一个受欢迎的顾客。”然后,整个业务就归零了。

这件事给我的一个教训是,你不能增加更多的复杂性和成本,然后指望人们马上为它买单,除非,有大多数人能从中获得真正的价值。我们现在重点关注的是,找到人们今天可以从中获得价值的关键因素,然后看看你能否随着时间的推移扩大这个泡沫。我认为这是一个8到10年的旅程。在那些年的最后,当我回首往事时,我可能会意识到我浪费了它们。或者我可以回头看看,然后说:“哇,我们可能没有做到这一点,但我们做得很好。”

Q:这引发了很多关于这会导致什么后果的想象,你会给出一些具体的暗示吗?

Steve Pawlowski:有一件事,你肯定已经听过很多次了,那就是AI正处在边缘。我们关注这个问题的原因是,没有一个现成的编程模型或现成的架构可以让你与市场竞争。可以说,每个人都在为进入同一个战场而斗争。现在,我们有机会去那里做点什么了。人们不会看着你说:“美光是一家内存公司,你为什么要谈这个?”事实上,他们是这样认为:美光在FPGA上有这种能力,我们的高性能内存和架构映射在FPGA之上。我们会负责所有的抽象,所以你不必成为一个VHDL程序员,那么你愿意开始处理数据集的问题吗?

有趣的是,我并不需要主动去推动它。我们经常会参加FPGA会议。很多政府机构也会参加然后说:“我们在这里有个问题,我们想在这方面多做些尝试。”政府的问题是,他们很早就兴奋了,但如果你想做成什么事情,那就得花很长时间。因为采购周期很长,合同也是长期的,其他的一切都是长期的。

我们决定看看普通市场。有一家汽车公司来了,他们说:“我们还没有达到第五级,但我们肯定可以达到第三级、第四级的自动驾驶汽车,我们希望能够利用网络告诉我们正在发生什么。这看起来是有趣的,你愿意和我们一起工作吗?”还有很多人说:“他们为什么对与你们展开合作感兴趣?”这是因为我不会直接告诉他们需要做什么,我会说“这就是我们所拥有的,然后我们能为你做些什么呢?”他们会说:“好吧,你愿意听我们的,这是我们的问题。”

不管你信不信,我从2005年AMD推出的Opteron中吸取了教训。我们仍在推广7g处理器、33-stage管道,但无人问津。我们去了华尔街,我说:“你能再给我们一次机会吗?我们能坐下来了解一下我们的工作量吗?让我们一起合作,我们可以创造更好的产品吗?”事实证明,我们做到了。

我们找了很多人。瑞银,我记得他们写的一篇评论文章,他们说:“你可能不会制造最大的芯片或最好的芯片,但你来了,理解了我的问题。”这就是所谓的,真正理解客户和他们的问题,以及你能做什么。如果你这样做对他们没有帮助,也没关系,至少你学到了一些东西。

Q:就缩小范围而言,它是在开发一种新的内存,还是在计算处理过程是在哪里完成的?

Steve Pawlowski:答案是肯定的,但它是对动态真正的理解。顺便说一下,这取决于型号。我刚才和下面的人聊了聊有些语言模型需要100g的参数。当你看到有人说:“嘿,我有两个千兆字节,四个千兆字节。”那会适合大多数型号,但不是所有的型号,型号确实在不断发展。

这也取决于解决方案的延迟。我不知道你们是否看过OHSU的视频,那位女士患了乳腺癌,他们需要大量的数据,因为他们想把所有的电子显微镜图像放在一起,建立一个三维卷积模型,一个针对肿瘤的三维显示。他们没有足够的时间去了解,因为他们想要在一天甚至一个小时内获得切实可行的洞察力。我们在欧洲核子研究中心做的工作,我们现在需要数据。我们必须在几微秒内做出决定。这是什么有趣的东西,还是我们把它放弃。

不同的解决方案需要不同类型的内存,这也是我们正在学习的。我一直喜欢英特尔的一点是,用户知道程序的指令是什么。我了解它们是如何在机器上执行的,然后逐渐进入系统。当我来到美光的时候,我看到的只有地址和命令,就是单纯的读/写命令和地址。我完全不明白,这个东西是把15个不同的东西复制到不同的元素上,还是覆盖上去,还是什么?有了我们在6月合作和收购的这些公司,我们就可以构建这些算法、运行它们,看看整体效果如何。

我们的第一个目标是,我们能在内存中做些什么来提高解决方案的运行时间?我们可以建立更高的带宽,但那不一定能让用户达到目的。如果我们能建立一个缓冲区,引入一个矩阵,让我们一下子就能把矩阵移过来,而不是让这个东西去找它,这可能会带来巨大的好处。

最后,我们还会看到:其中大多数是乘法和累加的架构,以及非常简单的一些架构。它们只是被复制了几千次。一旦晶体管变得更好,你就可以在存储设备上做一个很好的乘法和累加。最终,设想一下采用这种架构,然后把它放在一个内存设备本身中,这是一个长期的愿景。

我想说的是,无论我们做什么,我们都要建立一个编程基础设施和一个范例,这样人们就不必每次迁移时都重写他们的代码。在我看来,这就是英特尔的巨大成功。当我们做386的时候,还没有32位的软件。但它确实能很好地运行16位代码,人们买它就是为了这个。你可以有很多平台,然后人们说:“好吧,现在我们去优化32位。”6到8年后,当486问世时,有很多软件可以利用它,然后它就变成了一台永不回头的机器。

先从内存开始,先从存储开始,看看我们能做什么。然后我们将看到什么可以随着时间的推移而真正地迁移,答案可能是什么都不能,答案也可能是一切都能。我想答案是在中间的某个地方,这取决于你把针移到哪里。

Q:是什么让这个项目变得如此困难,以至于可能成为一个历时10年的项目?

Steve Pawlowski:困难的是,这将是一个为期10年的项目。提出一种编程范式,社区就开始使用它,这样你就可以开始把编程带到社区。我不知道你是否知道Steve Wallach(来自Tracy Kidder的一本书),他是多年前的Tracy Kidder的灵魂。他刚退休,但他曾为我工作了一段时间。每次一对一的时候,他都说:“如果我要教你什么的话,就是这个。最容易编程的东西就是获胜的关键,屡试不爽。”底线是,你必须让编程社区参与进来。你不能只是去做一些花哨的硬件,然后把它们丢在一边,因为它们不会碰它,这是个难题。

我们还不是软件公司。我刚开始创业的时候,英特尔还不是一家软件公司。他们就像Nvidia,有很多软件工程师,在某些情况下甚至超过了他们的硬件工程师。你只是看不到他们。

Q:你们拿下了Fwdnxt,它是一个很全面的产品了,那么你们还需要找很多合作伙伴吗?

Steve Pawlowski:我们需要大量的合作伙伴和数据科学家,他们的推理机架构已经开发了5年,10年,12年了。优化它们的人来自不同的公司和不同的学术环境,它的创始人是普渡大学的教授,他们一直在优化这个架构。他们有一个相当好的编译器,采用了一个开放的网络交换前端,然后将其映射到他们的硬件上。

我需要的是数据科学家,是应用程序。我还认为我们需要一个动态运行时/调度程序。如果你真的有这个模型,如果我今天在硬件上写一个网络,在英特尔处理器上,三年后你仍然可以运行同样的程序,所有的东西都是通过指令集抽象出来的。因此,在这里我要做的是抽象网络,这意味着我们需要某种类型的动态运行时。也就是说,“啊,这个东西有8000个乘法和累加单位,这个有1000个,那我可以把那东西再分散一点。哦,这150个单位死了。我不想在这些方面做任何安排,但我仍然希望能够使用该部分。”

有几个实体一直在寻找解决动态运行时问题的方法,我认为这是非常重要的,尤其是我听说过估计值。一年前,我在机场遇到了一个在英特尔公司经营Litho的人。他说,他们相信当达到5nm以下时,30%的设备在制造时会不合格。

Q:你是说有缺陷,还是什么?

Steve Pawlowski:只是不符合规格。我们把所有的东西都装在护栏里,假设它的寿命是7年,而且质量会下降。基于这个特殊的原因,你甚至无法护卫它,它甚至也不能在guardrail里正常工作。

我找到了一篇由巴西研究者写的论文,上面说如果你有,假设你可以做512个核,那么你会降低20%。与峰值性能相比,总体性能下降约4%。32核芯片已经失效,在64核芯片中,只有一个内核处于活动状态。他们只是假设这些值是随机分布的。如果我们要使用比7更好的几何图形,那么为这些大型应用程序提供动态运行时将同样重要。

多年来,内存系统一直存在冗余。他们在测试,会在一个冗余块中交换,如果坏块比冗余块多,这就变成了一个密钥链。

Q:这是否意味着与英特尔和英伟达等公司的竞争很激烈?

Steve Pawlowski:这样会更有合作精神。美光在数据中心很难与英特尔和英伟达竞争,英伟达已经锁定了训练。即使有人提出了新的解决方案,至少有一家初创公司告诉我,超级计算者告诉他们:“很难把我们的训练算法从GPU上转移出来。它做得很好,仍在提高我们的业绩。不要把你的时间花在这上面。”我最后听到的统计数据,很大一部分推论仍然在Xeon上运行。

我们一直在关注——如果我们要在数据中心做些什么,那就是帮助我们的客户,比如英伟达和英特尔。但是如果从内存存储的角度来看有什么创新,让我们来看看它的边缘。我们将在那里获得最大的效率和规模经济。

Q:摩尔定律的部分还可以吗?你们会准时吗?

Steve Pawlowski:这是一个挑战,但这并没有阻止我们继续扩大规模。老实说,我必须永远活在摩尔定律里。不许说摩尔定律的坏话!这是第十一诫。因此当人们问我的时候,我的回答是:Dennard规模增长的放缓和停止才是真正推动创新的原因。现在,我们可能不会每两年得到两倍的晶体管,也许是每三四年一次。但我们会在第三维度成长。这一切并没有阻止我们。问题是怎样做最经济,工程师们会为难题找到真正有创意的解决方案。

Q:英特尔今天强调,他们将在2021年推出7nm图形芯片。他们似乎回到了预定的时间。

Steve Pawlowski:我希望如此。在我离开的时候,那是5年前的事了,4年的领先优势消失得如此之快,令人惊讶。

Q:从这个意义上说,似乎整个行业都在同步前进。

Steve Pawlowski:我认为这个行业还在继续他们的步调:“我们仍然可以看到一条通往规模化的道路。”就像我说的,我不知道这是否是摩尔预测的激进的两年,但想想过去40年来,由于摩尔定律,我们在能力方面取得了哪些进展。太不可思议了!我仍然认为会出现规模扩张,我们会像其他人一样利用它。

Q:Fwdnxt交易给你带来了什么?是更多的软件方面的业务,还是也有芯片制造领域的人才?

Steve Pawlowski:不是真正的芯片制造天才,并不是的。他们是建筑天才,他们有硬件架构方面的天赋。他们已经翻译了FPGA。在采取这方面,使ASIC和做前端和后端,这不是他们的专业知识,但是是他们现在在做的地方。他们带来了软件和体系结构,不仅是硬件的体系结构,还有卷积神经网络的体系结构知识。如果有人向他们提出一个问题,他们如何能够对该网络进行优化,然后使用他们的数据对其进行训练,以获得他们想要的精度水平。一旦他们达到了他们想要的精度,他们就把训练好的算法映射到FPGA上进行分类。

Q:所以它会给你提供多种选择,让你选择想做什么。

Steve Pawlowski:我完全把它看作是,我们正在学习这些东西是如何相互作用的,以及这些不同的网络是如何进化的。好的方面是,我可以放一个有一百万个参数的网络,就是说我可以放一个100gig的网络参数。它的运行速度较慢,但我能够理解那些大型网络将如何发展,以及我们将做些什么。

我在小组里讨论了我们是如何与欧洲核子研究中心合作的。我们从原型设计中学到的东西是惊人的。他们以如此快的速度把数据扔给它,他们需要如此快的洞察力。准确性是好的,但他们不需要像癌症患者那样紧迫的东西,而你需要99.999%的准确性。他们会问,“这70%或80%好吗?这很有趣吗?没有?那就不要了。把它扔出去。我们有更多的东西要对付,最终我们会得到一些达到这个门槛的东西,那将会很有趣。”他们每秒会发生4000万次碰撞。

Q:你对这种方法能解决的问题的一般描述是怎样的?

Steve Pawlowski:这两个问题,卫生保健和欧洲核子研究中心,基本上他们是用2D传感器图像构建一个3D模型。在欧洲核子研究中心一号上,粒子相互碰撞,产生了大量其他粒子。他们想要做的是快速测量这些粒子然后问:“所有的能量加起来了吗?”如果能量是X,你得到Y,它小于X,然后有一些能量没有被考虑进去,这是很有趣的科学,因为能量守恒定律说没有任何东西应该被创造或毁灭。一旦他们这样做了,他们就会想要获得不同的图像并构建一个关于衰减的3D模型,因为它不会全部显示在相同的2D图像中。

可视化肿瘤需要很多很多二维图像,X光,等等,并创建一个三维的体积模型。我们使用相同的3D卷积神经网络样式,因为它们是不同的网络,它们有不同的内层做不同的事情,但是我们用它们来解决一个类似的问题,即创建一个3D的表现。

Q:我不知道你是否听说过MediView公司。他们来自克利夫兰诊所,刚刚筹集了450万美元的风险投资。他们对病人的身体进行核磁共振成像,所有的东西都在里面,然后他们把数据放入微软全息眼镜。然后医生就可以用3D技术将其可视化。你把手术刀放到病人身上,他看到手术刀穿过小孔,进入他想要的地方,否则他就不会看到里面的情况。以前,他必须根据他所看到的所有2D屏幕进行猜测。

Steve Pawlowski:那太棒了。几年前,俄勒冈健康科学大学的外科主任说:“你需要来这里。”当时我在英特尔,他们给我们洗了全身,给我们做了双疝气手术,他说:“我想给你们展示我们现在是怎么做手术的。”他们仔细检查了一切。当然,这个人并不是完全开放的,否则我就不会去做手术了。手术结束后,他说:“现在,让我向你们展示如何训练我们的外科医生。”就工具而言,它就像石器时代。这将是一个完美的教学工具。

您可能也感兴趣:

    502 Bad Gateway

    502 Bad Gateway


    nginx/1.4.4
    502 Bad Gateway

    502 Bad Gateway


    nginx/1.4.4

官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

↑扫描二维码

想在手机上看科技资讯和科技八卦吗?

想第一时间看独家爆料和深度报道吗?

请关注TechWeb官方微信公众帐号:

1.用手机扫左侧二维码;

2.在添加朋友里,搜索关注TechWeb。

手机游戏更多