新闻动态

Conference related

当前位置 > 首页 > 新闻动态 > 行业动态 > 美国国防部资助私密边缘计算,与EnCharge AI联合开发超强边缘计算芯片

美国国防部资助私密边缘计算,与EnCharge AI联合开发超强边缘计算芯片

由于人工智能的蓬勃发展,芯片世界正在经历一场巨大的转型。


我们对能够更快地训练人工智能模型的芯片,以及能够在手机端运行模型的芯片的需求正在增加,后者使我们能够在不泄露私人数据的情况下使用这些模型。


政府、科技巨头和初创公司都想从不断增长的半导体市场中分一杯羹。


以下是未来一年的四个趋势,它们将定义未来的芯片是什么样子的,谁将制造它们,以及它们将解锁哪些新技术。


1716101992509399.png



(来源:AI 生成,图文无关)



世界各地的芯片法案


在美国凤凰城郊区,世界上最大的两家芯片制造商,台积电和英特尔正在沙漠中建造工厂,它们希望这些园区能强化美国的芯片制造能力。


这些努力背后的共同点是资金。2024 年 3 月,美国总统拜登宣布,为英特尔在美国的扩张提供 85 亿美元的联邦资金和 110 亿美元的贷款。几周后,他又向台积电提供了 66 亿美元。


这些资助只是美国向芯片行业提供补贴的一部分,依据是 2022 年签署的 2800 亿美元《芯片与科学法案》。


这笔庞大的资金意味着,任何涉足半导体生态系统的公司都在思考如何重组其供应链,然后从补助中受益。


虽然大部分资金旨在促进美国的芯片制造业发展,但无论是设备制造商,还是利基材料初创公司,都可以参与其中。


但美国并不是唯一一个试图在本土打造(部分)芯片制造供应链的国家。日本在本国的芯片法案上拨款了 130 亿美元,欧洲将拿出 470 多亿美元。2024 年早些时候,印度也宣布投入 150 亿美元建设芯片厂。


美国塔夫茨大学教授、《芯片战争》一书的作者克里斯·米勒(Chris Miller)说,这一趋势的根源可以追溯到 2014 年。


他说:“这创造了一种动态,在这种动态中其它政府得出结论,它们别无选择,只能提供激励措施。”


这种不安感,加上人工智能热潮的兴起,导致西方政府都在为替代方案提供资金。在接下来的一年里,这可能会产生滚雪球效应,更多的国家会因为担心落后而开展自己的芯片项目。


米勒说,这笔钱不太可能培养出全新的芯片竞争者,也不太可能从根本上动摇芯片制造行业。相反,它将主要鼓励像台积电这样的行业头部企业在多个国家开枝散叶。


但仅靠资金还不足以迅速做到这一点,台积电在美国亚利桑那州建厂的努力陷入了泥潭,完工日期一再推迟,还遭遇了劳资纠纷,英特尔也同样未能兑现此前承诺的完工期限。


目前尚不清楚这些工厂何时,甚至是否能开始运转,以及它们的设备和员工能否与这些公司国外最先进的工厂保持相同的水平。


米勒说:“供应链只会在几年,甚至几十年内缓慢转变。但情况正在发生变化。”



更关注边缘人工智能


目前,我们与 ChatGPT 等人工智能模型的交互大多都是通过云进行的。


这意味着,当你要 ChatGPT 挑选一套衣服(或成为你的男朋友)时,你的请求会被发送到 OpenAI 的服务器,由服务器上的模型对其进行处理,并在回复你之前完成推理(就像是得出一个结论)。


依赖云服务有一些缺点。例如,它需要联网,这也意味着你的一些数据要与模型运营商共享。


这就是为什么人们和资金对人工智能的边缘计算很感兴趣。在边缘计算中,人工智能模型的调用和运算都在你的设备上,比如笔记本电脑或智能手机上。


该行业正在大力发展更加了解用户的人工智能模型。OpenAI 的 CEO 山姆·奥特曼(Sam Altman)曾向我描述了他眼中的杀手级人工智能应用程序,它“完全了解我的一生,我的每一封电子邮件,每一次对话”。


因此,人们对更快的边缘计算芯片有了需求,这种芯片可以在不共享私人数据的情况下运行模型。


这些芯片面临着与数据中心芯片不同的限制,它们通常必须更小、更便宜、更节能。


美国国防部正在资助大量针对快速私密边缘计算的研究。2024 年 3 月,其研究部门国防高级研究计划局(DARPA,Defense Advanced Research Projects Agency )宣布与芯片制造商 EnCharge AI 合作,开发一种用于人工智能推理的超强边缘计算芯片。


EnCharge AI 正在努力制造一种能够保护隐私的芯片,也可以在非常小的功率下运行。这将使其适用于卫星和离网监视设备等军事应用。该公司预计将在 2025 年推出它们。


人工智能模型的某些应用将始终依赖于云,但对改进边缘计算的新投资和兴趣可能会为我们的日常设备带来更快的芯片,从而带来更多的人工智能。


如果边缘芯片足够小、足够便宜,我们很可能会在家里和工作场所看到更多人工智能驱动的智能设备。如今,人工智能模型大多局限于数据中心。


EnCharge AI 联合创始人纳文·维尔玛(Naveen Verma)表示:“我们在数据中心看到的许多挑战都将被解决。我希望看到(行业)对边缘的关注,我认为这对大规模部署人工智能至关重要。”



科技巨头进军芯片制造


无论是快时尚、还是草坪护理,更行各业的公司都在支付高昂的计算成本,为其业务创建和训练人工智能模型。


目前的应用包括扫描和总结文档的模型,以及面向外部的技术如虚拟代理,可以指导你如何修理冰箱。这意味着使用云计算训练这些模型的需求已经达到顶峰。


提供大部分云计算服务的公司是亚马逊、微软和谷歌。多年来,这些科技巨头一直希望通过在数据中心使用自主研发的芯片来提高利润率,而不是从英伟达这样的公司购买芯片。


英伟达几乎垄断了最先进的人工智能训练芯片,其市值超过了 183 个国家的 GDP。


亚马逊于 2015 年收购了初创公司 Annapurna Labs,开启了自主芯片研发的旅程。


谷歌在 2018 年推出了自己的 TPU 芯片。微软在 2023 年推出了首款人工智能芯片,Meta 则在 2024 年推出了新版人工智能训练芯片。


这一趋势可能会影响英伟达的份额。但在大型科技公司眼中,英伟达除了扮演竞争对手的角色,还是必不可少的供应商。


无论它们自己的内部努力是否成功,云计算巨头的数据中心仍然需要它的芯片。


这是因为它们自己的芯片制造能力无法满足所有需求,而且它们的客户也希望自己能使用性能最好的英伟达芯片。


微软 Azure 硬件部门负责人拉尼·博卡(Rani Borkar)表示:“这实际上是为了让客户有选择权。”


她说,她无法想象微软在其云服务中全部使用自研芯片的未来:“我们将继续维持强有力的合作伙伴关系,并部署与我们合作的所有伙伴的芯片。”


就在云计算巨头试图从芯片制造商那里抢走市场份额的同时,英伟达也在采取类似的行动。


2023 年,该公司推出了自己的云服务,这样客户就可以绕过亚马逊、谷歌和微软,直接在英伟达芯片上访问云服务。


随着这场争夺市场份额的激烈斗争的展开,未来一年的问题将是,客户如何看待大型科技公司的芯片,是与英伟达最先进的芯片旗鼓相当,还是更像它的备胎。



英伟达与创业公司作战


尽管英伟达占据芯片行业的主导地位,但仍有一波投资流向初创公司,这些公司的目标是在未来芯片市场的某些领域击败英伟达。


这些初创公司都承诺加速人工智能的训练,从量子到光子,再到可逆计算,它们对这些新鲜的计算技术有着不同的想法。


28 岁的穆拉特·奥南(Murat Onen)是芯片初创公司 Eva 的创始人。这家公司是从他的麻省理工学院博士工作中诞生的,他描述了现在创办一家芯片公司是什么感觉。


“英伟达站在山的最高处,这就是我们生活的世界。”他说。


许多初创公司,如 SambaNova、Cerebras 和 Graphcore,正试图改变芯片的底层架构。


想象一下,一个人工智能加速器芯片不断地在不同区域之间来回移动数据。


一条信息存储在存储区,但必须移动到处理区,在那里进行计算,然后送回存储区进行保管。所有这些活动都需要时间和能量。


提高这一过程的效率将为客户提供更快、更便宜的人工智能训练条件,但前提是芯片制造商拥有足够好的软件,使人工智能训练公司能够无缝过渡到新芯片。


如果软件转型过于笨拙,OpenAI、Anthropic 和 Mistral 等模型制造商可能会选择大牌芯片制造商。


这意味着采用这种方法的公司如 SambaNova,不仅要在芯片设计上花费大量时间,还要在软件设计上花费大量时间。


奥南提出了更深层次的变革。几十年来,传统的晶体管越来越小,效率越来越高,他使用了一种称为质子门控晶体管(proton-gated transistor)的新组件。


他表示,Eva 公司专门为人工智能训练里面的数学需求设计了这种组件。


它允许设备在同一个地方存储和处理数据,节省时间和计算能耗。使用这种组件进行人工智能推理的想法可以追溯到 20 世纪 60 年代,但当时的研究人员无法找到将其用于人工智能训练的方法。


部分原因是材料不够先进,它需要一种能够在室温下精确控制电导率的材料。


奥南说,有一天在实验室里,“通过优化这些数字,我们非常幸运地得到了我们想要的材料。突然之间,这个设备变得不一样了,不再是科研项目了。”


这增加了大规模使用这种组件的可能性。经过数月的数据确认,他创立了 Eva。这项工作的相关论文发表在 Science 上。


但在一个许多创始人都承诺但未能推翻领先芯片制造商主导地位的行业,奥南坦率地承认,他还需要几年的时间才能知道他的设计是否能按照预想工作,以及制造商是否会同意生产。


他说,领导一家公司度过这种不确定性,需要灵活性和顶住他人的怀疑。


他说:“我认为,有时人们太执着于自己的想法了,导致缺乏安全感。他们会想,如果这个想法失败了,那就什么都没有了。我不这么认为,我一直在寻找挑战我们并说我们做错了的人。”


来源: DeepTech深科技

相关文章链接
中国信通院可信边缘计算推进计划正式发布《物联网边缘计算安全技术与应用白皮书》
2023上半年中国边缘云市场逆势增长,走出独立行情
Gartner首发《工业物联网边缘计算市场指南》,预测未来市场走势
国家标准 | GB/T 42564-2023《信息安全技术 边缘计算安全技术要求》正式发布
到2030年,边缘计算潜在市场将增长至4450亿美元

关于联盟

边缘计算作为新兴产业应用前景广阔,产业同时横跨OT、IT、CT多个领域,且涉及网络联接、数据聚合、芯片、传感、行业应用多个产业链角色。为了全面促进产业深度协同,加速边缘计算在各行业的数字化创新和行业应用落地,华为技术有限公司、中国科学院沈阳自动化研究所、中国信息通信研究院、英特尔公司、ARM和软通动力信息技术(集团)有限公司作为创始成员,联合倡议发起边缘计算产业联盟,致力于推动“政产学研用”各方产业资源合作,引领边缘计算产业的健康可持续发展。

加入联盟

联系我们

  • 北京市海淀区上地十街辉煌国际5号楼1416
  • +86 10 5711 6299 +86 13910146695
  • info@ecconsortium.net
×

登录

确定